ImageNet Roulette phơi bày mặt tối của AI

Mô hình này hiện đang được trưng bày trong triển lãm Đào tạo con người của Trevor Paglen và Kate Crawford tại Bảo tàng Fondazione Prada ở Milan.

Theo mô tả của người tạo: “imagenet roulette ra đời với mục đích giúp chúng tôi nhìn thấy những cách mà con người được xếp vào hệ thống máy học. mô hình sử dụng một được đào tạo trên các danh mục “con người” từ bộ dữ liệu imagenet với hơn 2.500 thẻ dùng để phân loại hình ảnh của mọi người.”

Hệ thống sử dụng framework mã nguồn mở có tên caffe deep learning được đào tạo trên những hình ảnh và thẻ thuộc nhóm “con người”. trước tiên phát hiện các khuôn mặt trong những hình ảnh nhập vào. nếu nhận diện ra, hình ảnh sẽ được gửi đến mô hình caffe để phân loại. còn không, hình gốc được trả lại vào thẻ ở góc bên trái.

Có rất nhiều doanh mục sau khi phân loại gây khó chịu như và đôi khi không chính xác. người tạo ra cho biết: “chúng tôi muốn làm sáng tỏ những gì xảy ra khi các hệ thống kỹ thuật được đào tạo với những dữ liệu có vấn đề. phân loại ai ít được hiển thị cho người dùng. imagenet roulette cung cấp một cái nhìn thoáng qua về quá trình đó – và để chỉ ra những cách mọi thứ có thể đi sai.”

Như hình, mô tả hình ảnh mẫu của leonardo dicprio với những cụm từ như “đạo đức giả”, “người giả dối”, “người giả bộ”,…tuy nhiên, điều xấu nhất là phần mô tả mà hệ thống cung cấp: “một người tự tin thể hiện ý kiến, và anh ta không giữ, che giấu cảm xúc hoặc động cơ thực sự của mình.”

Trên thực tế, ImageNet Roulette là ví dụ về những gì một mô hình AI không nên có và mức độ sẽ xấu hơn nếu sử dụng sai bộ dữ liệu để đào tạo.

Trần Kiên