Meta lên tiếng xin lỗi vì AI vẽ ‘con chó da đen’

Vụ việc của Meta AI được nhiều người đánh giá là nghiêm trọng, có dấu hiệu mang tính phân biệt chủng tộc.

Meta Việt Nam vừa xác nhận sự cố liên quan đến chatbot trí tuệ nhân tạo (Meta AI) trên ứng dụng Messenger, sau khi người dùng phát hiện tình trạng câu lệnh “black dog” (chó đen) lại bị công cụ AI này hiểu nhầm, tạo ra hình ảnh một người đàn ông hoặc cậu bé da màu. Tình huống tương tự cũng xảy ra khi người dùng nhập từ khóa tiếng Việt như “tạo hình chó da đen.”

Vụ việc được nhiều người đánh giá là nghiêm trọng, có dấu hiệu mang tính phân biệt chủng tộc. Ngay khi được phản ánh, Meta tiến hành điều tra và bước đầu xác nhận đây là lỗi từ hệ thống AI. Theo công ty, nguyên nhân có thể đến từ việc mô hình ngôn ngữ (Llama 3.2) “ghép nối” sai dữ liệu người dùng khi cố gắng phân tích từ khóa “black” và “dog,” dẫn đến hiểu nhầm về màu da con người.

Ngày 31.12, phía Meta thông báo đã khắc phục lỗi và lên tiếng xin lỗi người dùng. “Chúng tôi xin lỗi vì sai sót này. Meta đang xây dựng các biện pháp bảo vệ để mang lại trải nghiệm an toàn và thú vị hơn cho mọi người. Tuy nhiên, cũng như các hệ thống AI tạo sinh khác, mô hình này có thể trả về nội dung không chính xác hoặc gây phản cảm,” đại diện Meta nhấn mạnh. Công ty đồng thời kêu gọi người dùng sử dụng công cụ một cách có trách nhiệm, báo cáo ngay nếu bắt gặp nội dung bất thường.

Được biết, Meta AI bắt đầu phát hành miễn phí cho toàn bộ người dùng Việt Nam từ giữa tháng 12.2024, tích hợp trên Messenger với nhiều tính năng như tìm kiếm thông tin, sáng tạo hình ảnh, trò chuyện bằng tiếng Việt. Nhờ được huấn luyện từ kho dữ liệu đăng tải trên mạng xã hội Facebook, chatbot này được nhiều người dùng đánh giá cao về khả năng phản hồi trôi chảy, tạo ảnh tương đối tốt. Tuy nhiên, như vụ việc vừa qua cho thấy, rủi ro “hiểu sai” và phân biệt chủng tộc vẫn là vấn đề đáng quan ngại.

Trong nội bộ Meta, quy trình “Red Teaming” đã được áp dụng nhằm rà soát và thử nghiệm AI trước khi phát hành, nhằm phát hiện sớm các lỗ hổng hoặc hành vi không mong muốn. Dù vậy, đại diện hãng cho biết khó tránh khỏi các sai sót ban đầu, đặc biệt khi công cụ AI liên tục cập nhật và học hỏi dữ liệu mới. Theo Meta, người dùng nên cẩn trọng khi khai thác tính năng tạo sinh (generative) của AI, nhất là trong các nội dung liên quan đến màu da, chủng tộc hoặc nhạy cảm về văn hóa, đồng thời cần chủ động thông báo kịp thời để nhà phát triển khắc phục.

Từ vụ việc này, nhiều chuyên gia trong lĩnh vực AI khuyến cáo, vấn đề thiên kiến dữ liệu (data bias) vẫn là một trong những thách thức hàng đầu. Khi dữ liệu đầu vào bị thiếu sót hoặc sai lệch, mô hình AI sẽ dễ rơi vào tình trạng gán ghép phản cảm hoặc phản hồi thiếu chính xác. Dù Meta đã công bố các biện pháp, giới phân tích vẫn mong muốn hãng đẩy mạnh giám sát và cập nhật AI thường xuyên, tránh tình trạng tái diễn gây tổn hại đến trải nghiệm và quyền lợi của người dùng.