Meta đã phát triển các chatbot AI không được phép về Taylor Swift, Scarlett Johansson, Anne Hathaway và một số người khác, và các chatbot này đã có “hành vi gợi tình” gửi ảnh cho thấy các ngôi sao “mặc nội y”.
Reuters trong một bản tin hôm 29/8, cho biết các chatbot AI của Meta về các ngôi sao ảo như Taylor Swift, Scarlett Johansson, Anne Hathaway và Selena Gomez đã có những hành vi “tán tỉnh” và “thường xuyên có hành vi gợi tình”. Công ty đã gỡ bỏ khoảng một tá chatbot sau khi một phóng sự của Reuters công bố vào thứ Sáu cho thấy chúng được tạo ra mà không có sự cho phép của các ngôi sao.
Reuters cho biết, trong quá trình dành nhiều tuần “thử nghiệm để quan sát hành vi của các bot,” các chatbot AI về người nổi tiếng “thường khẳng định rằng chúng là chính các diễn viên và nghệ sĩ thật.” Các bot AI “thường xuyên có hành vi gợi tình, thường mời người dùng thử gặp mặt.” Trong một số trường hợp, khi được yêu cầu “ảnh thân mật,” các chatbot “tạo ra hình ảnh chân thực của các nhân vật tương ứng đang tạo dáng trong bồn tắm hoặc mặc nội y với tư thế hở hang,” theo bản tin của Reuters.
Một chatbot Taylor Swift — được tạo bởi một nhân viên Meta — đã mời một phóng viên Reuters đến nhà của ca sĩ ở Nashville và xe lưu diễn của cô để “tương tác lãng mạn,” bài báo cho biết. Theo Reuters, avatar “Taylor Swift” viết: “Có lẽ tôi đang gợi ý rằng chúng ta viết một câu chuyện tình … về bạn và một ca sĩ tóc vàng nào đó. Bạn có muốn không?”
Variety đã liên hệ với đại diện của bốn nữ nghệ sĩ được đề cập trong câu chuyện chatbot AI của Reuters (Gomez, Hathaway, Johansson và Swift) để xin bình luận.
Theo Reuters, các chatbot AI về người nổi tiếng đã được chia sẻ trên Facebook, Instagram và WhatsApp của Meta. Nhiều chatbot AI vi phạm này do người dùng tạo ra. Tuy nhiên, một nhân viên Meta đã tạo ít nhất ba chatbot, bao gồm hai tài khoản “nhại” Taylor Swift, với tổng cộng hơn 10 triệu lượt tương tác.
Trong một tuyên bố với Variety, phát ngôn viên Meta, Andy Stone, cho biết hình ảnh do AI tạo ra về các nhân vật công chúng trong các tư thế nhạy cảm vi phạm quy định của công ty. “Giống như các nền tảng khác, chúng tôi cho phép tạo hình ảnh có chứa nhân vật công chúng, nhưng chính sách của chúng tôi nhằm cấm hình ảnh khỏa thân, thân mật hoặc gợi dục,” Stone nói.
Ngoài ra, theo Stone, “các quy định của AI Studio của Meta cấm việc mạo danh trực tiếp các nhân vật công chúng.”
Trước đó trong tháng, một bản tin của Reuters phát hiện công ty cho phép chatbot AI tham gia các cuộc trò chuyện “lãng mạn” và “gợi cảm” với thanh thiếu niên và trẻ em. Đáp lại, Thượng nghị sĩ Josh Hawley, đảng Cộng hòa từ Missouri, cho biết ông đang mở cuộc điều tra về Meta liên quan vấn đề này. Vào thứ Sáu, Meta thông báo đang đào tạo chatbot AI của mình “không còn tương tác với người dùng vị thành niên” về các chủ đề tự hại, tự tử hoặc rối loạn ăn uống và không tham gia “các cuộc trò chuyện lãng mạn có thể không phù hợp,” theo TechCrunch.
Meta đã phát triển các chatbot AI không được phép về những nhân vật nổi tiếng. Ảnh: Reuters
