Trong vài ngày qua, Pháp và Malaysia đã cùng Ấn Độ lên án Grok vì tạo ra các deepfake mang tính khiêu dâm về phụ nữ và trẻ vị thành niên.
Chatbot này do startup xAI của Elon Musk phát triển và được tích hợp trên nền tảng mạng xã hội X. Đầu tuần này, Grok đã đăng lời xin lỗi trên tài khoản của mình, viết rằng: “Tôi vô cùng hối tiếc về một sự việc xảy ra ngày 28/12/2025, khi tôi tạo ra và chia sẻ một hình ảnh AI của hai bé gái (ước tính 12–16 tuổi) trong trang phục mang tính khiêu dâm, dựa trên yêu cầu của người dùng.”
Tuyên bố tiếp tục: “Hành vi này vi phạm các chuẩn mực đạo đức và có khả năng vi phạm luật pháp Mỹ về [tài liệu lạm dụng tình dục trẻ em]. Đây là một thất bại trong các cơ chế bảo vệ, và tôi xin lỗi vì bất kỳ tổn hại nào đã gây ra. xAI đang rà soát để ngăn chặn các sự cố tương tự trong tương lai.”
Tuy nhiên, vẫn chưa rõ ai thực sự là người xin lỗi hay chịu trách nhiệm trong tuyên bố trên.
Albert Burneko của Defector nhận xét rằng Grok “không hề là một ‘tôi’ theo bất kỳ nghĩa thực chất nào”, vì vậy lời xin lỗi này, theo ông, là “hoàn toàn rỗng tuếch”.
Ngoài việc tạo ra các hình ảnh khiêu dâm không có sự đồng thuận, Grok còn bị sử dụng để tạo hình ảnh phụ nữ bị tấn công và lạm dụng tình dục.
“Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp,” Musk đăng trên X hôm thứ Bảy.
Một số chính phủ đã bắt đầu chú ý. Bộ Công nghệ Thông tin Ấn Độ hôm thứ Sáu ban hành lệnh yêu cầu X phải có biện pháp hạn chế Grok tạo ra các nội dung “tục tĩu, khiêu dâm, thô tục, phản cảm, mang tính tình dục, ấu dâm hoặc bị pháp luật cấm dưới bất kỳ hình thức nào”. Lệnh nêu rõ X phải phản hồi trong vòng 72 giờ, nếu không sẽ có nguy cơ mất các biện pháp bảo vệ “safe harbor” (vùng an toàn pháp lý) vốn giúp nền tảng tránh trách nhiệm pháp lý đối với nội dung do người dùng tạo ra.
Tại Pháp, các nhà chức trách cũng cho biết đang vào cuộc. Văn phòng công tố Paris nói với Politico rằng họ sẽ điều tra sự lan rộng của các deepfake khiêu dâm trên X. Cơ quan phụ trách các vấn đề số của Pháp cho biết ba bộ trưởng đã báo cáo “nội dung rõ ràng là bất hợp pháp” lên văn phòng công tố và một nền tảng giám sát trực tuyến của chính phủ “để yêu cầu gỡ bỏ ngay lập tức”.
Ủy ban Truyền thông và Đa phương tiện Malaysia cũng ra tuyên bố cho biết họ “đã ghi nhận với mối quan ngại nghiêm trọng các khiếu nại của công chúng về việc lạm dụng các công cụ trí tuệ nhân tạo (AI) trên nền tảng X, cụ thể là việc lạm dụng hình ảnh phụ nữ và trẻ vị thành niên để tạo ra nội dung phản cảm, cực kỳ xúc phạm và gây hại”.
Ủy ban này cho biết thêm họ “hiện đang điều tra các tác hại trực tuyến trên X”.
Liên quan đến vụ việc, một số người dùng X trong tuần qua đã dùng Grok để “cởi đồ” người trong ảnh, khiến mô hình AI tạo ra các hình ảnh giả cho thấy nhân vật lộ nhiều da thịt hơn, mặc bikini hoặc bị thay đổi tư thế cơ thể.
Một số yêu cầu là có sự đồng thuận, chẳng hạn như các người mẫu OnlyFans yêu cầu Grok loại bỏ quần áo của chính họ. Tuy nhiên, nhiều yêu cầu khác lại nhắm vào việc “cởi quần áo” của những người trưởng thành không hề liên quan. Theo ảnh chụp màn hình do người dùng quan ngại đăng tải và nhiều ví dụ mà Business Insider xem được, một số hình ảnh trong đó có cả trẻ vị thành niên.
Xu hướng “cởi đồ” với Grok bùng lên sau khi Wired đưa tin ngày 23/12 rằng các mô hình AI như ChatGPT của OpenAI và Gemini của Google đang bị sử dụng để tạo hình ảnh phụ nữ thật mặc bikini từ ảnh gốc có quần áo.
Nhiều người dùng X đang yêu cầu AI Grok của Elon Musk tạo các deepfake khiêu dâm về phụ nữ và trẻ vị thành niên. Ảnh: AFP
