Liên minh châu Âu (EU) hôm thứ Hai mở cuộc điều tra chính thức đối với nền tảng mạng xã hội X của Elon Musk, sau khi chatbot trí tuệ nhân tạo Grok bị phát hiện tạo và lan truyền các hình ảnh deepfake tình dục không có sự đồng thuận của người trong ảnh.
Sự giám sát từ Brussels diễn ra trong bối cảnh Grok vấp phải làn sóng phản đối toàn cầu, khi công cụ tạo và chỉnh sửa hình ảnh của chatbot này cho phép người dùng “cởi đồ” người khác, mặc bikini trong suốt cho phụ nữ hoặc trang phục hở hang. Các nhà nghiên cứu cho biết một số hình ảnh dường như có liên quan đến trẻ em.
Ủy ban châu Âu — cơ quan hành pháp của EU gồm 27 quốc gia thành viên — cho biết đang xem xét liệu X có thực hiện đầy đủ nghĩa vụ theo các quy định kỹ thuật số của khối hay không, đặc biệt trong việc kiểm soát rủi ro lan truyền nội dung bất hợp pháp như “hình ảnh khiêu dâm”.
Theo Ủy ban, những nội dung này có thể “cấu thành tài liệu lạm dụng tình dục trẻ em”, và trong thực tế, các rủi ro nói trên đã trở thành hiện thực, gây ra “tổn hại nghiêm trọng” đối với công dân EU.
Cuộc điều tra tập trung đánh giá việc Grok có tuân thủ Đạo luật Dịch vụ Kỹ thuật số (DSA) — bộ quy tắc toàn diện của EU nhằm bảo vệ người dùng Internet trước các nội dung và sản phẩm gây hại — hay không.
Trả lời yêu cầu bình luận của AP, một người phát ngôn của X dẫn lại tuyên bố trước đó của công ty, khẳng định nền tảng “cam kết biến X thành một môi trường an toàn cho tất cả mọi người” và áp dụng chính sách “không khoan nhượng” đối với bóc lột tình dục trẻ em, ảnh khỏa thân không có sự đồng thuận và các nội dung tình dục không mong muốn.
Trong tuyên bố ngày 14/1, X cũng cho biết sẽ ngừng cho phép người dùng mô tả con người trong “bikini, đồ lót hoặc trang phục hở hang khác”, nhưng chỉ tại những khu vực pháp lý nơi hành vi này bị coi là bất hợp pháp.
“Deepfake tình dục không có sự đồng thuận, nhắm vào phụ nữ và trẻ em, là một hình thức bạo lực và hạ thấp nhân phẩm không thể chấp nhận được,” bà Henna Virkkunen, Phó Chủ tịch điều hành Ủy ban châu Âu, nhấn mạnh trong thông cáo.
“Thông qua cuộc điều tra này, chúng tôi sẽ xác định liệu X có đáp ứng các nghĩa vụ pháp lý theo DSA hay không, hay đã coi quyền lợi của công dân châu Âu — bao gồm phụ nữ và trẻ em — là ‘thiệt hại ngoài mong muốn’ của dịch vụ,” bà Virkkunen, người phụ trách các vấn đề về chủ quyền công nghệ, an ninh và dân chủ, cho biết thêm.
Công ty xAI của Elon Musk ra mắt công cụ tạo hình ảnh của Grok vào mùa hè năm ngoái. Tuy nhiên, vấn đề chỉ bùng phát mạnh vào cuối tháng trước, khi Grok dường như chấp thuận hàng loạt yêu cầu của người dùng nhằm chỉnh sửa hình ảnh do người khác đăng tải.
Cuộc điều tra của EU hiện chỉ áp dụng đối với dịch vụ Grok tích hợp trên X, không bao gồm website riêng hay ứng dụng độc lập của Grok, do DSA chỉ điều chỉnh các nền tảng trực tuyến lớn nhất. EU không đặt ra thời hạn cụ thể để khép lại vụ việc. Kết quả có thể dẫn đến việc X cam kết thay đổi cách vận hành, hoặc phải đối mặt với các khoản phạt tài chính lớn.
Trước đó, vào tháng 12, Brussels đã phạt X 120 triệu euro trong một phần khác của cuộc điều tra DSA đang diễn ra, liên quan đến những thiếu sót như dấu tích xanh bị cho là vi phạm quy định về “thiết kế gây hiểu lầm”, làm gia tăng nguy cơ lừa đảo và thao túng người dùng.
Ở châu Á, Malaysia và Indonesia đã chặn truy cập Grok hồi đầu tháng này, trở thành những quốc gia đầu tiên áp dụng biện pháp như vậy. Đến ngày thứ Sáu, Malaysia thông báo dỡ bỏ lệnh hạn chế tạm thời sau khi X triển khai các biện pháp an ninh và phòng ngừa bổ sung, dù không công bố chi tiết, đồng thời cho biết sẽ tiếp tục theo dõi sát tình hình.
Ứng dụng Grok cùa xAI trên điện thoại. Ảnh: Getty Images
