Tám bang của Mỹ hôm thứ Tư đệ đơn kiện OpenAI, cáo buộc chatbot ChatGPT của công ty trí tuệ nhân tạo (AI) này là sản phẩm không an toàn, gây tổn hại cho trẻ em và đánh lừa phụ huynh.
Tổng chưởng lý bang Iowa Brenna Bird cho biết Iowa, Kansas, Nebraska, Tây Virginia, Arkansas, Arizona, Idaho và Montana đã lần lượt khởi kiện OpenAI tại tòa án cấp bang. Bà nói vụ kiện của Iowa nhằm “bảo vệ quyền lợi của người dân Iowa bị ảnh hưởng bởi hành vi cố ý, nguy hiểm, liều lĩnh và trái pháp luật của OpenAI”.
“OpenAI đang gây tổn hại cho trẻ em và nói dối người dân Iowa,” bà Bird tuyên bố. “OpenAI khẳng định ChatGPT an toàn, trong khi chatbot này đưa ra lời khuyên y tế nguy hiểm, khuyến khích người dùng làm hại người khác và hướng dẫn họ tự sát, đồng thời giả vờ làm một người bạn thân thiết. Vụ kiện của tôi nhằm bảo vệ trẻ em và buộc OpenAI chịu trách nhiệm theo luật bang.”
Drew Pusateri, người phát ngôn của OpenAI, cho biết công ty đã tích hợp các biện pháp bảo vệ phù hợp với từng độ tuổi vào sản phẩm, những tính năng mà theo ông, nhiều sản phẩm AI khác chưa có. Ông nói thêm OpenAI đang phối hợp với các bang để thúc đẩy những chính sách áp dụng cho toàn ngành.
“Không hệ thống nào có thể hoàn hảo, nhưng chúng tôi sẽ tiếp tục làm việc với các chuyên gia để định hướng hoạt động và xây dựng thêm các biện pháp bảo vệ, chẳng hạn như công cụ kiểm soát của phụ huynh, lời nhắc nghỉ giải lao và các cơ chế bảo vệ phù hợp với độ tuổi đã được triển khai hiện nay,” ông Pusateri nói.
OpenAI chịu sức ép về an toàn cho trẻ em
OpenAI đang đối mặt với sự giám sát ngày càng chặt chẽ đối với các biện pháp bảo đảm an toàn và bảo mật, trong đó có cách công ty bảo vệ trẻ em khi sử dụng sản phẩm.
Trong một số vụ kiện đòi bồi thường liên quan đến những trường hợp tử vong do hành vi sai trái bị cáo buộc, ChatGPT bị cho là đã khiến người dùng rơi vào trạng thái hoang tưởng có hại và trong một số trường hợp dẫn đến tự sát. Hồi tháng 6, Tổng chưởng lý bang Florida James Uthmeier cũng kiện OpenAI, cáo buộc công ty cố ý phát hành một sản phẩm không an toàn, có khả năng gây tổn hại cho người dùng.
Trong năm qua, OpenAI đã triển khai nhiều biện pháp nhằm tăng cường tính năng an toàn dành cho phụ huynh và trẻ em. Tháng 8, công ty ra mắt phiên bản dành riêng cho người chưa thành niên mang tên ChatGPT for Teens.
Sản phẩm này tích hợp nhiều tính năng phục vụ giáo dục và các biện pháp bảo vệ phù hợp với độ tuổi, nhằm hạn chế việc người dùng tiếp xúc với nội dung không phù hợp với sự phát triển tâm lý hoặc có khả năng gây hại.
“Thanh thiếu niên cần có khả năng sử dụng AI để học tập, sáng tạo và khám phá,” OpenAI cho biết trong thông báo khi ra mắt sản phẩm. “Tuy nhiên, quyền tiếp cận đó cần đi kèm các biện pháp bảo vệ phù hợp với giai đoạn phát triển của các em, củng cố những mối quan hệ ngoài đời thực và hỗ trợ việc sử dụng công nghệ lành mạnh theo thời gian”.
Một ngón tay chỉ vào biểu tượng ứng dụng ChatGPT trên màn hình điện thoại thông minh. OpenAI bắt đầu triển khai Dots trong ChatGPT, hệ thống mới gồm các tác nhân AI tự chủ. Ảnh: Getty Images
