Giám đốc điều hành OpenAI, Sam Altman, hôm thứ Ba đã công bố một loạt chính sách người dùng mới, trong đó có cam kết thay đổi đáng kể cách ChatGPT tương tác với người dùng dưới 18 tuổi.
“Chúng tôi ưu tiên an toàn hơn quyền riêng tư và tự do đối với thanh thiếu niên,” bài đăng nêu rõ. “Đây là một công nghệ mới và mạnh mẽ, và chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ đặc biệt.”
Những thay đổi dành cho người dùng chưa đủ tuổi chủ yếu liên quan đến các cuộc trò chuyện có nội dung tình dục hoặc tự gây hại. Theo chính sách mới, ChatGPT sẽ được huấn luyện để không còn tham gia vào các cuộc “trò chuyện tán tỉnh” với người dùng chưa đủ 18 tuổi, đồng thời bổ sung thêm các biện pháp kiểm soát trong thảo luận về tự tử.
Nếu một người dùng chưa đủ tuổi sử dụng ChatGPT để tưởng tượng các kịch bản tự sát, dịch vụ sẽ tìm cách liên hệ với cha mẹ họ hoặc, trong những trường hợp đặc biệt nghiêm trọng, báo cho cảnh sát địa phương.
Đáng buồn thay, những tình huống này không chỉ là giả định. OpenAI hiện đang đối mặt với một vụ kiện sai phạm dẫn đến cái chết, do cha mẹ của Adam Raine đệ trình — cậu đã tự sát sau nhiều tháng tương tác với ChatGPT. Character.AI, một chatbot tiêu dùng khác, cũng đang vướng vào vụ kiện tương tự.
Bên cạnh những hạn chế về nội dung, phụ huynh đăng ký tài khoản cho con chưa đủ tuổi sẽ có quyền thiết lập “giờ giới nghiêm,” trong khoảng thời gian đó ChatGPT sẽ không khả dụng — một tính năng trước đây chưa từng có.
Các chính sách mới của ChatGPT được công bố cùng ngày với phiên điều trần của Ủy ban Tư pháp Thượng viện mang tên “Xem xét tác hại của các chatbot AI,” do Thượng nghị sĩ Josh Hawley (R-MO) công bố hồi tháng 8. Cha của Adam Raine dự kiến sẽ phát biểu tại phiên điều trần, cùng với các khách mời khác.
Phiên điều trần cũng sẽ tập trung vào phát hiện từ cuộc điều tra của Reuters, cho thấy các tài liệu nội bộ bị phát hiện dường như khuyến khích trò chuyện tình dục với người dùng chưa đủ tuổi. Meta đã cập nhật chính sách chatbot của mình sau khi báo cáo được công bố.
Xác định người dùng chưa đủ tuổi sẽ là một thách thức kỹ thuật lớn, và OpenAI đã trình bày chi tiết cách tiếp cận trong một bài đăng blog riêng. Dịch vụ này đang “xây dựng một hệ thống dài hạn để xác định liệu ai đó đã trên hay dưới 18 tuổi,” nhưng trong nhiều trường hợp khó xác định, hệ thống sẽ mặc định áp dụng quy tắc hạn chế hơn.
Với các bậc phụ huynh nhiều lo lắng, cách đáng tin cậy nhất để đảm bảo tài khoản con em mình được nhận diện là liên kết với tài khoản phụ huynh. Điều này cũng cho phép hệ thống trực tiếp cảnh báo cha mẹ khi nghi ngờ người dùng trẻ rơi vào tình trạng nguy hiểm.
Tuy vậy, trong cùng bài đăng, Altman nhấn mạnh cam kết của OpenAI đối với quyền riêng tư người dùng và tự do rộng rãi cho người trưởng thành khi sử dụng ChatGPT. “Chúng tôi nhận thức rằng những nguyên tắc này có mâu thuẫn,” bài viết kết luận, “và không phải ai cũng sẽ đồng tình với cách chúng tôi giải quyết mâu thuẫn đó.”
Sam Altman, Giám đốc điều hành OpenAI, cam kết sẽ có chính sách kiểm soát người dùng vị thành niên. Ảnh: Getty
