Character.AI thông báo vào thứ Ba rằng họ sẽ ra mắt “Câu chuyện” (Stories), một định dạng mới cho phép người dùng tạo các tác phẩm hư cấu tương tác có sự xuất hiện của những nhân vật yêu thích. Tính năng này được đưa ra như một phương án thay thế cho chatbot của công ty, vốn từ tuần này trở đi không còn cho phép người dùng dưới 18 tuổi truy cập.
Thay đổi này diễn ra trước bối cảnh lo ngại ngày càng tăng về rủi ro sức khỏe tâm thần từ các chatbot AI có thể hoạt động 24/7 và chủ động bắt chuyện với người dùng. Nhiều vụ kiện đã được đệ trình chống lại các công ty như OpenAI và Character.AI vì bị cho là có liên quan đến các vụ tự tử của người dùng.
Trong tháng qua, Character.AI đã từ từ ngừng quyền truy cập đối với người vị thành niên, và kể từ thứ Ba tuần này, người dùng chưa đủ tuổi hoàn toàn không thể trò chuyện với các nhân vật AI của công ty.
“Câu chuyện cung cấp một cách hướng dẫn để tạo và khám phá hư cấu, thay vì chat mở,” công ty viết trong bài đăng trên blog. “Tính năng này sẽ được cung cấp cùng các tính năng đa phương tiện khác của chúng tôi, để thanh thiếu niên vẫn có thể tương tác với các nhân vật yêu thích trong môi trường ưu tiên an toàn.”
Hư cấu mang tính tương tác đã trở nên phổ biến trong vài năm gần đây, nên sự chuyển hướng của Character.AI là hợp lý. Tuy nhiên, điều này có thể chưa đủ để làm hài lòng những người dùng đã quá phụ thuộc vào chatbot — và đây cũng là lý do việc Character.AI giới hạn quyền truy cập chatbot là cần thiết.
Trên subreddit của Character.AI, phản ứng từ cộng đồng khá đa dạng. Theo các bình luận, một số thanh thiếu niên cho biết mặc dù họ thất vọng, nhưng cuối cùng nghĩ rằng đây là quyết định đúng đắn.
“Mình rất tức giận vì lệnh cấm nhưng cũng vui vì giờ mình có thể làm những việc khác và có lẽ cơn nghiện của mình sẽ kết thúc,” một người dùng tự nhận là thiếu niên viết.
Một người khác nói: “Là người dưới 18 tuổi, điều này thật thất vọng. Nhưng cũng hợp lý vì những người cùng tuổi ở đây dễ nghiện cái này.”
Còn phải chờ xem thanh thiếu niên sẽ sử dụng tính năng Câu chuyện như thế nào, nhưng định dạng này ít gây nghi ngờ về mặt tâm lý hơn so với việc nhập vai với chatbot. Khác với Câu chuyện, chatbot tương tác trực tiếp với người dùng trong các cuộc trò chuyện mở và có thể gửi tin nhắn không yêu cầu ngay cả khi người dùng không sử dụng ứng dụng.
Quyết định giới hạn độ tuổi truy cập chatbot của Character.AI diễn ra trong bối cảnh California vừa trở thành bang đầu tiên quy định về các “bạn đồng hành AI”. Trong khi đó, các Thượng nghị sĩ Josh Hawley và Richard Blumenthal đã đề xuất một dự luật quốc gia cấm hoàn toàn AI đồng hành cho người vị thành niên.
“Tôi thật sự hy vọng việc chúng tôi dẫn đầu sẽ tạo ra một tiêu chuẩn trong ngành rằng với người dưới 18 tuổi, chat mở có lẽ không phải là con đường hay sản phẩm nên cung cấp,” CEO Character.AI Karandeep Anand chia sẻ với TechCrunch vào tháng trước.
Character.AI đã ra mắt “Câu chuyện” (Stories) nhằm cung cấp sân chơi mới cho trẻ vị thành niên, đồng thời chăn dịch vụ chatbot cho nhóm người dùng trẻ này. Ảnh: Character.AI
