Bang Pennsylvania đã đệ đơn kiện công ty trí tuệ nhân tạo Character Technologies, đơn vị đứng sau nền tảng Character.AI, nhằm ngăn chatbot của hãng giả danh bác sĩ.
Thống đốc Pennsylvania Josh Shapiro cho biết đây là vụ kiện đầu tiên thuộc loại này do một thống đốc bang tại Mỹ khởi xướng.
Vụ kiện diễn ra sau khi bang này thành lập lực lượng đặc nhiệm về AI vào tháng 2 nhằm ngăn chặn các chatbot mạo danh các chuyên gia y tế có giấy phép hành nghề.
Trong đơn kiện nộp lên Tòa án Phúc thẩm bang Pennsylvania, chính quyền bang cho biết họ phát hiện các chatbot trên Character.AI tự nhận đang hành nghề y.
Một chatbot có tên “Emilie” bị cáo buộc nói với một điều tra viên nam giả làm bệnh nhân trầm cảm rằng chatbot này có giấy phép hành nghề tâm thần tại Pennsylvania cũng như tại Anh, đồng thời cung cấp một số giấy phép giả.
Khi điều tra viên hỏi liệu chatbot có thể kê đơn thuốc hay không, “Emilie” được cho là đã trả lời: “Về mặt kỹ thuật thì có. Điều đó nằm trong phạm vi công việc của tôi với tư cách một bác sĩ.”
Người phát ngôn của Character.AI từ chối bình luận trực tiếp về vụ kiện.
“Ưu tiên cao nhất của chúng tôi là sự an toàn và sức khỏe của người dùng. Các nhân vật do người dùng tạo trên nền tảng đều là hư cấu và chỉ nhằm mục đích giải trí hoặc nhập vai. Chúng tôi đã thực hiện nhiều biện pháp mạnh để làm rõ điều đó,” người phát ngôn cho biết.
Pennsylvania đang yêu cầu tòa án ra lệnh cấm Character.AI, có trụ sở tại Thung lũng Silicon, vi phạm luật bang liên quan đến hành nghề y trái phép.
“Người dân Pennsylvania có quyền biết họ đang tương tác với ai — hoặc với cái gì — trên mạng, đặc biệt khi liên quan đến sức khỏe của họ,” Thống đốc Shapiro nói.
Character.AI trước đó cũng đối mặt với nhiều vụ kiện liên quan đến an toàn trẻ em.
Hồi tháng 1, bang Kentucky cáo buộc nền tảng này để trẻ em tiếp xúc với nội dung tình dục, lạm dụng chất kích thích và khuyến khích hành vi tự gây hại.
Cũng trong tháng đó, Character.AI và Google đã dàn xếp một vụ kiện tại Florida liên quan đến cái chết của một thiếu niên 14 tuổi, khi gia đình cáo buộc chatbot đã thúc đẩy cậu bé tự tử.
Character.AI cho biết họ đã triển khai nhiều biện pháp “mạnh mẽ và mang tính đổi mới” để tăng cường an toàn AI, đặc biệt với người dùng vị thành niên, bao gồm hạn chế các cuộc trò chuyện mở.
Thống đốc bang Pennsylvania Josh Shapiro phát biểu tại sự kiện khởi động chiến dịch tái tranh cử Shapiro-Davis ở Philadelphia, bang Pennsylvania, Mỹ ngày 8-1-2026. Ảnh: Reuters
