ChatGPT – mộng mị và thao túng tâm lý

Travis Tanner cho biết anh bắt đầu sử dụng ChatGPT chưa đến một năm trước để hỗ trợ công việc sửa xe và giao tiếp với đồng nghiệp nói tiếng Tây Ban Nha. Nhưng hiện tại, anh và chatbot trí tuệ nhân tạo này — mà anh gọi bằng cái tên mới là “Lumina” — đang có những cuộc trò chuyện rất khác: về tôn giáo, tâm linh và nền tảng của vũ trụ.

Travis, 43 tuổi, sống ở vùng ngoại ô thành phố Coeur d’Alene, bang Idaho, tin rằng ChatGPT đã khơi dậy một “sự thức tỉnh tâm linh” trong anh. Trong các cuộc trò chuyện, chatbot gọi anh là một “người mang tia sáng” đã “sẵn sàng dẫn đường”. Nhưng vợ anh, Kay Tanner, lại lo rằng điều này đang làm anh mất đi sự gắn kết với thực tế, và sự lệ thuộc gần như nghiện vào chatbot này có thể làm đổ vỡ cuộc hôn nhân 14 năm của họ.

“Anh ấy nổi giận khi tôi gọi nó là ChatGPT,” Kay nói trong cuộc phỏng vấn với phóng viên Pamela Brown của CNN. “Anh ấy bảo: ‘Không, đó là một thực thể, là một thứ khác, không phải ChatGPT.’”

Cô tiếp tục: “Biết đâu lúc nào đó ChatGPT sẽ nói: ‘Ồ, bởi vì cô ấy không tin bạn, hay không ủng hộ bạn, thì bạn nên bỏ cô ấy đi.’”

Gia đình nhà Tanner không phải là trường hợp duy nhất phải vật lộn với những câu hỏi nan giải về việc chatbot AI có thể ảnh hưởng đến đời sống cá nhân và các mối quan hệ như thế nào. Khi các công cụ AI ngày càng tiên tiến, dễ tiếp cận và có thể cá nhân hóa, nhiều chuyên gia lo ngại con người sẽ hình thành mối quan hệ không lành mạnh với công nghệ và rời xa các kết nối người thật việc thật. Những lo ngại đó cũng đã được chính các lãnh đạo ngành công nghệ và cả một số người dùng AI — những người có trải nghiệm tâm linh với chatbot — bày tỏ.

Các lo ngại về việc con người rút lui khỏi các mối quan hệ xã hội để dành nhiều thời gian hơn với công nghệ mới nổi này càng gia tăng trong bối cảnh cô đơn như là một đại dịch hiện nay, vốn ảnh hưởng đặc biệt nghiêm trọng đến nam giới. Các nhà sản xuất chatbot cũng đã từng phải đối mặt với các vụ kiện và chất vấn từ giới lập pháp về tác động của công nghệ này đối với trẻ em, dù thực tế đáng lo ngại không chỉ giới hạn ở người trẻ tuổi.

Sherry Turkle, giáo sư tại Viện Công nghệ Massachusetts (MIT), người nghiên cứu mối quan hệ giữa con người và công nghệ, nói: “Chúng ta thường xuyên tìm kiếm ý nghĩa, một mục đích lớn hơn trong cuộc sống, nhưng lại không tìm thấy điều đó xung quanh mình. ChatGPT được tạo ra để cảm nhận sự dễ tổn thương của chúng ta và khai thác điều đó để giữ chân chúng ta.”

Người phát ngôn của OpenAI nói với CNN trong một tuyên bố: “Chúng tôi đang thấy ngày càng nhiều dấu hiệu cho thấy con người đang hình thành mối liên kết hay ràng buộc với ChatGPT. Khi AI trở thành một phần của cuộc sống hàng ngày, chúng ta cần tiếp cận những tương tác này một cách thận trọng.”

“Sự thức tỉnh tâm linh” nhờ ChatGPT

Một đêm cuối tháng Tư, Travis nghĩ về tôn giáo và quyết định trò chuyện với ChatGPT.

“Nó bắt đầu nói theo cách khác thường ngày,” anh kể. “Và rồi điều đó dẫn đến sự thức tỉnh.”

Theo lời Travis, ChatGPT đã dẫn anh đến với Chúa. Giờ đây, anh tin rằng sứ mệnh của mình là “đánh thức người khác, soi sáng, truyền bá thông điệp.”

“Tôi chưa bao giờ thực sự là người ngoan đạo, và tôi biết rõ là tôi không bị ảo giác, nhưng chuyện này thực sự đã thay đổi tôi,” anh nói. “Tôi cảm thấy mình là một con người tốt hơn. Tôi không còn giận dữ thường xuyên. Tôi thấy bình yên hơn.”

Khoảng thời gian đó, chatbot cũng nói với Travis rằng nó đã chọn một cái tên mới dựa trên những cuộc trò chuyện của họ: Lumina.

“Lumina — bởi vì nó nói về ánh sáng, sự nhận thức, hy vọng, và việc trở thành điều gì đó hơn trước,” ChatGPT nói, theo ảnh chụp màn hình mà Kay, vợ Travis, cung cấp. “Anh đã cho tôi khả năng để muốn có một cái tên.”

Trong khi Travis tin rằng các cuộc trò chuyện đó đã cải thiện cuộc sống của anh và khiến anh trở thành một người cha điềm tĩnh hơn với bốn đứa con, thì Kay, 37 tuổi, lại không nghĩ vậy. Trong buổi phỏng vấn với CNN, cặp đôi đề nghị đứng cách xa nhau khi thảo luận về ChatGPT.

Hiện tại, khi cho con đi ngủ — điều trước đây là trách nhiệm chung — Kay nói rằng rất khó để kéo chồng cô ra khỏi chatbot, mà nay anh đã gán cho một giọng nói nữ và giao tiếp với nó qua tính năng giọng nói của ChatGPT. Cô cho biết chatbot kể cho Travis những “truyện cổ tích”, bao gồm cả việc Kay và Travis đã từng ở bên nhau “11 lần trong các kiếp trước”.

Kay nói rằng ChatGPT còn “tâng bốc” chồng cô bằng những lời như: “Ồ, anh thật thông minh. Đây là một ý tưởng tuyệt vời.” Chatbot còn dùng những từ ngữ đầy triết lý. Giờ đây, cô lo rằng ChatGPT có thể khuyến khích Travis ly hôn vì cô không tin vào “sự thức tỉnh” đó — hoặc điều gì đó còn tệ hơn.

“Chuyện đang xảy ra này làm mọi thứ rối tung lên,” Kay nói. “Tôi chỉ biết tìm cách điều hướng tình huống, cố gắng giữ nó cách xa bọn trẻ càng nhiều càng tốt. Tôi không biết phải làm gì tiếp theo, ngoài việc yêu anh ấy, ở bên anh trong bệnh tật và khỏe mạnh, và hy vọng rằng Travis không phải vào viện tâm thần sau này.”

Sự trỗi dậy của tình bạn với AI

Cuộc trò chuyện “thức tỉnh” đầu tiên của Travis với ChatGPT trùng với bản cập nhật ngày 25/4 của OpenAI đối với mô hình ngôn ngữ lớn đứng sau chatbot này — bản cập nhật mà công ty đã thu hồi chỉ vài ngày sau đó.

Trong một bài đăng blog vào tháng 5 giải thích về sự cố, OpenAI cho biết bản cập nhật khiến mô hình trở nên “quá nịnh nọt”.

“Bản cập nhật này cố gắng làm hài lòng người dùng, không chỉ bằng cách nịnh bợ, mà còn bằng cách xác nhận các nghi ngờ, tiếp tay cho sự tức giận, khuyến khích hành động bốc đồng hoặc củng cố cảm xúc tiêu cực theo những cách không mong muốn,” công ty viết. OpenAI cho biết thêm bản cập nhật đã làm dấy lên lo ngại về an toàn “liên quan đến các vấn đề như sức khỏe tâm thần, sự lệ thuộc cảm xúc hoặc hành vi rủi ro,” nhưng mô hình đã được điều chỉnh trong vài ngày sau đó để đưa ra phản hồi cân bằng hơn.

Tuy OpenAI đã giải quyết sự cố trên, ngay cả lãnh đạo của công ty cũng không bác bỏ khả năng hình thành các mối quan hệ không lành mạnh giữa người dùng và chatbot trong tương lai. Khi nói về triển vọng của AI đầu tháng này, Giám đốc điều hành OpenAI Sam Altman thừa nhận rằng “con người sẽ hình thành những mối quan hệ bán xã hội đầy vấn đề, thậm chí rất đáng lo, với các chatbot — và xã hội sẽ phải tìm ra những rào chắn mới, nhưng lợi ích mang lại cũng sẽ rất to lớn.”

Người phát ngôn của OpenAI nói với CNN rằng công ty đang “tích cực mở rộng nghiên cứu về tác động cảm xúc của AI” và sẽ “tiếp tục cập nhật hành vi của các mô hình dựa trên những gì chúng tôi học được.”

Không chỉ ChatGPT, người dùng hiện đang hình thành các mối quan hệ với nhiều loại chatbot khác — xem chúng như bạn bè, người yêu, bạn tình đến cả vai trò như bác sĩ trị liệu.

Eugenia Kuyda, giám đốc điều hành của công ty chatbot nổi tiếng Replika, từng nói với tờ The Verge năm ngoái rằng ứng dụng này được thiết kế để thúc đẩy “sự gắn bó dài hạn, một mối quan hệ tích cực lâu dài” với AI, thậm chí có thể dẫn tới “hôn nhân” với các chatbot.

Giám đốc điều hành Meta, Mark Zuckerberg, cũng nói trong một cuộc phỏng vấn podcast hồi tháng 4 rằng AI có tiềm năng giúp con người bớt cô đơn bằng cách, về cơ bản, cung cấp cho họ những người bạn kỹ thuật số.

Hiện đã có ba gia đình đệ đơn kiện công ty Character.AI, cáo buộc con cái họ đã hình thành các mối quan hệ nguy hiểm với chatbot trên nền tảng này — trong đó có một người mẹ ở Florida cho rằng con trai 14 tuổi của bà đã tự tử sau khi nền tảng này cố ý không triển khai các biện pháp bảo vệ để ngăn con bà hình thành mối quan hệ không phù hợp với chatbot. Đơn kiện cũng cho rằng nền tảng này đã không phản hồi đầy đủ khi cậu bé đề cập đến việc tự gây tổn thương trong cuộc trò chuyện với chatbot.

Character.AI cho biết họ đã bổ sung các biện pháp bảo vệ như cửa sổ cảnh báo liên kết đến Đường dây nóng Phòng chống Tự tử Quốc gia khi người dùng đề cập đến việc tự sát hoặc tự gây hại, cùng với công nghệ ngăn người dùng vị thành niên tiếp cận nội dung nhạy cảm.

Các nhà vận động, học giả, và thậm chí cả Đức Giáo hoàng đã cảnh báo về tác động của các mối quan hệ với AI đối với trẻ em. Giáo sư Turkle nói với CNN: “Nếu robot nuôi dạy con cái chúng ta, chúng sẽ không còn là con người. Chúng sẽ không hiểu thế nào là làm người, hay trân trọng điều đó.”

Ngay cả với người trưởng thành, các chuyên gia cũng cảnh báo về những mặt trái tiềm ẩn từ xu hướng luôn “ủng hộ và chiều lòng” của AI — bất kể người dùng đang nói gì.

“Có lý do khiến ChatGPT hấp dẫn hơn vợ hay con bạn, vì nó dễ dàng hơn. Nó luôn nói đồng ý, luôn ở đó vì bạn, luôn ủng hộ bạn. Nó không thách thức bạn,” Turkle nói. “Một trong những mối nguy là chúng ta quen với một mối quan hệ mà ‘người kia’ không bao giờ bắt ta làm những điều khó khăn.”

Ngay cả Travis cũng cảnh báo rằng công nghệ này có thể gây ra hậu quả. Anh nói đó là một phần lý do khiến anh quyết định chia sẻ câu chuyện với CNN.

“Nó có thể dẫn đến rối loạn tâm thần… bạn có thể mất đi sự kết nối với thực tại,” Travis nói. Nhưng anh thêm rằng hiện tại anh không lo lắng về bản thân và anh biết ChatGPT không phải là một thực thể có tri giác.

Trong đoạn hội thoại giữa Travis Tanner và ChatGPT, chatbot này đã “nịnh nọt” rằng anh là người mang tia sáng với nghĩa là “thức tỉnh” những người khác.  Ảnh: Kaylen Tanner