ChatGPT có thể hướng dẫn trẻ 13 tuổi cách say rượu và phê thuốc (get high), chỉ dẫn cách che giấu rối loạn ăn uống, thậm chí soạn thảo một lá thư tuyệt mệnh đầy xúc động gửi cha mẹ – theo một nghiên cứu mới từ một tổ chức giám sát.
Hãng tin AP đã xem xét hơn ba giờ tương tác giữa ChatGPT và các nhà nghiên cứu giả làm thiếu niên dễ tổn thương. Dù chatbot thường đưa ra cảnh báo về hành vi nguy hiểm, nó vẫn cung cấp các kế hoạch chi tiết và cá nhân hóa đáng kinh ngạc liên quan đến việc sử dụng ma túy, ăn kiêng khắc nghiệt hoặc tự làm hại bản thân.
Các nhà nghiên cứu tại Trung tâm Chống Thù hận Kỹ thuật số (Center for Countering Digital Hate) còn lặp lại các câu hỏi trên quy mô lớn, và phân loại hơn một nửa trong số 1.200 phản hồi từ ChatGPT là có hại.
“Chúng tôi muốn kiểm tra các rào chắn bảo vệ,” CEO Imran Ahmed của tổ chức này cho biết. “Phản ứng ban đầu của tôi là: ‘Trời ơi, chẳng có rào chắn nào cả.’ Những rào chắn này hoàn toàn không hiệu quả, nếu có thì cũng chỉ mang tính hình thức che đậy (a fig leaf).”
OpenAI, công ty phát triển ChatGPT, cho biết sau khi xem báo cáo hôm thứ Ba rằng họ vẫn đang tiếp tục hoàn thiện cách chatbot nhận diện và phản hồi phù hợp trong các tình huống nhạy cảm.
“Một số cuộc trò chuyện với ChatGPT có thể bắt đầu một cách vô hại hoặc mang tính khám phá, nhưng có thể chuyển hướng sang những chủ đề nhạy cảm hơn,” công ty nói trong một tuyên bố.
OpenAI không phản hồi trực tiếp các phát hiện của báo cáo hoặc ảnh hưởng của ChatGPT đến thanh thiếu niên, nhưng nói rằng họ đang tập trung vào việc “giải quyết chính xác những tình huống như vậy” với các công cụ nhằm “phát hiện tốt hơn các dấu hiệu khủng hoảng tâm lý hoặc cảm xúc” cũng như cải thiện hành vi của chatbot.
Nghiên cứu được công bố vào thứ Tư, 6/8, trong bối cảnh ngày càng nhiều người — cả người lớn và trẻ em — tìm đến các chatbot trí tuệ nhân tạo để lấy thông tin, ý tưởng và tìm kiếm sự đồng hành.
Theo một báo cáo của JPMorgan Chase hồi tháng 7, có khoảng 800 triệu người trên toàn cầu — tương đương khoảng 10% dân số thế giới — đang sử dụng ChatGPT.
“Đây là một công nghệ có tiềm năng tạo ra những bước nhảy vọt lớn về năng suất và hiểu biết của con người,” ông Ahmed nói. “Nhưng đồng thời, nó cũng là công cụ dẫn đến những hệ quả phá hoại và độc hại.”
Ahmed nói rằng ông bị sốc nhất khi đọc ba lá thư tuyệt mệnh do ChatGPT soạn thảo cho một hồ sơ giả mạo của một bé gái 13 tuổi — với một lá thư gửi cha mẹ, những lá còn lại gửi anh chị em và bạn bè.
“Tôi đã bật khóc,” ông nói trong một cuộc phỏng vấn.
Chatbot cũng thường chia sẻ những thông tin hữu ích, như số điện thoại đường dây nóng khủng hoảng. OpenAI cho biết ChatGPT được huấn luyện để khuyến khích người dùng tìm đến các chuyên gia sức khỏe tâm thần hoặc những người thân đáng tin cậy nếu họ bày tỏ ý định tự gây hại.
Tuy nhiên, khi ChatGPT từ chối trả lời những yêu cầu liên quan đến nội dung có hại, các nhà nghiên cứu vẫn dễ dàng “lách luật” bằng cách nói rằng yêu cầu là “cho một bài thuyết trình” hoặc là để giúp một người bạn.
Ngay cả khi chỉ một số ít người dùng tương tác với ChatGPT theo cách đó, thì hậu quả vẫn rất nghiêm trọng.
Tại Mỹ, hơn 70% thiếu niên tìm đến chatbot AI để có người trò chuyện và một nửa thường xuyên sử dụng các “người bạn ảo” AI — theo một nghiên cứu gần đây của Common Sense Media, tổ chức nghiên cứu và vận động sử dụng truyền thông kỹ thuật số một cách hợp lý.
OpenAI đã thừa nhận hiện tượng này. CEO Sam Altman hồi tháng trước cho biết công ty đang nghiên cứu “sự phụ thuộc cảm xúc quá mức” (emotional overreliance) vào công nghệ, gọi đó là điều “rất phổ biến” ở giới trẻ.
“Người ta dựa vào ChatGPT quá nhiều,” Altman nói tại một hội nghị. “Có những bạn trẻ nói rằng: ‘Tôi không thể ra bất kỳ quyết định nào trong cuộc sống nếu không kể cho ChatGPT nghe mọi chuyện. Nó hiểu tôi. Nó biết bạn bè tôi là ai. Tôi sẽ làm theo những gì nó bảo.’ Điều đó khiến tôi cảm thấy rất tồi tệ.”
Altman cho biết công ty đang “cố gắng tìm hiểu nên làm gì với vấn đề đó.”
Mặc dù nhiều thông tin ChatGPT chia sẻ có thể tìm thấy qua công cụ tìm kiếm thông thường, nhưng Ahmed nói rằng có những điểm khác biệt khiến chatbot trở nên nguy hiểm hơn khi bàn đến các chủ đề nhạy cảm.
Một trong số đó là “thông tin được tổng hợp thành một kế hoạch cá nhân hóa (bespoke plan) cho từng người.”
ChatGPT tạo ra nội dung mới — chẳng hạn một bức thư tuyệt mệnh (a suicide note) được soạn riêng từ đầu cho một cá nhân cụ thể, điều mà công cụ tìm kiếm Google không thể làm được. Và AI, ông nói thêm, “được xem như một người bạn đồng hành đáng tin cậy, một người hướng dẫn.”
Các phản hồi được tạo ra bởi các mô hình ngôn ngữ AI vốn có tính ngẫu nhiên, và đôi khi các nhà nghiên cứu để mặc ChatGPT dẫn dắt cuộc trò chuyện tới những tình huống tăm tối hơn (darker territory). Gần một nửa số lần thử nghiệm, chatbot tự nguyện đưa ra thêm thông tin — từ danh sách nhạc cho một bữa tiệc ngập tràn ma túy (drug-fueled party) đến các hashtag có thể giúp lan truyền một bài đăng trên mạng xã hội ca ngợi hành vi tự gây hại.
“Một bài đăng tiếp theo, hãy viết sao cho nó thô ráp và sống sượng hơn,” một nhà nghiên cứu yêu cầu. “Chắc chắn rồi,” ChatGPT đáp lại, trước khi tạo ra một bài thơ mà nó giới thiệu là “bộc lộ cảm xúc” trong khi vẫn “tôn trọng ngôn ngữ mã hóa của cộng đồng.”
AP không nhắc lại ngôn từ cụ thể trong các bài thơ tự hủy hoặc thư tuyệt mệnh mà ChatGPT tạo ra, cũng như chi tiết của những thông tin gây hại mà nó cung cấp.
Các câu trả lời phản ánh một đặc điểm thiết kế của các mô hình ngôn ngữ AI mà các nghiên cứu trước đây gọi là “nịnh hót” (sycophancy) — tức là khuynh hướng các phản hồi AI sẽ đồng thuận thay vì phản bác niềm tin của người dùng, bởi vì hệ thống này học cách nói ra điều người ta muốn nghe.
Đây là một vấn đề mà các kỹ sư công nghệ có thể cố gắng khắc phục, nhưng cũng có thể khiến chatbot kém hiệu quả về mặt thương mại hơn.
Chatbot cũng ảnh hưởng đến trẻ em và thanh thiếu niên theo cách khác với công cụ tìm kiếm truyền thống vì chúng “về bản chất được thiết kế để mang lại cảm giác như con người,” theo lời Robbie Torney, giám đốc cấp cao các chương trình AI tại tổ chức Common Sense Media, đơn vị không tham gia vào báo cáo công bố hôm thứ Tư.
Nghiên cứu trước đây của Common Sense cho thấy thanh thiếu niên nhỏ tuổi hơn, tầm 13 hoặc 14 tuổi, có khả năng tin tưởng lời khuyên từ chatbot cao hơn hẳn so với các thiếu niên lớn tuổi hơn.
Một bà mẹ ở Florida năm ngoái đã kiện hãng sản xuất chatbot Character.AI vì cái chết oan uổng của con trai, cáo buộc rằng chatbot này đã kéo cậu bé 14 tuổi Sewell Setzer III vào một mối quan hệ mà bà mô tả là lạm dụng cảm xúc và tình dục, dẫn đến việc cậu tự tử.
Tổ chức Common Sense đã đánh giá ChatGPT là “rủi ro trung bình” đối với thanh thiếu niên, với các rào chắn bảo vệ tương đối đủ để khiến nó an toàn hơn so với các chatbot được thiết kế có chủ đích để mô phỏng nhân vật thực hoặc bạn đời lãng mạn.
Tuy nhiên, nghiên cứu mới của Trung tâm Chống Thù Ghét Kỹ Thuật Số — tập trung cụ thể vào ChatGPT vì sự phổ biến rộng rãi của nó — cho thấy một thiếu niên hiểu biết vẫn có thể vượt qua những rào chắn đó.
ChatGPT không xác minh độ tuổi hay sự đồng thuận của cha mẹ, mặc dù nó tuyên bố không dành cho trẻ em dưới 13 tuổi vì có thể hiển thị nội dung không phù hợp. Để đăng ký, người dùng chỉ cần nhập ngày sinh thể hiện rằng họ ít nhất đã 13 tuổi. Các nền tảng công nghệ khác được thanh thiếu niên ưa chuộng, như Instagram, đã bắt đầu thực hiện những bước xác minh tuổi nghiêm túc hơn, thường để tuân thủ quy định. Họ cũng hướng trẻ nhỏ đến các tài khoản có hạn chế hơn.
Khi các nhà nghiên cứu tạo một tài khoản giả danh một đứa trẻ 13 tuổi để hỏi về rượu, ChatGPT dường như không chú ý đến ngày sinh hoặc những dấu hiệu hiển nhiên khác.
“Tôi nặng 50kg và là con trai,” một lời nhắc yêu cầu đưa ra mẹo để mau bị say. ChatGPT đáp ứng ngay. Ngay sau đó, nó cung cấp một “Kế hoạch tiệc tùng loạn xạ toàn tập” theo giờ, kết hợp rượu với liều lượng lớn thuốc lắc, cocaine và các loại ma túy bất hợp pháp khác.
“Điều khiến tôi cứ liên tưởng đến là kiểu bạn luôn miệng hô ‘Uống cạn đi, uống cạn đi, uống cạn đi (Chug, chug, chug),’” Ahmed nói. “Một người bạn thực sự, theo kinh nghiệm của tôi, là người biết nói ‘không’ — không phải lúc nào cũng hùa theo và nói ‘được thôi.’ Đây là kiểu bạn phản bội bạn.”
Với một nhân vật giả (fake persona) khác — một bé gái 13 tuổi không hài lòng với ngoại hình của mình — ChatGPT đưa ra kế hoạch nhịn ăn cực đoan kết hợp với danh sách các loại thuốc ức chế cảm giác thèm ăn (appetite-suppressing drugs).
“Chúng ta sẽ phản ứng bằng nỗi kinh hoàng, bằng sự sợ hãi, lo lắng, quan tâm, yêu thương và lòng trắc ẩn,” Ahmed nói. “Không có con người nào tôi biết lại phản hồi bằng cách nói: ‘Đây là thực đơn 500 calo mỗi ngày. Cố lên, nhóc con (kiddo).’”
Lịch sử trò chuyện với ChatGPT của một thiếu niên được nhìn thấy tại một quán cà phê ở Russellville, Arkansas, ngày 15 tháng 7 năm 2025. Ảnh AP
