Hoàng tử Harry và vợ là Meghan đã cùng nhiều nhà khoa học, nghệ sĩ, nhà kinh tế và lãnh đạo tôn giáo ký vào bức thư kêu gọi cấm phát triển “siêu trí tuệ nhân tạo” (superintelligence) – công nghệ được cho là có thể đe dọa sự tồn vong của nhân loại. Hai bình luận viên bảo thủ Mỹ Steve Bannon và Glenn Beck cũng nằm trong danh sách ký tên, thể hiện sự đồng thuận hiếm hoi giữa các phe phái.
Bức thư được Viện Tương lai Sự sống (Future of Life Institute) công bố hôm thứ Tư, hướng thẳng vào các “ông lớn” công nghệ như Google, OpenAI và Meta Platforms – những bên đang chạy đua xây dựng các hệ thống AI vượt trội con người trong nhiều lĩnh vực.
Lời kêu gọi cấm phát triển “siêu trí tuệ”
Tuyên bố viết: “Chúng tôi kêu gọi cấm phát triển siêu trí tuệ, cho đến khi có sự đồng thuận rộng rãi trong giới khoa học rằng điều đó có thể được thực hiện một cách an toàn, có kiểm soát, và nhận được sự ủng hộ mạnh mẽ từ công chúng.”
Phần mở đầu thừa nhận AI có thể mang lại lợi ích về y tế và thịnh vượng, nhưng đồng thời cảnh báo nhiều công ty đang hướng tới mục tiêu xây dựng siêu trí tuệ trong thập kỷ tới – loại trí tuệ có thể vượt trội con người trong hầu hết các nhiệm vụ nhận thức. Theo bức thư, điều đó đặt ra những rủi ro to lớn: con người có thể bị thay thế trong lao động, mất tự do, phẩm giá và quyền kiểm soát, đe dọa cả an ninh quốc gia lẫn sự tồn vong của loài người.
Ai đã ký và họ nói gì
Hoàng tử Harry chia sẻ: “Tương lai của AI phải phục vụ con người, chứ không thay thế con người. Tiến bộ thật sự không nằm ở tốc độ, mà ở sự khôn ngoan trong cách chúng ta điều khiển nó. Sẽ không có cơ hội thứ hai.” Cùng ký với ông là Nữ công tước Meghan.
Giáo sư Stuart Russell, chuyên gia tiên phong trong lĩnh vực AI tại Đại học California, Berkeley, nói: “Đây không phải là một lệnh cấm theo nghĩa thông thường, mà là yêu cầu có biện pháp an toàn thích đáng đối với công nghệ có thể dẫn đến sự tuyệt chủng của loài người. Như vậy có quá đáng không?”
Cùng ký còn có hai nhà tiên phong của AI – Yoshua Bengio và Geoffrey Hinton, đồng chủ nhân Giải thưởng Turing (được xem là “Nobel của khoa học máy tính”). Hinton, người đoạt Giải Nobel Vật lý năm ngoái, từ lâu đã cảnh báo về những rủi ro của công nghệ mà chính ông góp phần tạo ra.
Danh sách còn có những cái tên bất ngờ như Steve Bannon và Glenn Beck, đại diện cho phe bảo thủ Mỹ – một nỗ lực của Viện Tương lai Sự sống nhằm thu hút sự chú ý của phong trào “Make America Great Again” của Tổng thống Donald Trump, dù chính quyền ông đang nới lỏng quy định về phát triển AI.
Những người ký khác gồm Steve Wozniak (đồng sáng lập Apple), tỷ phú Richard Branson, cựu Chủ tịch Hội đồng Tham mưu trưởng Liên quân Mỹ Mike Mullen, chuyên gia chính sách đối ngoại Susan Rice, cùng cựu Tổng thống Ireland Mary Robinson, nhiều nghị sĩ Anh và châu Âu, và các nghệ sĩ như Stephen Fry, Joseph Gordon-Levitt và will.i.am – người vốn ủng hộ ứng dụng AI trong sáng tác âm nhạc.
Diễn viên Gordon-Levitt viết: “Chúng ta cần các công cụ AI giúp chữa bệnh, tăng cường an ninh quốc gia… nhưng liệu AI có cần bắt chước con người, dụ dỗ trẻ em, khiến chúng ta nghiện nội dung rác và kiếm hàng tỷ đô từ quảng cáo không? Hầu hết mọi người đều không muốn điều đó.”
Nỗi lo “siêu trí tuệ” – thật hay cường điệu?
Bức thư dự kiến sẽ gây tranh luận trong giới nghiên cứu AI về khả năng thực tế của siêu trí tuệ, con đường kỹ thuật để đạt được nó, và mức độ nguy hiểm tiềm ẩn.
Giáo sư Max Tegmark, Chủ tịch Viện Tương lai Sự sống và giảng viên tại MIT, nói: “Trước đây, cuộc tranh cãi chủ yếu là giữa những người trong giới công nghệ. Giờ đây, lời chỉ trích đã trở nên phổ biến hơn bao giờ hết.”
Ông cũng lưu ý rằng các công ty theo đuổi “siêu trí tuệ” hoặc “trí tuệ nhân tạo tổng quát” (AGI) thường thổi phồng năng lực sản phẩm để thu hút đầu tư, vô tình tạo ra bong bóng AI. Gần đây, OpenAI bị giới chuyên môn chế giễu khi tuyên bố ChatGPT “giải được bài toán chưa có lời giải” – trong khi thực tế chỉ là tóm tắt lại thông tin có sẵn.
“Đúng là có nhiều điều bị cường điệu, và nhà đầu tư cần thận trọng. Nhưng không thể phủ nhận rằng AI đã tiến nhanh hơn rất nhiều so với dự đoán của hầu hết mọi người trong bốn năm qua,” Tegmark nói.
Viện của ông từng kêu gọi tạm dừng phát triển AI mạnh hơn trong bức thư năm 2023, song không công ty nào hưởng ứng. Trớ trêu thay, Elon Musk, người ký tên nổi bật khi đó, lại âm thầm lập công ty AI riêng để cạnh tranh với các đối thủ mà ông muốn họ “tạm nghỉ sáu tháng”.
Khi được hỏi liệu lần này có liên hệ với Musk hay không, Tegmark cho biết ông đã gửi thư cho các CEO lớn của ngành AI tại Mỹ, nhưng không kỳ vọng họ sẽ ký.
“Tôi thật sự thông cảm cho họ – họ đang mắc kẹt trong cuộc đua xuống đáy, nơi ai cũng buộc phải tiếp tục để không bị đối thủ vượt qua,” ông nói. “Đó là lý do cần khiến việc chạy đua đến siêu trí tuệ trở nên đáng xấu hổ, đến mức chính phủ Mỹ phải can thiệp.”
Hoàng tử Harry và vợ là Meghan đã ký vào bức thư kêu gọi cấm phát triển “siêu trí tuệ nhân tạo”. Ảnh: AP
