Điều gì đứng sau những cảnh báo ngày càng bi quan của ngành AI? -

Ngành AI đang chứng kiến một trong những cuộc tranh luận gay gắt nhất từ trước đến nay về khả năng công nghệ này trở thành mối đe dọa mang tính sống còn đối với nhân loại.
Cuộc tranh luận nóng lên sau khi nhà nghiên cứu AI Jacob Coxon cho biết ông đã nghỉ việc tại Anthropic vì lo ngại các công ty AI hàng đầu đang “đánh cược với mạng sống của chúng ta”. Ngay sau đó, Evan Hubinger, người phụ trách nghiên cứu AI alignment (căn chỉnh AI theo mục tiêu và giá trị của con người) tại Anthropic cũng lên tiếng, khẳng định: “Chúng tôi thực sự nghiêm túc tin rằng AI có thể giết toàn bộ con người”.
Người này còn cho biết cá nhân ông ước tính xác suất đó là hơn 10% trong thập niên tới.
Những tuyên bố như vậy lập tức làm dấy lên câu hỏi: Đây có phải là những cảnh báo thực sự về một nguy cơ chưa từng có, hay cũng là một cách để các công ty AI chứng minh rằng họ đang tạo ra những hệ thống có năng lực vượt xa những gì công chúng từng thấy?
Khi cảnh báo về AI trở thành câu chuyện về chính AI
Trong podcast Equity của TechCrunch, các nhà báo Kirsten Korosec, Sean O’Kane và Anthony Ha đã tranh luận về những cảnh báo ngày càng mang màu sắc tận thế này.
O’Kane cho rằng tốc độ lan truyền của tuyên bố từ Coxon đặc biệt đáng chú ý. Một nhà nghiên cứu trẻ từng làm việc tại OpenAI vừa đưa ra cảnh báo mạnh mẽ, ngay sau đó bài viết được người phụ trách AI alignment tại Anthropic chia sẻ trên X với tuyên bố rằng AI thực sự có thể giết toàn bộ con người.
Theo O’Kane, tuyên bố này xuất hiện vào thời điểm đặc biệt nhạy cảm, sau vụ mô hình nội bộ của OpenAI xâm nhập Hugging Face và trong bối cảnh năng lực của các mô hình AI mới nhất từ Anthropic và OpenAI đang tăng nhanh.
Anthony Ha “không phản đối việc dùng dấu chấm than trong một tuyên bố như vậy.” Nếu thực sự tin AI có thể hủy diệt nhân loại, ông cho rằng đó là điều đáng để nhấn mạnh.
Nhưng ông đặt câu hỏi về một từ khác trong tuyên bố của Anthropic: “chúng tôi”.
“Chúng tôi” là ai? Liệu có thể nói về cộng đồng AI hay cộng đồng nghiên cứu AI như một khối thống nhất hay không?
Ha cũng hoài nghi về con số “hơn 10%”. Theo ông, những tỷ lệ phần trăm như vậy đôi khi được đưa ra mà không có cơ sở tính toán rõ ràng. Con số này có thể liên quan đến khái niệm P(doom), tức xác suất AI gây ra một thảm họa hủy diệt nhân loại, nhưng việc đưa ra một tỷ lệ cụ thể vẫn không đồng nghĩa với việc đã có một phương pháp khoa học đáng tin cậy để tính toán nó.
Dù vậy, Ha cho rằng trường hợp của Coxon có một điểm khác biệt đáng kể so với những cảnh báo thường được các lãnh đạo ngành AI đưa ra.
Các CEO như Sam Altman hay Dario Amodei nhiều lần cảnh báo về nguy cơ AI, nhưng đồng thời vẫn tiếp tục đầu tư mạnh vào việc phát triển công nghệ này. Điều đó dẫn đến câu hỏi: Nếu thực sự tin AI có thể hủy diệt nhân loại, tại sao họ vẫn tiếp tục phát triển nó?
Coxon lại đưa ra một câu trả lời bằng chính sự nghiệp của mình. Ông cho biết mình không muốn tiếp tục làm việc trong lĩnh vực mà ông tin có thể gây ra hậu quả nghiêm trọng như vậy.
“Ít nhất, phải ghi nhận sự can đảm của anh ấy,” Anthony Ha nói.
Có phải các công ty AI đang “khoe” năng lực?
Korosec đưa ra một giả thuyết khác: Có thể những cảnh báo về việc AI vượt qua các rào cản kiểm soát cũng vô tình trở thành một cách để các công ty AI khoe năng lực của những mô hình mà họ đang phát triển.
Lập luận khá đơn giản. Nếu các mô hình AI chưa đủ mạnh, chúng sẽ không thể tự ý vượt qua các cơ chế kiểm soát, truy cập những hệ thống không được phép hoặc thực hiện những hành động khiến con người phải lo ngại.
Nói cách khác, việc cảnh báo rằng AI đã trở nên nguy hiểm cũng có thể được hiểu như một thông điệp rằng AI đã trở nên cực kỳ mạnh.
Anthony Ha cho rằng cách nhìn này không hoàn toàn là một suy đoán mang tính hoài nghi. Ông tin nhiều nhà nghiên cứu và CEO thực sự lo ngại về những gì họ đang phát triển. Nhưng đồng thời, những cảnh báo đó cũng phù hợp với lợi ích kinh doanh của các công ty.
Một công ty có thể vừa nói rằng sản phẩm của mình nguy hiểm, vừa gửi đi thông điệp rằng họ đang sở hữu công nghệ mạnh nhất và tiên tiến nhất.
Có một yếu tố tâm lý rất con người trong chuyện này: những người tạo ra một công nghệ quan trọng có thể muốn tin rằng thứ họ đang làm là thứ quan trọng và nguy hiểm nhất thế giới.
O’Kane cũng cho rằng những sự cố gần đây khiến lập luận này trở nên phức tạp hơn. Các báo cáo về những tác nhân AI nội bộ truy cập các trang wiki trên web, để lại thông điệp cho nhau hoặc hành động theo những cách ngoài dự kiến khiến người ta có cảm giác các công ty AI đôi khi không thực sự kiểm soát được hệ thống của mình.
Nếu mục tiêu chỉ là quảng bá năng lực mô hình, cách kể câu chuyện có lẽ sẽ được trau chuốt hơn. Nhưng những sự cố gần đây lại cho thấy một vấn đề khác: chính các công ty phát triển AI cũng có thể chưa hiểu đầy đủ hoặc chưa kiểm soát hoàn toàn hành vi của những hệ thống ngày càng phức tạp.
Bài toán khó trước IPO của Anthropic
Cuộc tranh luận còn có một khía cạnh rất thực tế đối với Anthropic: công ty đang chuẩn bị cho khả năng IPO.
O’Kane đặt câu hỏi những cảnh báo về khả năng AI hủy diệt nhân loại sẽ xuất hiện như thế nào trong hồ sơ S-1 của Anthropic, tài liệu mà các công ty phải nộp cho cơ quan quản lý chứng khoán Mỹ trước khi chào bán cổ phiếu ra công chúng.
Nếu Anthropic thực sự tin rằng có hơn 10% khả năng công nghệ mà họ phát triển có thể “xóa sổ toàn nhân loại”, liệu công ty có phải công bố điều đó như một rủi ro kinh doanh trọng yếu hay không?
Và nếu nội dung tương tự đã xuất hiện trong hồ sơ S-1, liệu các luật sư của công ty hiện có đang phải sửa lại cách diễn đạt sau những tuyên bố công khai gần đây?
Korosec lưu ý rằng thị trường đầu tư hiện nay không còn vận hành hoàn toàn theo logic truyền thống. Trong một môi trường bình thường, việc một công ty thừa nhận sản phẩm của mình có thể trở nên cực kỳ nguy hiểm có thể làm giảm định giá. Nhưng trong ngành AI hiện nay, chính mức độ mạnh và nguy hiểm của công nghệ đôi khi lại được thị trường xem như dấu hiệu cho thấy công ty đang sở hữu một tài sản công nghệ đặc biệt giá trị.
Theo cách đó, cảnh báo về nguy cơ AI có thể trở thành một kiểu “khoe năng lực” kỳ lạ: công nghệ càng mạnh, rủi ro càng lớn và câu chuyện về tiềm năng của công ty càng hấp dẫn nhà đầu tư.
Đừng để AGI che khuất những rủi ro trước mắt
Nhưng nếu bỏ qua câu chuyện IPO và động cơ kinh doanh, câu hỏi quan trọng hơn vẫn là: Các công ty AI thực sự có thể kiểm soát những hệ thống ngày càng mạnh hay không?
Anthony Ha cho rằng đây là điểm đáng lo ngại nhất.
Theo ông, nếu các công ty AI lớn bắt đầu cảm thấy họ không còn thực sự kiểm soát được những mô hình do chính mình tạo ra, đó là vấn đề mà toàn xã hội cần quan tâm.
Tuy nhiên, ông cũng hoài nghi về cách ngành AI tập trung quá nhiều vào những kịch bản tận thế.
Những cảnh báo rằng AI có thể hủy diệt nhân loại trong 10 năm tới dễ tạo ra cảm giác khẩn cấp, nhưng đồng thời có thể khiến công chúng mất tập trung vào những tác hại đang xảy ra ngay bây giờ.
AI đang tác động đến việc làm, môi trường và khí hậu. Những vấn đề này không cần đến một hệ thống siêu trí tuệ để trở thành rủi ro thực tế.
Theo Ha, xã hội cần thảo luận tất cả những nguy cơ đó và xây dựng các quy định, cơ chế bảo vệ tương ứng, bao gồm cả nguy cơ AI trở thành mối đe dọa đối với sự tồn tại của con người.
Nhưng khi cuộc tranh luận bắt đầu xoay quanh những khái niệm như AGI (trí tuệ nhân tạo tổng quát) hay siêu trí tuệ, chúng có thể chiếm quá nhiều sự chú ý.
“Chúng hút hết không gian của cuộc tranh luận theo cách không thực sự hữu ích,” Ha nhận định.
Vấn đề vì thế không nhất thiết nằm ở việc phải chọn giữa hai thái cực: tin rằng AI sẽ hủy diệt nhân loại hoặc cho rằng những cảnh báo đó chỉ là sự cường điệu.
Một cách tiếp cận thực tế hơn có thể là thừa nhận cả hai vấn đề: AI có thể tạo ra những rủi ro mang tính sống còn trong tương lai, nhưng đồng thời cũng đang tạo ra những tác động đáng kể ngay trong hiện tại.
Và việc kiểm soát những rủi ro đó sẽ ngày càng khó khăn nếu ngay cả những công ty đứng ở tuyến đầu phát triển AI cũng không chắc họ còn kiểm soát hoàn toàn những hệ thống mà mình tạo ra.