Satya Nadella, Chủ tịch kiêm CEO Microsoft, ngày 10-10 kêu gọi thiết kế các hệ thống trí tuệ nhân tạo (AI) tiên tiến với cơ chế khoanh vùng rủi ro, kiểm soát độc lập và dừng khẩn cấp, cho phép người có thẩm quyền tạm dừng hoặc tắt mô hình ngay cả khi đang thực hiện nhiệm vụ.
“Chúng ta cần bao quanh các mô hình có hành vi khó dự đoán bằng thiết kế hệ thống chặt chẽ, có thể dự đoán được, cơ chế kiểm soát của con người và quy trình vận hành đáng tin cậy; đồng thời xây dựng các tiêu chuẩn ngành ở những lĩnh vực chưa có tiêu chuẩn phù hợp,” Nadella viết trên mạng xã hội X.
Ông cho rằng việc xem các mô hình AI tiên tiến, cả loại đóng lẫn loại công khai trọng số, như những rủi ro nội bộ là một cách để xây dựng hệ thống kiểm soát như vậy.
Nhận định của Nadella được đưa ra trong bối cảnh nhiều lãnh đạo công nghệ và nhà nghiên cứu hàng đầu, trong đó có đồng sáng lập Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman và CEO SpaceX Elon Musk, cảnh báo các biện pháp bảo đảm an toàn AI chưa đầy đủ và công nghệ đang phát triển quá nhanh.
Tháng trước, một nhà nghiên cứu AI đã rời Anthropic, cáo buộc công ty này và đối thủ lớn nhất là OpenAI đang “đánh cược với mạng sống của chúng ta”. Cũng trong ngày đó, một lãnh đạo phụ trách nghiên cứu bảo đảm AI phù hợp với mục tiêu và an toàn tại Anthropic nhận định có hơn 10% khả năng công nghệ này có thể “giết chết toàn bộ loài người” trong thập niên tới.
Ở chiều ngược lại, Tổng thống Mỹ Donald Trump nhiều lần bác bỏ những cảnh báo về nguy cơ AI khiến nhân loại diệt vong, đồng thời nhấn mạnh ngành công nghiệp Mỹ cần duy trì lợi thế trước Trung Quốc. Gần đây, ông cũng thành lập một lực lượng mới mang tên “AI Force”, do Giám đốc Tình báo Quốc gia Jay Clayton đứng đầu, nhằm thúc đẩy ngành công nghiệp và loại bỏ các đối tượng có hành vi sai trái.
Nadella cho biết các hệ thống AI cần được thiết kế theo “nguyên tắc có thể quan sát được”. Theo ông, những nguyên tắc này bao gồm đa dạng hóa mô hình; lưu lại dấu vết hoạt động của mô hình theo cách con người có thể đọc hiểu; kiểm thử hệ thống liên tục; có cơ chế kiểm soát độc lập và khả năng kiểm toán; khoanh vùng rủi ro; cùng quy định công bố sự cố.
Ông nhấn mạnh: “Hệ thống siêu trí tuệ đáng tin cậy nhất sẽ không phải là hệ thống có mô hình mà chúng ta tin tưởng nhất, mà là hệ thống cho phép chúng ta ít phải đặt niềm tin vào mô hình nhất”.
Satya Nadella, CEO Microsoft, tại một sự kiện ở San Francisco, bang California, Mỹ, ngày 7-10-2026. Ảnh: Bloomberg
