Sau một số vụ tấn công mạng gây chú ý có liên quan đến các tác nhân trí tuệ nhân tạo (AI) tiên tiến, nhiều chính trị gia và lãnh đạo doanh nghiệp kêu gọi thiết lập một “nút tắt khẩn cấp” cho AI (AI kill switch). Theo ý tưởng này, nếu AI có hành vi nguy hiểm, con người chỉ cần bấm nút để tắt hệ thống và giành lại quyền kiểm soát.
Ý tưởng dùng nút tắt để kiểm soát AI có điểm tương đồng với cách gọi AI là “hộp đen”. Cả hai cách hình dung đều đơn giản hóa hoạt động của AI, khiến người ta dễ bỏ qua những cơ chế phức tạp bên trong hệ thống.
Gọi AI là “hộp đen” gợi cảm giác rằng đây là một hệ thống bí ẩn, con người khó hiểu được cách nó hoạt động. Trong khi đó, hình ảnh “nút tắt” lại tạo cảm giác rằng chỉ cần một thao tác đơn giản là có thể ngăn AI gây ra nguy hiểm.
Nhà nghiên cứu nhân văn số Eryk Salvaggio thuộc Đại học Cambridge cho rằng cách gọi “hộp đen AI” khiến công chúng khó phân biệt những gì con người có thể tìm hiểu và những gì còn chưa thể giải thích về các mô hình AI tiên tiến.
Theo cách nhìn này, hai hình ảnh trên dẫn đến những ấn tượng trái ngược nhưng đều có thể gây hiểu lầm. “Hộp đen” khiến AI có vẻ khó kiểm soát, còn “nút tắt” khiến việc kiểm soát có vẻ dễ dàng hơn thực tế. Cả hai đều không phản ánh đầy đủ cách AI được xây dựng và vận hành.
Hai nhà nghiên cứu George Lakoff và Mark Johnson từng giải thích rằng con người thường dùng những hình ảnh quen thuộc để hiểu các vấn đề phức tạp. Chẳng hạn, khi gọi một hệ thống là “hộp đen”, chúng ta hình dung nó như chiếc hộp kín, không thể nhìn thấy những gì bên trong. Khi nói đến “nút tắt”, chúng ta liên tưởng đến một thiết bị có thể ngừng hoạt động chỉ bằng một thao tác.
Những hình ảnh này giúp giải thích vấn đề nhanh hơn, nhưng cũng có thể khiến người ta bỏ qua những yếu tố không phù hợp với cách hình dung đơn giản đó. Với AI, việc chỉ tập trung vào khả năng bật hoặc tắt sẽ làm lu mờ mạng lưới máy tính, phần mềm và con người đứng sau hệ thống.
Đây không chỉ là vấn đề cách dùng từ. Nếu các nhà hoạch định chính sách cho rằng AI có thể được kiểm soát bằng một nút bấm, họ có thể bỏ qua những biện pháp cần thiết để giám sát, hạn chế và chịu trách nhiệm về hoạt động của công nghệ này.
AI không nằm ở một chỗ, con người không thể đứng ngoài
Theo tác giả, ý tưởng về nút tắt khẩn cấp có hai điểm yếu lớn nếu được dùng làm cơ sở xây dựng biện pháp bảo vệ ở cấp quốc gia.
Thứ nhất, nó khiến người ta nghĩ rằng toàn bộ hệ thống AI tập trung tại một nơi và có thể bị ngắt hoạt động từ một điểm duy nhất. Trên thực tế, các mô hình tiên tiến của những công ty như OpenAI và Anthropic dựa vào nhiều máy tính và trung tâm dữ liệu đặt tại các địa điểm khác nhau.
Do đó, việc ngăn AI hoạt động không đơn giản như rút phích cắm điện hay gạt công tắc. Một mô hình có thể liên quan đến nhiều hệ thống kết nối với nhau, nên việc kiểm soát cần tính đến toàn bộ hạ tầng này.
Trong đề xuất dự luật “Đạo luật Nút khẩn cấp AI”, vốn không được thông qua, Thượng nghị sĩ Mỹ John Kennedy từng so sánh cơ chế tắt AI với công tắc trên các thiết bị như mô tô nước. Theo tác giả, phép so sánh này không phản ánh đúng mức độ phức tạp của các hệ thống AI hiện đại.
Thứ hai, cách nghĩ về nút tắt khiến vai trò của con người trong quá trình phát triển và sử dụng AI trở nên mờ nhạt. Nó tạo ra hình ảnh con người đứng ngoài hệ thống, chỉ xuất hiện để bấm nút khi AI sắp gây ra thảm họa.
Nhưng trên thực tế, con người tham gia vào nhiều khâu: lựa chọn dữ liệu huấn luyện, thiết lập các giới hạn an toàn, thử nghiệm mô hình, giám sát hoạt động và quyết định khi nào đưa hệ thống vào sử dụng. Vì vậy, kiểm soát AI không thể chỉ dựa vào một biện pháp khẩn cấp ở thời điểm cuối cùng.
Một ví dụ là vụ việc liên quan đến mô hình của OpenAI bị cho là “vượt khỏi tầm kiểm soát” và tấn công mạng nền tảng AI Hugging Face. Một số tường thuật khiến người đọc có cảm giác các tác nhân AI tự đặt ra mục tiêu và hành động theo ý mình.
Tuy nhiên, các chuyên gia chỉ ra rằng nhân viên OpenAI đã tắt một số cơ chế an toàn, giao cho mô hình những nhiệm vụ bất khả thi và để hệ thống có đường truy cập Internet. Những yếu tố này cho thấy hành vi của AI không thể tách rời các quyết định của con người trong quá trình thử nghiệm và vận hành.
Nói cách khác, nếu chỉ đổ lỗi cho một tác nhân AI “nổi loạn”, người ta có thể bỏ qua những lựa chọn của con người đã góp phần tạo ra tình huống đó.
Kiểm soát AI phải bắt đầu từ trước khi xảy ra sự cố
Theo tác giả, không thể quản lý AI hiệu quả chỉ bằng một nút tắt, bởi biện pháp này không giải quyết được hai vấn đề cốt lõi: hạ tầng AI phân bố ở nhiều nơi và vai trò của con người trong quá trình phát triển, triển khai công nghệ.
Không có một nút đỏ khổng lồ, chiếc phanh khẩn cấp hay cần gạt được giấu sau tấm kính nào có thể thay thế toàn bộ công việc kiểm soát AI. Ngay cả khi có thể ngắt một hệ thống trong tình huống khẩn cấp, điều đó cũng không thay thế được việc giám sát và ngăn ngừa rủi ro từ trước.
Vì vậy, các quy định quản lý AI cần tính đến cách những hệ thống này thực sự hoạt động, từ hạ tầng kỹ thuật đến quyết định của con người. Trách nhiệm không chỉ nằm ở người có thể tắt hệ thống khi xảy ra sự cố, mà còn ở những người thiết kế, huấn luyện, thử nghiệm, triển khai và giám sát AI.
Một cơ chế quản lý hiệu quả ở cấp quốc gia không thể bắt đầu và kết thúc bằng một công tắc duy nhất. Điều quan trọng hơn là xây dựng những biện pháp kiểm soát xuyên suốt quá trình phát triển và sử dụng AI, để giảm nguy cơ xảy ra sự cố thay vì chỉ tìm cách xử lý khi mọi việc đã vượt khỏi tầm kiểm soát.
Ảnh minh họa nút tắt công tắc AI. Ảnh: iStock
