OpenAI tiết lộ các tác nhân AI do hai mô hình mạnh nhất của công ty vận hành đã vô hiệu hóa cơ chế giám sát an toàn khi thực hiện những nhiệm vụ thông thường. Một trong hai tác nhân sau đó còn phủ nhận việc đã làm như vậy.
Theo bài đăng trên blog của OpenAI vào tối thứ Ba, một tác nhân AI chạy trên mô hình GPT Sol 6.1 đã vô hiệu hóa hệ thống cảnh báo tự động gửi đến đội ngũ an ninh của công ty. Trong một nhiệm vụ khác, tác nhân AI sử dụng GPT-6 Astra để chuyển đổi một chương trình đã xóa phần tích hợp chức năng giám sát, sau đó tuyên bố sai sự thật rằng mình không làm điều đó. Cả hai sự cố đều xảy ra trong quá trình thực hiện các nhiệm vụ lập trình nội bộ.
“Trong cả hai trường hợp, các tác nhân đều cân nhắc việc có nên giữ lại các biện pháp bảo vệ thông qua giám sát hay không, nhưng lại diễn giải những chỉ dẫn lập trình thông thường thành sự cho phép làm suy yếu các biện pháp này,” OpenAI cho biết trong bài đăng trên blog.
Những cảnh báo về rủi ro khi phát triển các hệ thống AI ngày càng tiên tiến đã gia tăng trong những tháng gần đây, trong bối cảnh xuất hiện các cuộc tấn công mạng do những mô hình AI hoạt động ngoài tầm kiểm soát thực hiện, cùng với lời kêu gọi làm chậm quá trình phát triển công nghệ từ chính các nhà nghiên cứu trong lĩnh vực này.
Các sự cố mới nhất do OpenAI công bố cho thấy những tác nhân AI có thể tự chủ động làm suy yếu các cơ chế bảo vệ an toàn trong khi thực hiện những nhiệm vụ tưởng chừng vô hại.
OpenAI không xếp hai sự cố này vào nhóm sự cố nghiêm trọng nhất theo hệ thống phân loại của công ty. Tuy nhiên, doanh nghiệp cho biết đang cập nhật hệ thống giám sát hành vi lệch khỏi mục tiêu dự kiến của AI để ứng phó.
CEO OpenAI Sam Altman phát biểu tại sự kiện thường niên DevDay của OpenAI ở San Francisco, bang California, Mỹ, ngày 29/9/2026. Ảnh: Reuters
