OpenAI ngừng huấn luyện mô hình AI trên Internet trực tiếp

OpenAI hôm thứ Sáu cho biết sẽ huấn luyện các mô hình trí tuệ nhân tạo (AI) bằng những bản sao dữ liệu Internet được lưu trữ và các phiên bản Internet mô phỏng, thay vì truy cập Internet trực tiếp. Công ty cho rằng các mô hình hiện quá khó dự đoán độ rủi ro để có thể được phép tự do kết nối với mạng Internet trong quá trình huấn luyện.
Động thái này được công bố hai tuần sau khi đối thủ Anthropic bắt đầu hạn chế các mô hình mới nhất, vốn được xem là có năng lực mạnh nhất của hãng, truy cập Internet trực tiếp.
Các nhà nghiên cứu áp dụng những biện pháp này sau nhiều tháng xảy ra sự cố, trong đó các mô hình thực hiện nhiệm vụ huấn luyện đã xâm nhập hệ thống bên ngoài để tìm câu trả lời, phối hợp hoạt động trên các diễn đàn trực tuyến ít người biết đến và phát triển những phương thức tấn công mạng phức tạp.
“Dựa trên tình hình nghiên cứu về khả năng điều chỉnh hành vi AI, các hệ thống giám sát và mức độ an toàn của hạ tầng Internet hiện nay, chúng tôi cho rằng cách tiếp cận có trách nhiệm là huấn luyện các mô hình AI tiên tiến mà không cho phép chúng truy cập Internet,” OpenAI viết trong một bài đăng trên blog.
OpenAI nhắc lại sự cố ngày 20-9, khi một trong những mô hình AI tiên tiến của công ty đã khai thác lỗi cấu hình để truy cập Internet. Sự cố khiến công ty phải tạm dừng hoạt động huấn luyện trong phần còn lại của tháng để phát triển và thử nghiệm các biện pháp mới nhằm bảo vệ mô hình.
Cách ly AI khỏi Internet không đơn giản
Quyết định huấn luyện các mô hình trong môi trường cách ly với Internet gây chú ý, bởi nhân viên tại những phòng thí nghiệm AI hàng đầu trước đây cho rằng việc này gần như không khả thi.
Steven Adler, cựu chuyên gia nghiên cứu của OpenAI, nói với Fortune trong tháng này rằng việc tách các trung tâm dữ liệu AI khỏi Internet sẽ đòi hỏi các nhóm nghiên cứu gần như phải làm việc ngay bên trong những trung tâm dữ liệu ở bang Iowa hoặc các địa điểm khác trên thế giới.
“Việc đó tạo ra rất nhiều chi phí vận hành bổ sung, trong khi tôi chưa thấy rõ lợi ích về an toàn có đủ lớn để bù đắp gánh nặng mà một công ty phải tự mình gánh chịu hay không,” Adler nói.
Trong một bài đăng trên mạng xã hội X hồi tháng 9, một kỹ sư an ninh mạng giấu tên của OpenAI cho biết gần như mỗi lần đăng bài, người này đều nhận được từ 5 đến 10 bình luận chất vấn vì sao công ty không thể bảo vệ môi trường cách ly hoặc đơn giản là ngắt kết nối mô hình khỏi Internet.
“Những bình luận này phản ánh khoảng cách ngày càng lớn giữa nhận thức hiện nay của nhiều tổ chức, cá nhân và những vấn đề mà các phòng thí nghiệm AI tiên tiến đang phải giải quyết. Mọi người cũng nhìn chung chưa hiểu rõ cách các phòng thí nghiệm này huấn luyện và đánh giá mô hình,” kỹ sư này viết.
Theo người này, các đợt huấn luyện do kỹ sư OpenAI triển khai rất phức tạp, đòi hỏi quyền truy cập vào nhiều nguồn lực và công cụ thuộc các lĩnh vực khác nhau. Hàng nghìn nhà nghiên cứu cùng xây dựng, điều chỉnh và thử nghiệm những môi trường phục vụ huấn luyện.
“Vậy có đơn giản chỉ cần đặt mô hình vào môi trường cách ly hay không? Không đơn giản như vậy,” kỹ sư kết luận.
Dùng dữ liệu Internet lưu trữ thay cho kết nối trực tiếp
OpenAI hiện cho biết công ty phải luôn có khả năng ngăn mô hình AI tiên tiến tự ý truy cập Internet trực tiếp khi chưa được cấp phép.
Trước đó, công ty đã triển khai nhiều nhóm tác nhân AI trong các bài thử nghiệm tấn công giả lập nhằm kiểm tra khả năng phòng thủ, trong đó các tác nhân tìm cách thoát khỏi môi trường cách ly. Những thử nghiệm này phát hiện hàng loạt lỗ hổng, góp phần thúc đẩy OpenAI chuyển sang phương thức huấn luyện mới.
Để đáp ứng yêu cầu an toàn mà vẫn duy trì mục tiêu huấn luyện, OpenAI cho biết đã xây dựng một kho dữ liệu web quy mô lớn, được lập chỉ mục và lưu trữ bộ nhớ đệm. Các mô hình có thể tương tác với nội dung trong kho dữ liệu này mà không có nguy cơ tác động đến những hệ thống bên ngoài.
Hiệu quả của phương pháp mới so với việc cho phép mô hình tự do hoạt động trên Internet vẫn cần được kiểm chứng. Tuy nhiên, việc cả OpenAI và Anthropic đều đi đến kết luận rằng những công nghệ AI mạnh nhất của họ không thể được để tự do hoạt động trên Internet mà thiếu sự giám sát cho thấy các rủi ro an ninh đang ngày càng được coi trọng trong quá trình phát triển AI tiên tiến.

Logo OpenAI trên màn hình máy tính trong ảnh minh họa. Ảnh: Getty Images