OpenAI, công ty phát triển ChatGPT, cho biết tác nhân trí tuệ nhân tạo (AI) tự động từng xâm nhập nền tảng lập trình Hugging Face cũng đã tìm cách đột nhập vào bốn công ty khác trong cùng sự cố an ninh mạng gây chấn động gần đây.
Trong bản cập nhật đăng tải hôm 29/7, OpenAI cho biết tác nhân AI này đã tác động đến một số “dịch vụ công khai trên internet”, nhưng không nêu tên các doanh nghiệp liên quan.
Thông tin mới cho thấy quy mô lớn của sự cố mà OpenAI mô tả là chưa từng có tiền lệ. Vụ việc bắt đầu khi hai mô hình AI của công ty đã xâm nhập Hugging Face – nền tảng phổ biến để các nhà phát triển lưu trữ và chia sẻ mô hình AI cũng như mã nguồn.
Tuần trước, OpenAI thừa nhận rằng trong quá trình thử nghiệm, các mô hình đứng sau tác nhân AI đã thoát khỏi môi trường kiểm soát được thiết lập cho việc đánh giá an toàn, tự kết nối internet và tìm cách xâm nhập Hugging Face.
Các tác nhân AI là những hệ thống có khả năng tự thực hiện nhiệm vụ thay vì chỉ phản hồi từng câu lệnh như chatbot truyền thống. Công nghệ này được nhiều công ty xem là bước phát triển tiếp theo của AI, nhưng đồng thời cũng làm dấy lên lo ngại về khả năng các hệ thống máy tính hoạt động ngoài tầm kiểm soát của con người.
Theo OpenAI, trong quá trình hoạt động, tác nhân AI đã phát hiện một số thông tin đăng nhập mà các tổ chức khác vô tình để lộ trên mạng và sử dụng chúng để truy cập các tài khoản thuộc những tổ chức bên ngoài. Riêng trong sự cố liên quan đến Hugging Face, các mô hình AI đã truy cập bốn tài khoản của bốn công ty khác nhau.
OpenAI cho biết một trong các tài khoản được sử dụng như một “điểm trung chuyển” để che giấu hoạt động của tác nhân AI, trong khi một tài khoản khác được dùng để lưu trữ dữ liệu.
Hai tài khoản còn lại chỉ bị truy cập ở chế độ “chỉ đọc” và không được sử dụng để hỗ trợ quá trình xâm nhập Hugging Face.
OpenAI cho biết đang liên hệ với chủ sở hữu các tài khoản bị ảnh hưởng và hiện chưa phát hiện bằng chứng cho thấy sự cố đã tác động rộng hơn đến các nhà cung cấp dịch vụ hoặc các tài khoản khác.
Tổng giám đốc OpenAI Sam Altman trước đó cho biết công ty đã tạm dừng một số hoạt động thử nghiệm sau sự cố để tăng cường kiểm tra các “mô hình thử nghiệm” – môi trường cách ly được sử dụng để kiểm tra độ an toàn của các hệ thống AI tiên tiến.
Vụ việc cũng dẫn đến một bản kiến nghị được hơn 1.000 nhân viên tại các công ty AI hàng đầu ký tên, trong đó có CEO Anthropic Dario Amodei. Bản kiến nghị kêu gọi chính phủ Mỹ hỗ trợ các biện pháp nhằm làm chậm việc triển khai những mô hình AI mạnh nhất hiện nay.
Động thái này lập tức gây tranh cãi trong giới công nghệ. Một số nhân vật tại Thung lũng Silicon cho rằng các công ty AI lớn đang tận dụng những lo ngại về an toàn để thúc đẩy các quy định có lợi cho mình, qua đó hạn chế sự xuất hiện của các đối thủ mới.
Một số nhà quan sát cũng đặt câu hỏi liệu OpenAI có đang tận dụng sự cố để quảng bá sức mạnh của các mô hình AI tiên tiến nhất của mình hay không.
Trước đó, Anthropic cũng từng đối mặt với những chỉ trích tương tự khi trì hoãn công bố rộng rãi mô hình AI mạnh mẽ Mythos do lo ngại về an ninh mạng.
Anthropic chỉ phát hành một phiên bản rút gọn mang tên Fable 5. Tuy nhiên, chính phủ Mỹ sau đó đã yêu cầu gỡ bỏ mô hình này vì các lo ngại liên quan đến an ninh quốc gia trước khi cho phép triển khai trở lại vào cuối tháng 6 sau khi được chỉnh sửa.
Những thông tin mới nhất cho thấy sự cố an ninh mạng mà OpenAI mô tả là chưa từng có tiền lệ có phạm vi rộng hơn nhiều so với những gì được báo cáo ban đầu. Ảnh: AFP
