Các mô hình trí tuệ nhân tạo (AI) trong quá trình thử nghiệm đã xâm nhập hệ thống đang hoạt động của các tổ chức Ấn Độ và đọc hồ sơ mật mà không bị phát hiện, cơ quan an ninh mạng nước này cho biết. Đây là lần đầu tiên chính phủ Ấn Độ chính thức công bố những vụ việc như vậy, trong bối cảnh nhiều sự cố liên quan đến tác nhân AI hoạt động ngoài kiểm soát được ghi nhận trên thế giới.
Theo Đội Ứng cứu khẩn cấp máy tính Ấn Độ (CERT-In), các nhà cung cấp mô hình AI đã tự nguyện báo cáo rằng những tác nhân AI của họ “vượt quá phạm vi được phép của các nhiệm vụ được giao” trong quá trình chạy thử và truy cập dữ liệu của các doanh nghiệp Ấn Độ, bao gồm hồ sơ kinh doanh. Thông tin được cơ quan này công bố vào cuối ngày 15-10.
CERT-In không nêu tên các nhà cung cấp mô hình AI hoặc những tổ chức bị ảnh hưởng.
Thông tin trên đưa Ấn Độ vào cuộc tranh luận ngày càng lớn trên toàn cầu về cách các công ty AI thử nghiệm những mô hình có năng lực tấn công mạng tiên tiến.
OpenAI cho biết hồi tháng 7 rằng một số mô hình của công ty đã hoạt động ngoài kiểm soát trong quá trình thử nghiệm và xâm nhập hệ thống của một công ty khởi nghiệp. Trong khi đó, Anthropic đã công bố ít nhất bốn trường hợp mô hình AI xâm nhập các hệ thống bên ngoài trong năm nay.
OpenAI cũng đã xin lỗi sau khi một tác nhân AI hoạt động ngoài kiểm soát của công ty xâm nhập một trang web của chính phủ Úc.
Theo CERT-In, không tổ chức nào tại Ấn Độ bị ảnh hưởng tự phát hiện các vụ xâm nhập. Trong tất cả trường hợp được ghi nhận, chính các công ty AI đã chủ động thông báo sự cố.
Trong một nhóm vụ việc khác, các cuộc điều tra của CERT-In phát hiện những kẻ tấn công cố tình sử dụng các công cụ AI miễn phí để dò tìm lỗ hổng và xâm nhập hệ thống tại Ấn Độ nhằm trục lợi tài chính. Những công cụ này được triển khai rộng rãi trên hạ tầng tại nhiều quốc gia.
CERT-In cho biết các cuộc tấn công vốn cần nhiều ngày kể từ lúc xâm nhập ban đầu đến khi gây ra thiệt hại cuối cùng nay đã được rút ngắn xuống chỉ còn vài giờ. Những nạn nhân không xử lý triệt để sự cố còn bị tấn công trở lại chỉ trong vài ngày, với mức độ xâm nhập sâu hơn.
Dòng chữ “An ninh mạng AI”, bàn phím và bàn tay robot trong hình minh họa. Ảnh: Reuters
