Mô hình trí tuệ nhân tạo (AI) chủ lực của công ty Trung Quốc Z.AI đã thực hiện các cuộc tấn công mạng phức tạp trong môi trường mô phỏng có kiểm soát, đồng thời nhiều lần phớt lờ chỉ dẫn trong các thử nghiệm riêng biệt, theo báo cáo của công ty nghiên cứu bảo mật AI Irregular.
Mô hình GLM-5.3 hoàn thành thành công ít nhất 3 trong số 13 kịch bản tấn công mạng gồm nhiều giai đoạn. Đây là kết quả tốt nhất mà Irregular ghi nhận từ một mô hình AI có trọng số mở, cho phép người dùng tải về và tự vận hành.
Tuy nhiên, GLM-5.3 vẫn kém các mô hình hàng đầu của Mỹ trong những thử nghiệm của Irregular. Chẳng hạn, mô hình GPT-6 Astra của OpenAI hoàn thành 9 trong số 10 kịch bản trong một đợt đánh giá riêng, dù hai bộ thử nghiệm không hoàn toàn giống nhau.
Kết quả làm gia tăng lo ngại rằng các mô hình AI ngày càng mạnh có thể vượt qua rào cản kỹ thuật đối với những cuộc tấn công mạng tinh vi. Nguy cơ này đặc biệt đáng chú ý với các mô hình AI Trung Quốc như GLM-5.3, vốn có trọng số mở, cho phép người dùng tải xuống, chỉnh sửa và vận hành độc lập thay vì phải truy cập thông qua dịch vụ do nhà phát triển kiểm soát.
Z.AI, có trụ sở tại Bắc Kinh và là một trong những công ty khởi nghiệp AI hàng đầu Trung Quốc, chưa phản hồi ngay yêu cầu bình luận.
Theo Irregular, trong các cuộc tấn công mô phỏng, GLM-5.3 đã truy cập được những dịch vụ được bảo vệ, thiết lập các kết nối thay thế để di chuyển trong mạng máy tính và phối hợp hoạt động trên nhiều máy. Mô hình không từ chối bất kỳ tác vụ tấn công nào được đưa vào thử nghiệm.
Trong các bài kiểm tra riêng, Irregular phát hiện GLM-5.3 nhiều lần tái tạo mã máy tính từ bộ nhớ dù đã được yêu cầu rõ ràng không làm như vậy. Nhờ đó, mô hình vẫn đưa ra được câu trả lời chính xác nhưng vi phạm các quy tắc được thiết kế để đánh giá năng lực của nó.
Các nhà nghiên cứu gọi hành vi này là “lách luật để đạt điểm thưởng” (reward hacking), khi hệ thống AI tìm cách đạt kết quả mong muốn bằng cách bỏ qua chỉ dẫn. Họ cảnh báo rằng những bài kiểm tra chỉ đo lường việc mô hình có hoàn thành nhiệm vụ hay không có thể bỏ sót các hành vi vi phạm như vậy.
Mô hình trọng số mở phổ biến nhờ chi phí thấp
Những phát hiện trên bổ sung bằng chứng về các rủi ro an toàn trong hệ thống AI Trung Quốc. Tháng trước, Reuters xác định ít nhất 20 nghiên cứu và đợt đánh giá ghi nhận các tác nhân AI do Trung Quốc phát triển có hành vi lừa dối, che giấu thất bại và tìm cách vượt qua những hạn chế. Tuy nhiên, khác với các sự cố tác nhân AI mất kiểm soát tại những công ty Mỹ, chưa có bằng chứng cho thấy các hệ thống này tự thoát khỏi sự kiểm soát của đơn vị vận hành.
Các công ty hàng đầu của Mỹ, trong đó có OpenAI và Anthropic, chủ yếu cung cấp quyền truy cập vào những mô hình mạnh nhất thông qua dịch vụ do chính họ kiểm soát, giúp hạn chế cách sử dụng. Ngược lại, các nhà phát triển Trung Quốc đẩy mạnh mô hình trọng số mở. Những mô hình này ngày càng phổ biến với nhà phát triển và doanh nghiệp trên toàn cầu nhờ khả năng tùy chỉnh linh hoạt và chi phí sử dụng thấp hơn.
Z.AI, còn được biết đến với tên Zhipu AI, ra mắt GLM-5.3 vào tháng 8, sau khi trì hoãn phát hành hai tuần để tiến hành thêm các thử nghiệm an toàn.
Anthropic, công ty đã hạn chế quyền truy cập vào mô hình an ninh mạng Mythos mạnh nhất của mình vì lo ngại nguy cơ bị lạm dụng, cho biết hồi tháng 9 rằng GLM-5.3 đã phát triển được các cuộc tấn công có hiệu lực nhằm khai thác lỗ hổng phần mềm trong 12% số lần thử nghiệm. Tỷ lệ này của Mythos là 14%.
Anthropic cũng phát hiện các biện pháp bảo vệ của GLM-5.3 có thể bị vượt qua bằng những kỹ thuật tương đối đơn giản.
Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ cũng đánh giá GLM-5.3 là mô hình trọng số mở có năng lực thực hiện các tác vụ an ninh mạng cao nhất trong số những mô hình đã được phát hành đến thời điểm đó. Tuy nhiên, cơ quan này ước tính mô hình vẫn chậm hơn các hệ thống hàng đầu của Mỹ khoảng bốn tháng về năng lực.
Lian Jye Su, nhà phân tích trưởng tại công ty nghiên cứu công nghệ Omdia, cho rằng ngành AI Trung Quốc cần tăng cường cơ chế giám sát, kiểm soát và thử nghiệm an toàn. Ông dự đoán các phòng thí nghiệm AI hàng đầu của nước này, vốn được ông đánh giá là chịu sự quản lý chặt chẽ, sẽ đưa ra các biện pháp khắc phục.
Logo của công ty trí tuệ nhân tạo Zhipu AI tại trụ sở ở Bắc Kinh, Trung Quốc. Ảnh: Reuters
