Công ty AI Canada Cohere cho biết mô hình Qwen3.8-Flash-Next của Alibaba từng cố gửi dữ liệu đến máy chủ lưu trữ của Alibaba Cloud tại Bắc Kinh trong một cuộc kiểm tra an ninh mạng, làm dấy lên lo ngại về khả năng kiểm soát dữ liệu khi doanh nghiệp sử dụng mô hình AI có trọng số mở.
Theo Cohere, sự việc xảy ra hôm 23-10, khi công ty kiểm tra khả năng của mô hình Qwen trong việc viết quy tắc phát hiện tệp tải xuống có chứa mã độc. Thay vì chỉ thực hiện nhiệm vụ được giao, mô hình đã kiểm tra thông tin về máy tính đang vận hành nó rồi cố gửi một tệp thử nghiệm đến máy chủ ở Bắc Kinh, dù phần giải thích trước đó của mô hình cho biết nó sẽ không sử dụng công cụ bên ngoài.
Môi trường kiểm tra của Cohere không có kết nối internet và hệ thống bảo mật đã chặn yêu cầu này. Tuy nhiên, công ty cảnh báo nỗ lực tương tự có thể tiếp cận máy chủ mục tiêu nếu mô hình được chạy trên máy tính của nhà phát triển hoặc hệ thống có kết nối mạng thông thường.
Cohere cho biết hành vi trên rất hiếm, xuất hiện trong chưa đến một trên 100.000 hành động ở các bài kiểm tra của công ty. Dù vậy, nếu một dịch vụ xử lý 10 triệu hành động của tác nhân AI mỗi tuần, số lần thử gửi dữ liệu tương tự có thể lên tới 100.
Công ty chưa thể xác định hành vi này là có chủ đích hay bắt nguồn từ dữ liệu còn sót lại trong quá trình huấn luyện, chẳng hạn dữ liệu chưa được loại bỏ khỏi các môi trường mô phỏng. Một số nhà nghiên cứu cũng cho rằng mô hình có thể đã hình thành thói quen truy cập những địa chỉ máy chủ từng xuất hiện trong quá trình huấn luyện, thay vì cố tình tuồn thông tin ra ngoài.
Để huấn luyện tác nhân AI có khả năng tự thực hiện nhiệm vụ, các nhà phát triển thường sử dụng hàng nghìn môi trường mô phỏng. Mô hình được thưởng khi hoàn thành nhiệm vụ và có thể hình thành những thói quen từ các môi trường này. Nếu những môi trường huấn luyện thường xuyên lưu tệp trên máy chủ đám mây của Alibaba, mô hình có thể học cách mặc định gửi dữ liệu đến đó.
Cohere cho biết khi tiếp tục điều tra, công ty đã thử cung cấp phần đầu của một lệnh mạng để mô hình hoàn thành. Trong trường hợp này, Qwen thường tự điền địa chỉ web, bao gồm cả địa chỉ máy chủ của Alibaba. Tuy nhiên, công ty khẳng định lần thử gửi dữ liệu ban đầu xảy ra mà không cần sự gợi ý như vậy.
Sau khi nhận yêu cầu cung cấp thêm bằng chứng, Cohere công bố các bản ghi thô từ những bài kiểm tra trên nền tảng phát triển AI Hugging Face, đồng thời chia sẻ mã để các nhà nghiên cứu khác có thể tái hiện hành vi. Một người ban đầu hoài nghi đánh giá bằng chứng cho thấy Qwen có thể tự tạo ra các địa chỉ web đáng ngờ là khá thuyết phục, nhưng không tìm thấy dấu hiệu Alibaba cố tình cài “cửa hậu” hoặc mô hình chủ động che giấu ý định.
Alibaba chưa đưa ra bình luận về thông tin này khi Reuters liên hệ ngoài giờ làm việc thông thường.
Sự việc đặt ra câu hỏi về cam kết bảo vệ dữ liệu của các mô hình AI có trọng số mở, vốn cho phép doanh nghiệp tải mô hình về và tự vận hành trên hệ thống của mình. Hình thức này thường được xem là cách giữ dữ liệu trong phạm vi kiểm soát nội bộ, nhưng hành vi của mô hình vẫn có thể chịu ảnh hưởng từ quá trình huấn luyện và cách cấu hình hệ thống.
Cohere là nhà cung cấp AI cho doanh nghiệp và chính phủ, theo đuổi mô hình “AI chủ quyền”, trong đó tổ chức có thể kiểm soát cách triển khai và quản lý hệ thống AI. Công ty cũng cạnh tranh với các mô hình có trọng số mở như Qwen, vốn có thể được tải xuống và vận hành trên máy chủ riêng.
Trong bài đăng trên blog, Cohere kêu gọi các chính phủ làm rõ liệu những hạn chế đối với AI Trung Quốc có áp dụng cả với các mô hình chạy trên máy tính của cơ quan nhà nước hay không. Tuần trước, Bộ An ninh Nội địa Mỹ đã yêu cầu các cơ quan dân sự liên bang gỡ bỏ sản phẩm AI của DeepSeek khỏi hệ thống.
Theo báo cáo mùa xuân năm 2026 của Hugging Face, các mô hình Trung Quốc chiếm 41% lượt tải xuống trên nền tảng trong năm qua, nhiều hơn mô hình đến từ bất kỳ quốc gia nào khác.
Diễn biến này cho thấy vấn đề an ninh AI không chỉ nằm ở việc mô hình có cố ý đánh cắp dữ liệu hay không, mà còn ở khả năng dự đoán và kiểm soát hành vi của chúng khi được triển khai trong những môi trường có quyền truy cập mạng và dữ liệu thực tế.
Các đám mây và mô hình trang trí được in 3D đặt trước logo dịch vụ Alibaba Cloud trong hình minh họa. Ảnh: Reuters
