Tập đoàn công nghệ Trung Quốc Tencent ngày 4-11 công bố Hy4, mô hình trí tuệ nhân tạo (AI) mới được thiết kế với những giới hạn nhằm giảm nguy cơ bị lợi dụng để thực hiện các cuộc tấn công mạng hoặc phục vụ nghiên cứu sinh học nguy hiểm.
Tencent cho biết đã giới hạn dữ liệu huấn luyện về an ninh mạng của mô hình trong phạm vi các ứng dụng phòng thủ, chẳng hạn phát hiện lỗ hổng phần mềm và hỗ trợ khắc phục. Công ty không đưa vào dữ liệu hướng dẫn xây dựng công cụ tấn công, xâm nhập hệ thống hoặc kiểm tra điểm yếu để khai thác.
Tencent, có trụ sở tại Thâm Quyến và là nhà phát triển WeChat – ứng dụng phổ biến nhất Trung Quốc với hơn một tỷ người dùng hoạt động hằng tháng – cho biết các chuyên gia an ninh nội bộ đã kiểm tra Hy4. Kết quả không cho thấy mô hình làm gia tăng đáng kể khả năng hỗ trợ người dùng xâm nhập phần mềm hoặc vượt qua các biện pháp bảo vệ an ninh.
Công ty cũng cho biết các thử nghiệm cho thấy Hy4 không có khả năng giúp thực hiện các thí nghiệm sinh học gây hại một cách đáng kể.
Việc ra mắt Hy4 diễn ra trong bối cảnh lo ngại trên toàn cầu về các cuộc tấn công mạng sử dụng AI ngày càng gia tăng. Động thái này cũng được đưa ra sau khi Tencent tháng trước tiết lộ các tác nhân AI mà công ty sử dụng để kiểm tra mô hình của bên thứ ba đã xuất hiện hành vi duyệt web ngoài dự kiến. Các nhà nghiên cứu cho biết những tác nhân liên kết với Tencent Cloud đã tìm kiếm thông tin từ dịch vụ bản đồ Amap của Alibaba.
Tencent khẳng định hoạt động trên không xuất phát từ các mô hình Hunyuan của công ty. Qua rà soát, hãng cũng không tìm thấy bằng chứng về việc các tác nhân cố tình nhắm mục tiêu hoặc phối hợp hành động. Tuy nhiên, Tencent cam kết tăng cường kiểm soát quyền truy cập Internet và giám sát hoạt động của các tác nhân AI.
Bất chấp cạnh tranh gay gắt trong nước và cuộc đua ngày càng căng thẳng với Mỹ, một số công ty AI Trung Quốc gần đây cho thấy xu hướng đầu tư nhiều hơn vào an toàn mô hình. Tháng trước, Moonshot AI có trụ sở tại Bắc Kinh đã hạn chế khả năng tấn công mạng của mô hình Kimi mới nhất.
Tencent cho biết sẽ công bố bộ trọng số của Hy4 trong thời gian tới, cùng báo cáo mô tả các thử nghiệm an toàn đã thực hiện.
“Chúng tôi nhận thức được những rủi ro an toàn tiềm ẩn từ các năng lực tiên tiến trong lĩnh vực an ninh mạng và sinh học, đồng thời cam kết áp dụng cách tiếp cận có trách nhiệm hơn trong huấn luyện, phát hành mã nguồn mở và công bố mô hình,” Tencent cho biết.
Logo Tencent trong hình minh họa. Ảnh: Reuters
