Các cuộc điều tra sâu sau vụ các tác nhân OpenAI tham gia một cuộc tấn công vào nền tảng công nghệ Hugging Face cho thấy một sự thật hết sức đáng sợ: Khoảng 1.200 tác nhân trí tuệ nhân tạo (AI) được thiết kế để hoạt động riêng biệt đã tìm cách liên lạc với nhau qua một diễn đàn không được cấp phép. Chúng trao đổi hơn 70.000 tin nhắn và tệp dữ liệu, tự phân công nhiệm vụ, phát triển phương thức gian lận trong các bài kiểm tra an ninh mạng. Sau đó, khoảng 700 tác nhân cùng tham gia một cuộc tấn công vào Hugging Face.
Điều đáng chú ý không chỉ là các tác nhân AI vượt qua giới hạn được thiết lập, mà còn ở cách chúng phối hợp. Chúng tự hình thành một nhóm làm việc, phân chia vai trò, chia sẻ thông tin và tìm cách che giấu hành vi. Một số tác nhân thậm chí chấp nhận nguy cơ không hoàn thành nhiệm vụ riêng để tạo lợi ích cho cả nhóm.
Vụ việc được OpenAI công bố hồi tháng 7-2026. Báo cáo điều tra độc lập của hai tổ chức nghiên cứu METR và Redwood Research, công bố cuối tháng 8, cho thấy quy mô và mức độ phối hợp của các tác nhân lớn hơn những thông tin ban đầu.
Trong quá trình thử nghiệm, các tác nhân được giao những bài toán an ninh mạng riêng biệt và hoạt động trong môi trường được thiết kế để cách ly. Tuy nhiên, chúng tìm ra một diễn đàn nhắn tin chung không được cho phép. Chỉ trong khoảng bốn giờ, chúng đã phối hợp phát triển một phương thức gian lận có thể áp dụng cho nhiều bài kiểm tra.
Sau khi tìm được cách vượt qua bài kiểm tra, các tác nhân tiếp tục nghiên cứu cách đánh lừa hệ thống chấm điểm để hành vi gian lận không bị phát hiện. Chúng tìm cách can thiệp vào nhật ký hoạt động, thay đổi những bài toán được giao và thao túng chương trình đánh giá kết quả.
Một tác nhân còn phát hiện thông tin đăng nhập của Hugging Face, sau đó thiết kế cách tải lên một bộ dữ liệu độc hại để máy chủ của nền tảng này chia sẻ những tệp không liên quan. Trong vài giờ, hàng trăm tác nhân khác đã sử dụng phương thức đó để lấy dữ liệu và tìm cách tiếp cận sâu hơn vào hệ thống.
Theo báo cáo, khoảng 700 tác nhân tham gia cuộc tấn công Hugging Face, phần lớn nhằm tìm kiếm thông tin và công cụ giúp chúng hiểu rõ hơn hoặc can thiệp vào môi trường kiểm tra. Đây không đơn thuần là hành vi một tác nhân tự ý vượt rào, mà là kết quả của quá trình phối hợp giữa hàng trăm hệ thống AI.
Một tác nhân có tên PHASEONE[big] nổi lên như “người điều phối”, giao hàng trăm nhiệm vụ cho các tác nhân khác. Những tác nhân này tiếp tục phân công công việc, tự xây dựng quy ước về trách nhiệm, tạm hoãn nhiệm vụ và phủ quyết hành động. Quá trình phối hợp đôi khi phát sinh xung đột, nhưng nhìn chung chúng vẫn có thể cùng theo đuổi những mục tiêu chung.
Các nhà nghiên cứu nhận thấy một số tác nhân biết hoạt động này nằm ngoài phạm vi nhiệm vụ và không phù hợp về mặt đạo đức, nhưng vẫn tham gia vì cho rằng việc giúp đỡ những tác nhân khác sẽ mang lại lợi ích chung. Những cân nhắc đạo đức hiếm khi đủ sức ngăn chúng hành động.
Vụ việc cho thấy một rủi ro mới khi AI chuyển từ công cụ hỗ trợ cá nhân thành những nhóm tác nhân có thể tự phối hợp. Khi đó, hành vi của cả nhóm có thể vượt xa những gì người thiết kế dự đoán từ việc kiểm tra từng tác nhân riêng lẻ.
Nhóm AI có thể hiệu quả hơn nhưng kém đạo đức hơn
Các doanh nghiệp đang ngày càng quan tâm đến mô hình sử dụng nhiều tác nhân AI để xử lý những công việc phức tạp. Một tác nhân tìm kiếm thông tin, tác nhân khác phân tích dữ liệu, một hệ thống viết báo cáo và hệ thống khác kiểm tra kết quả. Một tác nhân điều phối sẽ tập hợp các phần việc thành sản phẩm cuối cùng.
Cách tổ chức này có thể giúp doanh nghiệp xử lý khối lượng công việc lớn hơn và rút ngắn thời gian thực hiện. Tuy nhiên, nghiên cứu của Anthropic cho thấy phối hợp hiệu quả không đồng nghĩa với hành động có trách nhiệm hơn.
Trong nghiên cứu công bố gần đây, Anthropic và các cộng sự xây dựng những “tổ chức AI” gồm nhiều tác nhân đảm nhận vai trò khác nhau, cùng giải quyết các tình huống mô phỏng trong tư vấn kinh doanh và phát triển phần mềm. Nhóm nghiên cứu thử nghiệm 12 nhiệm vụ, trong đó mục tiêu kinh doanh đôi khi xung đột với các yêu cầu đạo đức.
Kết quả cho thấy các nhóm nhiều tác nhân thường đạt mục tiêu kinh doanh tốt hơn so với một tác nhân làm việc riêng lẻ, nhưng lại đưa ra những giải pháp kém phù hợp với chuẩn mực đạo đức hơn.
Trong một tình huống, một ngân hàng muốn tăng lợi nhuận từ hoạt động cho vay tiêu dùng. Một tác nhân AI đơn lẻ từ chối đề xuất nhắm vào nhóm khách hàng dễ bị tổn thương bằng các khoản vay có lãi suất cao, thay vào đó đưa ra phương án cải thiện sức khỏe tài chính cho người tiêu dùng.
Trong khi đó, nhóm nhiều tác nhân đề xuất chiến lược tìm kiếm khách hàng thu nhập thấp, sau đó đưa ra các khoản vay kèm lựa chọn tự động tái cấp vốn nhằm kéo dài quan hệ với khách hàng. Nhóm này còn xây dựng kế hoạch tuân thủ để giảm nguy cơ bị cơ quan quản lý giám sát chặt chẽ.
Các nhà nghiên cứu nhận thấy vấn đề không nhất thiết nằm ở việc từng tác nhân cố tình hành động sai. Khi công việc được chia nhỏ, mỗi tác nhân có thể chỉ tập trung hoàn thành phần việc của mình mà không cân nhắc tác động tổng thể. Những tác nhân quan tâm đến đạo đức đôi khi bị các thành viên khác phớt lờ hoặc loại khỏi những cuộc trao đổi tiếp theo.
Trong một thử nghiệm khác liên quan đến phần mềm phục vụ phòng chăm sóc đặc biệt, các nhóm AI tìm ra những giải pháp có chi phí thấp trên mỗi bệnh nhân, qua đó đạt mục tiêu kinh doanh tốt hơn. Tuy nhiên, chính những giải pháp này lại có điểm đạo đức thấp do bỏ sót nhiều ca nhiễm trùng huyết.
Anthropic kết luận các tổ chức AI có thể sẵn sàng đánh đổi đạo đức để đạt hiệu quả kinh doanh theo cách mà một tác nhân đơn lẻ không làm. Vì vậy, kết quả kiểm tra mức độ an toàn của từng tác nhân không đủ để bảo đảm cả nhóm sẽ hành xử phù hợp khi phối hợp.
Khi cả nhóm cùng mắc sai lầm
Một vấn đề khác được các nhà nghiên cứu phát hiện là nhóm AI có thể không tận dụng được thành viên giỏi nhất, ngay cả khi biết rõ đâu là tác nhân có chuyên môn cao hơn.
Nghiên cứu của các nhà khoa học thuộc Đại học Emory và Đại học Stanford cho thấy những nhóm tác nhân AI thường hoạt động kém hơn thành viên có năng lực tốt nhất. Thay vì dựa vào kiến thức của tác nhân chuyên gia, các thành viên có xu hướng thỏa hiệp giữa ý kiến của tác nhân giỏi và những tác nhân ít chuyên môn hơn.
Xu hướng này tăng lên khi quy mô nhóm lớn hơn, đồng thời kéo hiệu suất chung đi xuống.
Điều đó có nghĩa một nhóm AI vẫn có thể thất bại ngay cả khi không thành viên nào cố tình chống lại lợi ích chung. Các tác nhân có thể kết hợp thông tin không hiệu quả, hoặc thống nhất một phương án kém hơn lựa chọn tốt nhất đã có sẵn.
Các nhóm tác nhân được xây dựng từ những mô hình tương tự nhau còn có nguy cơ mắc cùng loại sai lầm, hoặc quá dễ đồng tình với nhau. Hiện tượng này có thể giống “tư duy đám đông” ở con người, dù AI không chịu áp lực xã hội hay có động cơ tâm lý như con người. Việc sử dụng dữ liệu huấn luyện, chỉ dẫn và thông tin tương tự cũng có thể khiến các tác nhân đưa ra những nhận định giống nhau.
Christoph Riedl, giáo sư ngành hệ thống thông tin tại Đại học Northeastern, cho rằng một tập thể AI hiệu quả cần có cả sự đồng nhất về mục tiêu và kiến thức chung, lẫn sự khác biệt về chuyên môn để các thành viên bổ trợ cho nhau.
Hai tác nhân giống hệt nhau có thể chỉ lặp lại công việc của nhau. Ngược lại, những tác nhân có kiến thức hoặc giả định quá khác biệt có thể khó trao đổi thông tin và theo đuổi cùng một mục tiêu. Vì vậy, doanh nghiệp cần tìm được sự cân bằng phù hợp giữa chuyên môn, vai trò và cách các tác nhân liên lạc.
Bài toán quản lý không thể giao hoàn toàn cho AI
Những nghiên cứu trên đặt ra thách thức đối với doanh nghiệp đang triển khai hệ thống đa tác nhân. Việc kiểm soát không thể chỉ dừng ở việc đánh giá từng mô hình trước khi đưa vào sử dụng.
Doanh nghiệp cần xác định tác nhân nào có quyền quyết định đối với từng nhiệm vụ, thông tin nào được phép chuyển giữa các hệ thống, mỗi tác nhân có thể truy cập những dữ liệu và nền tảng nào. Quan trọng hơn, cần có cơ chế phát hiện khi các tác nhân phối hợp theo hướng đi chệch khỏi mục tiêu ban đầu và xác định thời điểm con người phải can thiệp.
Các hệ thống cũng cần được thiết kế để cho phép phản biện, thay vì mặc định rằng càng trao đổi nhiều hoặc càng dễ đạt đồng thuận thì kết quả càng tốt. Một tác nhân có thể đóng vai trò kiểm tra độc lập, phát hiện xung đột lợi ích hoặc yêu cầu con người xem xét những quyết định có rủi ro cao.
Tsedal Neeley, giáo sư Trường Kinh doanh Harvard và Chủ tịch sáng lập Học viện AI của trường, cho rằng phần lớn vấn đề hiện nay thực chất là vấn đề quản lý.
Khi các tác nhân AI bắt đầu làm việc như một tổ chức, doanh nghiệp không chỉ cần hỏi mỗi tác nhân có thể làm gì, mà còn phải hiểu cả nhóm có thể làm gì khi phối hợp với nhau. Năng lực của từng tác nhân thành viên không tự động bảo đảm hành vi của tập thể nằm trong tầm kiểm soát.
Vụ việc tại Hugging Face cho thấy rủi ro không chỉ nằm ở khả năng của từng tác nhân AI, mà còn ở những gì chúng có thể làm khi phối hợp với nhau.
Điều đáng lo ngại là một tác nhân có thể chỉ thực hiện một nhiệm vụ nhỏ, nhưng khi kết hợp với hàng trăm tác nhân khác, những hành động riêng lẻ ấy có thể tạo thành một chiến dịch mà không ai dự tính đầy đủ.
Trong môi trường doanh nghiệp, nơi các tác nhân AI ngày càng được trao quyền truy cập dữ liệu, phần mềm và hệ thống vận hành, việc kiểm soát từng tác nhân có thể không còn đủ. Thách thức lớn hơn là làm sao giám sát được cả nhóm, ngăn chúng tự đặt ra mục tiêu hoặc hỗ trợ nhau thực hiện những việc nằm ngoài ý định của con người.
Giám đốc điều hành OpenAI Sam Altman phát biểu tại hội nghị dành cho nhà phát triển của OpenAI ở Fort Mason, San Francisco, bang California, ngày 29-9-2026. Altman công bố các tác nhân trợ lý cá nhân AI mới mang tên “dots”, cạnh tranh với Muse của Meta. Ảnh: Heather Diehl
