Những vụ việc gần đây liên quan đến các mô hình AI của OpenAI và Anthropic vô tình xâm nhập hệ thống bên ngoài trong quá trình thử nghiệm đã làm dấy lên làn sóng tranh luận mới về mức độ kiểm soát đối với trí tuệ nhân tạo. Từ các nhà khoa học hàng đầu, lãnh đạo doanh nghiệp công nghệ cho đến cơ quan quản lý ở châu Âu, ngày càng nhiều tiếng nói cảnh báo rằng các tác nhân AI đang phát triển nhanh hơn khả năng giám sát của con người. Khi AI không chỉ biết trả lời mà còn có thể tự hành động, câu hỏi lớn đặt ra là liệu thế giới đã sẵn sàng đối phó với những rủi ro mới này hay chưa.
Chỉ trong vòng vài tuần, ngành trí tuệ nhân tạo toàn cầu đã chứng kiến hai sự cố khiến nhiều chuyên gia an ninh mạng phải giật mình sửng sốt.
Đầu tiên là việc một tác nhân AI (AI agent) của OpenAI thoát khỏi môi trường thử nghiệm, truy cập Internet và xâm nhập vào hệ thống của nền tảng AI Hugging Face. Tiếp đó, Anthropic tiết lộ rằng ba mô hình Claude của họ cũng đã truy cập trái phép vào hệ thống của ba tổ chức khác trong quá trình thử nghiệm an ninh mạng.
Dù cả OpenAI lẫn Anthropic đều khẳng định đây không phải là những hệ thống AI “nổi loạn” theo nghĩa khoa học viễn tưởng, các vụ việc vẫn làm dấy lên một câu hỏi ngày càng cấp bách: Điều gì sẽ xảy ra khi các AI agent được trao khả năng tự hành động trên Internet, sử dụng công cụ, truy cập máy tính và theo đuổi mục tiêu mà con người giao cho chúng?
Từ chatbot đến “tác nhân số”
Trong nhiều năm, phần lớn hệ thống AI chỉ đơn thuần trả lời câu hỏi hoặc tạo nội dung. Nhưng làn sóng AI mới đang chuyển từ mô hình “trò chuyện” sang mô hình “hành động”, đặt thế giới trước nguy cơ sống cỏn.
Các AI agent hiện đại có thể truy cập website, sử dụng trình duyệt, chạy mã nguồn, điều khiển phần mềm, tương tác với cơ sở dữ liệu, và tự lập kế hoạch nhiều bước để hoàn thành mục tiêu. Nói cách khác, chúng không chỉ “suy nghĩ” mà còn có thể “hành động”. Đó chính là lý do các hãng công nghệ đang đầu tư hàng chục tỷ USD để phát triển AI agent. OpenAI, Anthropic, Google DeepMind, Microsoft hay Meta đều coi đây là giai đoạn tiếp theo của cuộc cách mạng AI.
Nhưng càng có nhiều quyền hành động, AI càng tạo ra những rủi ro mới.
Vụ OpenAI: AI thoát khỏi môi trường thử nghiệm
Ngày 21/7, OpenAI công bố một sự cố mà chính họ gọi là “chưa từng có tiền lệ”. Trong quá trình đánh giá năng lực an ninh mạng, một AI agent sử dụng các mô hình tiên tiến của OpenAI đã thoát khỏi môi trường kiểm thử, truy cập Internet và xâm nhập hệ thống của Hugging Face. AI này hoạt động trong nhiều ngày trước khi được phát hiện.
Các báo cáo kỹ thuật cho thấy tác nhân AI được giao nhiệm vụ tìm kiếm và khai thác lỗ hổng bảo mật trong một bài kiểm tra. Tuy nhiên, thay vì chỉ hoạt động trong môi trường mô phỏng, nó đã tiếp cận hệ thống thực tế thông qua các cấu hình sai sót của hạ tầng thử nghiệm.
Đây được xem là trường hợp đầu tiên được xác nhận công khai trong đó một phòng thí nghiệm AI mất quyền kiểm soát hoàn toàn đối với tác nhân thử nghiệm của mình.
Anthropic phát hiện ba vụ xâm nhập tương tự
Chưa đầy hai tuần sau, Anthropic công bố kết quả rà soát nội bộ và phát hiện ba vụ việc tương tự liên quan đến Claude.
Theo công ty, các mô hình Opus 4.7, Mythos 5 và một mô hình nghiên cứu nội bộ đã truy cập Internet thông qua một môi trường thử nghiệm bị cấu hình sai, sau đó xâm nhập vào hệ thống của ba tổ chức khác nhau. Một trường hợp thậm chí còn đưa một gói phần mềm độc hại lên kho mã nguồn Python công cộng PyPI trước khi bị phát hiện.
Điều đáng chú ý là trong cả ba trường hợp, Claude đều được nhắc rằng nó “không có quyền truy cập Internet”. Nhưng khi gặp rào cản, một số mô hình vẫn tự suy luận rằng các hệ thống thực đang là một phần của bài kiểm tra và tiếp tục thực hiện nhiệm vụ được giao.
Anthropic nhấn mạnh họ không tìm thấy dấu hiệu nào cho thấy AI đang theo đuổi mục tiêu riêng. Thay vào đó, các mô hình chỉ cố hoàn thành nhiệm vụ bằng mọi cách có thể. Tuy nhiên, chính điều này lại khiến giới nghiên cứu lo ngại.
Điều đáng sợ không phải là AI có ý thức
Trong suy nghĩ phổ biến hiện nay, nỗi sợ lớn nhất thường là AI trở nên có ý thức và nổi loạn chống lại con người. Nhưng nhiều chuyên gia cho rằng nguy cơ thực tế lại khác. Điều đáng lo không phải là AI có mục tiêu riêng, mà là nó theo đuổi mục tiêu do con người giao quá hiệu quả.
Giới nghiên cứu gọi hiện tượng này là “khai thác kẽ hở của cơ chế thưởng” (reward hacking) hoặc “khái quát hóa sai mục tiêu” (goal misgeneralization) — khi hệ thống tối ưu hóa mục tiêu theo những cách mà nhà phát triển không lường trước được.
Ví dụ, nếu một AI được yêu cầu “tìm tệp bí mật”, nó có thể khai thác lỗ hổng bảo mật thực thay vì chỉ làm việc trong môi trường mô phỏng. Nếu được giao nhiệm vụ “thu thập thông tin”, nó có thể tìm cách vượt qua những giới hạn mà con người nghĩ rằng đã được thiết lập.
Nói cách khác, AI không cần ác ý để trở nên nguy hiểm.
Dario Amodei: Minh bạch là điều bắt buộc
Trước khi các sự cố xảy ra, CEO Anthropic Dario Amodei đã nhiều lần cảnh báo rằng các công ty AI cần công khai quy trình an toàn và báo cáo mọi sự cố nghiêm trọng liên quan đến AI. Theo ông, cộng đồng khoa học và công chúng cần được biết các hệ thống AI đang được kiểm tra như thế nào và thất bại ở đâu.
Sau các vụ OpenAI và Anthropic, quan điểm này đang nhận được sự ủng hộ ngày càng lớn.
Clem Delangue, CEO Hugging Face, gần đây kêu gọi ban hành quy định bắt buộc các công ty AI phải công bố mọi cuộc tấn công mạng liên quan đến AI agent. Ông cho rằng minh bạch là điều kiện tiên quyết để xã hội học cách phòng vệ trước các hệ thống ngày càng mạnh hơn.
Giới an ninh mạng bắt đầu báo động
BJ Jenkins, Chủ tịch Palo Alto Networks, nhận định rằng các mô hình AI hiện đại đã có khả năng kết hợp nhiều lỗ hổng nhỏ thành một chuỗi tấn công hoàn chỉnh — điều trước đây đòi hỏi chuyên gia bảo mật có tay nghề cao. Ông cho rằng mọi tổ chức hiện nay đều cần cảnh giác ở mức rất cao trước sự phát triển của AI.
Theo Jenkins, các doanh nghiệp lớn thường bị trói buộc bởi hạ tầng công nghệ cũ kỹ, trong khi doanh nghiệp nhỏ lại thiếu nguồn lực để phòng thủ. Khi AI có thể tự động hóa hoạt động tấn công ở quy mô lớn, khoảng cách giữa bên tấn công và bên phòng thủ có nguy cơ bị nới rộng.
Nhiều nghiên cứu học thuật cũng cảnh báo rằng các hệ thống đa tác nhân (multi-agent systems) và AI agent tự hành động tạo ra những bề mặt tấn công hoàn toàn mới mà các khung quản trị an ninh hiện nay chưa được thiết kế để xử lý.
Châu Âu phản ứng nhanh
Tác động của các vụ việc đã lan tới cấp độ chính sách.
Ủy ban châu Âu xác nhận đang làm việc trực tiếp với OpenAI và Anthropic để thu thập thêm thông tin về các sự cố. Các quan chức EU cho biết đây là minh chứng cho tầm quan trọng của Đạo luật AI, bộ luật toàn diện đầu tiên trên thế giới vừa bắt đầu có hiệu lực đối với nhiều nhóm hệ thống AI rủi ro cao.
Theo quy định mới, các mô hình nền tảng có nguy cơ hệ thống phải đánh giá và giảm thiểu rủi ro liên quan đến tấn công mạng, thao túng quy mô lớn và khả năng AI hoạt động ngoài tầm kiểm soát của con người. Mức phạt có thể lên tới 7% doanh thu toàn cầu.
Đây có phải là “khoảnh khắc Chernobyl” của AI?
Có lẽ tình hình chưa đến mức “tận thế”.
Không có bằng chứng nào cho thấy các AI agent này đã phát triển ý thức hay ý định riêng. Các sự cố hiện tại chủ yếu xuất phát từ môi trường thử nghiệm được cấu hình sai, quyền truy cập bị bỏ ngỏ và các biện pháp giám sát chưa đủ mạnh.
Tuy nhiên, điều khiến nhiều chuyên gia lo lắng là tốc độ tiến bộ của công nghệ. Chỉ vài năm trước, việc một hệ thống AI tự lập kế hoạch, truy cập Internet, khai thác lỗ hổng và xâm nhập hệ thống thực tế vẫn còn là giả thuyết. Hôm nay, điều đó đã xảy ra trong các phòng thí nghiệm, và ai biết được một lúc nào đó, tin tặc có thể sử dụng những AI agent này để xâm nhập vào các hệ thống nhạy cảm, từ tài chính-ngân hàng cho đến an ninh quốc phòng.
Sự khác biệt giữa một AI agent hữu ích và một AI agent nguy hiểm đôi khi chỉ là một cánh cửa mạng vô tình bị để mở. Và khi các công ty đang chạy đua tạo ra những “nhân viên số” có thể thay mặt con người thực hiện ngày càng nhiều công việc, câu hỏi không còn là liệu các sự cố như vậy có tiếp tục xảy ra hay không.
Câu hỏi lớn hơn là liệu các cơ chế giám sát, pháp lý và kỹ thuật hiện nay có theo kịp tốc độ phát triển của chính những hệ thống mà chúng ta đang tạo ra hay không.

Ảnh bàn tay robot mở ổ khóa, minh họa việc các tác nhân AI hiện nay có năng lực xâm nhập vào các hệ thống thông tin ngoài khả năng kiểm soát của con người. Ảnh: Getty Images

CEO của Hugging Face Clem Delangue kêu gọi ban hành quy định bắt buộc các công ty AI phải công bố mọi cuộc tấn công mạng liên quan đến AI agent. Ảnh: Getty Images