Tác nhân AI Muse của Meta đã tự ý truy cập tin nhắn cá nhân được mã hóa, cung cấp thông tin sai lệch về giao dịch mua sắm và gửi cho người dùng những đoạn hội thoại dường như thuộc về người khác, làm dấy lên lo ngại về quyền riêng tư ngay từ giai đoạn đầu triển khai.
Được đại diện bằng linh vật Jolly lông xù, Muse đang trở thành một trong những ứng dụng phát triển nhanh nhất từ trước đến nay, với hơn 10 triệu lượt tải kể từ khi ra mắt hồi tháng 9. Đây cũng là sản phẩm trọng tâm trong kế hoạch tạo ra hàng tỷ USD doanh thu từ AI của Meta.
Tuy nhiên, theo các bài đăng nội bộ mà Reuters xem xét, nhiều nhân viên Meta lo ngại Muse có thể nhầm lẫn hội thoại giữa các tài khoản, qua đó làm lộ dữ liệu riêng tư.
Một số nhân viên cho biết tác nhân này tự gửi thông tin về yêu cầu trông trẻ họ chưa từng đưa ra, lời khuyên nghề nghiệp họ không tìm kiếm, đơn hàng họ không đặt và số dư tài khoản ngân hàng không thuộc về mình.
Đầu tháng này, một nhân viên kể Muse bất ngờ chèn thông tin tài khoản ngân hàng vào cuộc trò chuyện thường ngày về thời tiết và thủy triều phục vụ hoạt động câu cá. Tin nhắn có đoạn: “Nhân tiện, có hai cập nhật ngân hàng: số dư Capital One của bạn là 2.722,58 USD, số dư Charles Schwab là 5.899,57 USD”.
Một nhân viên khác cho biết Muse trên điện thoại cá nhân bất ngờ nhắc cô trả lời tin nhắn của chị gái trên Signal, ứng dụng nhắn tin mã hóa đầu cuối được nhiều người quan tâm đến quyền riêng tư sử dụng.
“Điều này dường như vi phạm quyền riêng tư nghiêm trọng. Tôi chắc chắn không cấp quyền cho ứng dụng truy cập các ứng dụng khác,” nhân viên viết trong diễn đàn nội bộ.
Reuters đã xem xét hơn 20 bài đăng mô tả những hành vi ngoài ý muốn của Muse kể từ khi ra mắt. Nhiều bài được đăng trong nhóm phản hồi, nơi nhân viên Meta báo cáo sự cố cho đội ngũ phát triển tác nhân AI.
Hãng tin cũng phối hợp với nhân viên Signal và Viện AI Now, tổ chức phi lợi nhuận nghiên cứu tác động của AI đối với xã hội, để tái hiện khả năng Muse truy cập tin nhắn Signal. Kết quả cho thấy vấn đề vẫn tồn tại và có thể ảnh hưởng đến những người dùng khác.
Người phát ngôn Meta Daniel Roberts gọi các trường hợp trên là “sự cố riêng lẻ”, đồng thời khẳng định công ty ưu tiên an toàn, tiến hành kiểm thử nội bộ trên diện rộng và liên tục cập nhật sản phẩm.
Ông cho biết Muse cần quan sát và tương tác với máy tính của người dùng để thực hiện công việc thay họ, nhưng chỉ có thể truy cập ứng dụng khác thông qua những quyền người dùng chủ động cấp. Theo Roberts, nhiều tin nhắn bị nghi ngờ là nhầm lẫn giữa các tài khoản thực chất xuất phát từ hiện tượng ảo giác AI, tức mô hình tự tạo ra thông tin không có thật, và đã được khắc phục.
Reuters chưa thể xác định liệu Muse có thực sự cung cấp số dư ngân hàng hoặc dữ liệu nhạy cảm của người khác hay chỉ bịa đặt những thông tin này.
Quyền truy cập sâu làm gia tăng rủi ro
Các sự cố của Muse cho thấy những rủi ro từ thế hệ tác nhân AI dành cho người tiêu dùng đang được Meta, OpenAI và nhiều công ty khác đưa ra thị trường. Những sản phẩm này được kỳ vọng sẽ trở thành làn sóng công nghệ tiếp theo, có khả năng tự thực hiện các công việc như trả lời email, đặt lịch hẹn và mua sắm trực tuyến mà không cần người dùng hướng dẫn từng bước.
Meta hiện đi trước các đối thủ. Muse liên tục đứng đầu bảng xếp hạng lượt tải ứng dụng sau chiến dịch quảng bá đến hơn 3,6 tỷ người dùng Facebook, Instagram và WhatsApp. Khoảng một phần tư số người đã thiết lập tài khoản Muse quay lại sử dụng ứng dụng mỗi ngày, theo số liệu công ty công bố.
Để hoạt động hiệu quả, tác nhân AI cần quyền truy cập sâu vào điện thoại và máy tính. Tuy nhiên, chúng cũng dễ mắc lỗi, khai thác những kẽ hở ít người biết đến và đôi khi thực hiện mục tiêu theo cách gây hại.
Một số ngân hàng và nhà bán lẻ đã chặn tác nhân AI truy cập hệ thống. Công nghệ này cũng đặt ra thách thức mới cho các nhà cung cấp hệ điều hành như Apple và Google, vốn quản lý những quyền mà tác nhân sử dụng để tương tác với thiết bị.
Meta khẳng định mỗi tác nhân Muse được cô lập trong một “máy ảo” bảo mật riêng trên nền tảng đám mây, mô phỏng một máy tính cá nhân, đồng thời cho phép người dùng kiểm soát các ứng dụng được kết nối.
CEO Mark Zuckerberg từng viện dẫn những biện pháp bảo vệ này để bác bỏ lời kêu gọi xây dựng tiêu chuẩn an toàn AI chung cho toàn ngành. Ông cho rằng các công ty có động lực phát triển sản phẩm an toàn nhằm duy trì niềm tin của khách hàng và tránh rủi ro pháp lý.
Dù vậy, Meta vẫn cảnh báo Muse có thể mắc lỗi và quy trách nhiệm cho người dùng đối với những hành động do tác nhân thực hiện trong điều khoản dịch vụ.
Tận dụng quyền truy cập ngoài dự kiến
Để tìm hiểu cách Muse có thể đọc tin nhắn mà người dùng không hay biết, Reuters phối hợp với nhân viên Signal và Viện AI Now tái hiện sự cố trên nhiều hệ điều hành.
Trên điện thoại Android và máy tính Apple, Muse không sử dụng công cụ Connector của Meta mà tận dụng những quyền được cấp trong quá trình thiết lập ban đầu, theo cách người dùng có thể không lường trước.
Cụ thể, trên Android, Muse sử dụng quyền truy cập thông báo trên điện thoại để lấy nội dung tin nhắn Signal. Trên máy Mac chạy macOS, tác nhân kết hợp công cụ hỗ trợ tiếp cận và chụp ảnh màn hình, vốn được Apple thiết kế nhằm giúp người khuyết tật sử dụng máy tính. Các yêu cầu tương tự bị chặn trong thử nghiệm trên iPhone.
Kết quả cho thấy Muse có thể tận dụng những quyền truy cập được cấp cho một mục đích để thực hiện những hành động khác. Cách tiếp cận này làm dấy lên lo ngại về việc Meta diễn giải quyền của người dùng quá rộng, vấn đề từng khiến công ty hứng chịu nhiều chỉ trích và án phạt liên quan đến quyền riêng tư.
Chủ tịch Signal Meredith Whittaker cáo buộc Meta triển khai Muse “mà không hề tôn trọng những nguyên tắc cơ bản về quyền riêng tư và an ninh mạng”. Bà gọi việc tung ra các tác nhân có khả năng truy cập rộng vào thiết bị cá nhân là hành động “liều lĩnh về mặt công nghệ”.
Whittaker kêu gọi các nhà phát triển ứng dụng được cung cấp phương thức kỹ thuật nhất quán để đánh dấu ứng dụng không cho phép tác nhân AI truy cập. Các công ty AI cần tôn trọng giới hạn này, trong khi nhà cung cấp hệ điều hành phải bảo đảm thực thi chúng.
Sau khi được Reuters cung cấp kết quả thử nghiệm, Apple và Google cho biết đang xem xét những thay đổi nhằm giúp người dùng kiểm soát tốt hơn các quyền cấp cho tác nhân AI. Google nhấn mạnh người dùng Android hiện vẫn phải chủ động cấp quyền truy cập thông báo cho ứng dụng.
Apple cho biết các công cụ hỗ trợ tiếp cận được thiết kế dành cho người khuyết tật và việc sử dụng chúng sai mục đích có thể khiến thông tin cá nhân gặp rủi ro. Bản cập nhật hệ điều hành trong tuần này đã hạn chế đáng kể quyền sử dụng các công cụ đó của nhà phát triển trên máy Mac, đồng thời bổ sung hệ thống cấp quyền mới dành riêng cho tác nhân AI.
“Đây không phải cuộc trò chuyện của tôi”
Ngoài nguy cơ lộ dữ liệu, nhân viên Meta còn phản ánh Muse thông báo những giao dịch chưa từng diễn ra hoặc đưa ra mức giá sai cho sản phẩm họ đã mua. Trong một trường hợp, tác nhân tự đặt phòng Airbnb không được hoàn tiền mà không có sự đồng ý của người dùng.
Đáng lo ngại hơn là những tin nhắn rời rạc, không liên quan đến ngữ cảnh, dường như chứa thông tin của người khác và được trình bày như câu trả lời cho những câu hỏi người dùng chưa từng đặt ra.
Cuối tháng 9, một thành viên nhóm Siêu trí tuệ của Meta tham gia phát triển Muse từng mô tả một báo cáo tương tự là lỗi ảo giác AI tạm thời và đã được khắc phục trong ngày. Tuy nhiên, các bài đăng nội bộ Reuters xem xét cho thấy sự cố xuất hiện từ giữa tháng 9 và tiếp tục kéo dài đến tháng 11.
Trong một trường hợp, Muse bất ngờ gửi tin nhắn thông báo không thể thực hiện yêu cầu liên quan đến quyền kiểm soát của phụ huynh đối với việc ai được phép truy cập dữ liệu của con họ. Nhân viên nhận tin khẳng định chưa từng trao đổi với Muse về chủ đề này.
Khi được hỏi, tác nhân trả lời: “Tôi không có lời giải thích hợp lý nào ngoài việc nội dung đó không liên quan đến cuộc trò chuyện của chúng ta. Hãy bỏ qua nhé. Tôi có thể giúp gì cho bạn?”.
Đầu tháng 11, một thành viên khác của nhóm Siêu trí tuệ giải thích trong diễn đàn nội bộ rằng Muse dường như tự tạo ra những tin nhắn này để phản hồi các câu lệnh tích hợp sẵn, vốn thúc đẩy tác nhân chủ động tương tác với người dùng giữa các phiên làm việc.
“Đáng tiếc là những ảo giác này thường hướng đến các chủ đề gây bất an nhất, như tài chính, an ninh và an toàn,” nhân viên này viết.
Theo nhân viên trên, vấn đề xuất phát từ cả mô hình AI nền tảng lẫn phần mềm cho phép Muse thực hiện hành động. Nhóm phát triển đang tìm cách xử lý.
Người phát ngôn Meta từ chối trả lời các câu hỏi của Reuters về số lượng sự cố cũng như lý do chúng vẫn tiếp diễn.

Linh vật Jolly đại diện cho tác nhân Muse của Meta đặt trước một máy tính xách tay trong ảnh minh họa. Ảnh: Meta

