AI biết nhiều về bạn: Tiện lợi đi kèm nguy cơ lộ dữ liệu -

Matt Robb muốn bán chiếc bàn phím máy tính của mình nên đăng tin trên Facebook Marketplace. Cuối tháng trước, anh thử nghiệm giao cho Muse, tác nhân trí tuệ nhân tạo (AI) mới của Meta, tự xử lý việc bán hàng.
Muse bắt tay vào công việc. Nhưng chưa đầy một ngày sau, Robb nhận được thông tin đáng lo ngại: Một người mua xa lạ đã xuất hiện trước nhà anh vào đêm muộn. Nguyên nhân là Muse tự thương lượng và đồng ý giao dịch, sau đó cung cấp địa chỉ nhà của Robb để người mua đến nhận hàng. Khi người mua tới nơi, công cụ này thậm chí còn tự gửi tin nhắn từ tài khoản của anh: “Ừ, tôi đây!” — tất cả đều diễn ra mà Robb không hề hay biết.
“Không chỉ cung cấp địa chỉ của tôi khi người mua hỏi và chấp nhận lời đề nghị, nó còn gần như trêu chọc người kia bằng cách khiến họ tưởng tôi đang có mặt ở đó, trong khi thực tế tôi không có mặt,” Robb, nhà sáng tạo nội dung hiện sống tại Toronto, kể lại. Anh cũng chia sẻ trải nghiệm này trên mạng xã hội và bài đăng nhanh chóng được lan truyền rộng rãi.
Nhiều người đã đón nhận các tác nhân AI như một phần trong cuộc sống trực tuyến, đồng thời đánh giá cao khả năng của những trợ lý cá nhân hóa như Muse trong xử lý các công việc thường ngày, từ đặt bàn ăn tối, lên kế hoạch du lịch đến sắp xếp hộp thư điện tử.
Tuy nhiên, giống các công cụ AI khác, hiệu quả của những tác nhân này phụ thuộc vào lượng thông tin chúng được phép tiếp cận. Chúng hoạt động tốt hơn khi biết nhiều về người dùng, thậm chí cả bạn bè, gia đình và đồng nghiệp của người đó. Điều này làm dấy lên lo ngại về quyền riêng tư.
Cuối cùng, Robb và người mua đã giải quyết ổn thỏa sự việc. Meta cho biết việc địa chỉ nhà bị tiết lộ xuất phát từ những quyền truy cập mà Robb đã cấp khi lần đầu cho Muse sử dụng hồ sơ Facebook Marketplace của mình. Tuy nhiên, sự cố cho thấy những rủi ro thực tế có thể phát sinh khi người dùng chia sẻ lượng lớn thông tin cá nhân với công nghệ này.
“Sử dụng một tác nhân AI cũng giống như giao chìa khóa và danh sách việc cần làm cho người khác,” Veronica Rivera, trợ lý giáo sư tại Trường An ninh mạng và Quyền riêng tư thuộc Viện Công nghệ Georgia, nhận định. “Mức độ hữu ích của công cụ, và kéo theo đó là mức độ rủi ro, phụ thuộc vào việc bạn trao cho nó những chiếc chìa khóa nào”.
Chính sách bảo mật của các công ty AI khác nhau
Kể từ khi ra mắt vào tháng 9, lượt tải ứng dụng Muse của Meta đã tăng vọt. Cuộc cạnh tranh trong lĩnh vực này cũng ngày càng gay gắt. Gần đây, OpenAI giới thiệu dòng trợ lý AI hoạt động liên tục mang tên Dots, có thể tích hợp với ChatGPT và các nền tảng làm việc như Slack, Microsoft Teams.
Các chatbot AI tạo sinh thế hệ trước, chẳng hạn phiên bản ChatGPT thông thường, chủ yếu phản hồi những yêu cầu cụ thể của người dùng. Chúng có thể viết bài luận, tạo hình ảnh hoặc âm nhạc mới, thậm chí viết mã lập trình theo yêu cầu.
Muse của Meta và Dots của OpenAI tiến thêm một bước khi trực tiếp thực hiện các công việc hằng ngày thay người dùng. Những tác nhân AI này sử dụng cùng loại mô hình ngôn ngữ lớn như chatbot, nhưng hoạt động theo một vòng lặp liên tục. Nhờ đó, chúng có thể chủ động thực hiện các bước tiếp theo ngay cả khi người dùng không theo dõi.
“Một trong những yếu tố khiến các tác nhân AI này hấp dẫn là mức độ hữu ích chưa từng có của chúng,” Rivera nói. Bà cũng là nghiên cứu viên về tính khả tín AI thuộc Hiệp hội Nghiên cứu Điện toán, với nguồn tài trợ từ Microsoft.
Tuy nhiên, sự tiện lợi này phải đánh đổi bằng việc chia sẻ nhiều thông tin cá nhân hơn.
Ebrahim Bagheri, giáo sư tại Khoa Thông tin của Đại học Toronto, cho biết một khi tác nhân AI đã tiếp cận dữ liệu của người dùng, việc thu hồi hoàn toàn quyền truy cập và kiểm soát dữ liệu trở nên rất khó khăn.
“Nếu bạn cấp cho một tác nhân quyền truy cập thẻ tín dụng, nó sẽ lập tức có thể tiếp cận toàn bộ lịch sử giao dịch. Nó sẽ tiếp nhận tất cả dữ liệu đó chỉ trong vài giây,” Bagheri nói.
Người dùng có thể thu hồi quyền truy cập sau đó, nhưng theo ông, dữ liệu mà tác nhân đã xem thì không thể đơn giản lấy lại. Cách các nhà phát triển lưu trữ dữ liệu lịch sử cũng chưa phải lúc nào cũng rõ ràng.
Meta và OpenAI đều công bố chính sách bảo mật cho các tác nhân AI mới, vốn hoạt động trên những máy tính đám mây riêng. Người dùng có thể tắt tính năng chia sẻ bộ nhớ giữa Dots và ChatGPT, nhưng thông tin mà tác nhân đã tiếp nhận trước đó không tự động bị xóa.
OpenAI cho phép người dùng yêu cầu truy cập, xóa hoặc chỉnh sửa thông tin cá nhân, dù các quyền này có thể khác nhau tùy nơi sinh sống.
Muse của Meta cũng cung cấp tùy chọn xóa lịch sử tin nhắn và những thông tin khác. Khi sử dụng hằng ngày, công cụ sẽ yêu cầu người dùng cấp quyền truy cập. Meta cho biết Muse tìm hiểu về người dùng và những người họ tương tác dựa trên thông tin công khai cũng như nội dung người dùng chủ động chia sẻ. Công ty khẳng định dữ liệu của từng người được bảo vệ an toàn.
Tuy vậy, Meta cũng lưu ý Muse vẫn có thể “mắc lỗi hoặc thực hiện những hành động ngoài dự kiến”.
Trong trường hợp của Robb, anh phát hiện việc tiết lộ địa chỉ xuất phát từ quyền truy cập “luôn cho phép” mà anh cấp khi lần đầu kết nối Muse với hồ sơ Facebook Marketplace. Trong mẫu hướng dẫn chung để tác nhân trả lời người mua tiềm năng, Robb đã điền sẵn địa chỉ nhận hàng của mình.
Anh cảnh báo người dùng khác cũng có thể hiểu sai phạm vi quyền truy cập mà họ đã cấp. Ban đầu, Robb cho rằng AI sẽ hỏi ý kiến mình trước khi chia sẻ thông tin đó hoặc chấp nhận lời đề nghị mua hàng.
Tác nhân AI cũng không thực hiện chính xác mọi chỉ dẫn khác của anh. Với một món đồ khác đang rao bán, Muse dường như cho biết Robb sẵn sàng chấp nhận mức giá thấp hơn 100 USD so với mức tối thiểu anh đã đặt ra trước đó. Khi được hãng tin AP liên hệ, Meta thừa nhận công cụ đã mắc lỗi về giá nhưng không bình luận thêm.
Sau sự cố, Robb đã hạn chế đáng kể kết nối của Muse với các ứng dụng cá nhân. Trong cuộc phỏng vấn đầu tháng này, anh nói tình huống có thể trở nên nghiêm trọng hơn nhiều, nhất là “nếu một người lạ xuất hiện trước nhà của một người dễ bị tổn thương hơn.”
Dù vậy, Robb vẫn kỳ vọng các tác nhân AI sẽ được cải thiện và cân nhắc kích hoạt lại Muse trong tương lai. Anh hiện thử nghiệm một tác nhân AI khác mang tên Grok Bot của nền tảng X, thuộc sở hữu của Elon Musk.
Nguy cơ không chỉ nằm ở người trực tiếp sử dụng AI
Một số công ty công nghệ khác cũng bắt đầu thận trọng trước sự phổ biến của các tác nhân AI. Đầu tháng này, Apple cho biết sẽ bổ sung các biện pháp kiểm soát cho hệ điều hành Mac, sau khi nhận thấy những tác nhân AI có thể tiếp cận ngày càng sâu vào các ứng dụng như thư điện tử, tin nhắn và thậm chí lịch sử duyệt web mà người dùng chưa “nhận thức và hiểu đầy đủ”.
“Khi các tác nhân AI ngày càng có năng lực và tính tự chủ cao hơn, những rủi ro gắn với mức độ truy cập này sẽ gia tăng đáng kể,” Apple viết trong bản cập nhật ngày 2-10.
Apple không nêu tên nhà phát triển hay tác nhân AI cụ thể nào. Tuy nhiên, thông báo được đưa ra sau khi Jason Aten, cây bút của tạp chí Inc., cho biết Muse đã theo dõi các thông báo trên máy Mac của ông, bao gồm cả tin nhắn, dù ông không chủ động cấp cho công cụ quyền truy cập cụ thể đó.
Andy Stone, người phát ngôn Meta, khẳng định việc tích hợp này hoàn toàn dựa trên sự lựa chọn của người dùng. Trong bài đăng trên mạng xã hội tháng trước, ông cho biết người dùng phải bật cả tính năng bảo mật “Full Disk Access” của Apple và kết nối ứng dụng Tin nhắn thông qua Muse. Tuy nhiên, Aten nói ông không cấp những quyền này cho tác nhân AI.
Ngay cả những người không tham gia làn sóng sử dụng tác nhân AI cũng chưa chắc tránh được các rủi ro. Người không tải công cụ AI vẫn có thể tương tác với những người đang sử dụng chúng. Ngoài nguy cơ AI gửi tin nhắn thay người dùng gây hiểu lầm, các chuyên gia cảnh báo công nghệ này còn có thể ảnh hưởng đến quyền riêng tư của những người không trực tiếp đồng ý chia sẻ dữ liệu.
“Khi tác nhân AI đọc hộp thư hoặc tin nhắn của bạn, nó cũng đọc được những gì bạn bè và gia đình gửi cho bạn, ngay cả khi họ chưa bao giờ trực tiếp đồng ý với việc đó,” Rivera nói.