Meta đang thử nghiệm việc để nhân viên con người âm thầm thực hiện một số cuộc gọi thay cho tác nhân AI Muse, cho thấy ngay cả những công cụ được thiết kế để tự động xử lý công việc vẫn có thể cần con người đứng sau khi gặp tình huống thực tế.
Theo các bài đăng nội bộ mà Reuters tiếp cận, Meta bắt đầu thử nghiệm “trợ lý con người” sau khi triển khai tính năng gọi điện của Muse. Tác nhân AI này được thiết kế để tự gọi cho doanh nghiệp, trò chuyện với nhân viên và xử lý những việc như đặt lịch cắt tóc, kiểm tra hàng tồn kho hoặc lấy báo giá.
Tuy nhiên, một số doanh nghiệp đã cúp máy khi nhận ra người gọi là AI. Một nhân viên Meta cho biết ông yêu cầu Muse gọi cho công ty bảo hiểm nhưng “họ liên tục cúp máy khi biết đó là AI”.
Để khắc phục vấn đề, Meta cho phép Muse chuyển yêu cầu cho một nhân viên được đào tạo, người này sẽ trực tiếp thực hiện cuộc gọi và xử lý công việc. Một số thử nghiệm nội bộ cho thấy cách làm này có thể nâng tỷ lệ thành công lên 95–98%, cao hơn nhiều so với tỷ lệ khi AI tự gọi.
Nhưng việc đưa con người vào hậu trường nhanh chóng tạo ra vấn đề về quyền riêng tư. Nhân viên Meta cảnh báo thông tin nhạy cảm của người dùng có thể vô tình được chia sẻ với nhân viên tại các trung tâm cuộc gọi.
Một nhân viên cho biết bản ghi cuộc gọi với một nhà cung cấp Internet và truyền hình cáp cho thấy nhân viên hợp đồng thực hiện cuộc gọi đã có phát ngôn mang tính phân biệt chủng tộc.
Một phó chủ tịch thuộc đơn vị Superintelligence Labs của Meta thừa nhận việc thử nghiệm các cuộc gọi do nhân viên thực hiện mà không thông báo rõ ràng là “một sai sót” và cho biết công ty đã tạm thời dừng tính năng này. Meta cũng cam kết nhân viên hợp đồng liên quan đến vụ việc sẽ không tham gia các dự án của công ty trong tương lai.
Con người vẫn đứng sau AI
Meta cho biết mục đích của thử nghiệm Muse là thu thập phản hồi để hoàn thiện các biện pháp bảo vệ an toàn và quyền riêng tư trước khi triển khai rộng rãi. Công ty hiện vẫn tiếp tục cải thiện tính năng gọi điện và chỉ đưa vào sử dụng khi sẵn sàng, kèm theo thông báo phù hợp.
Muse đã được tải xuống hơn 2,5 triệu lần kể từ khi ra mắt, theo công ty nghiên cứu thị trường Sensor Tower.
Meta đặc biệt nhấn mạnh tính bảo mật của Muse khi giới thiệu sản phẩm, trong đó mỗi tác nhân có một “máy ảo” riêng trên đám mây nhằm tách biệt phiên làm việc của người dùng và thông tin nhạy cảm như mật khẩu.
Các nhân viên phản đối việc sử dụng “trợ lý con người” cho rằng cách làm này có thể làm suy yếu chính một trong những lợi thế quan trọng được quảng bá của Muse: khả năng tự thực hiện công việc mà không cần con người can thiệp.
Nhân viên đứng phía sau logo Meta Platforms tại một hội nghị ở Mumbai, Ấn Độ, ngày 20-9-2023. Ảnh: Reuters
