Meta ngày 5/5 cho biết sẽ bắt đầu sử dụng trí tuệ nhân tạo (AI) để quét ảnh và video nhằm tìm các dấu hiệu thị giác giúp xác định liệu người dùng có dưới 13 tuổi hay không — nhóm tuổi không được phép sử dụng Facebook và Instagram theo quy định của công ty.
Theo Meta, các dấu hiệu mà hệ thống AI phân tích bao gồm chiều cao hoặc cấu trúc xương của người dùng.
“Chúng tôi muốn làm rõ rằng đây không phải công nghệ nhận diện khuôn mặt,” Meta cho biết trong bài đăng trên blog.
“AI của chúng tôi sẽ xem xét các đặc điểm tổng quát và tín hiệu thị giác, chẳng hạn như chiều cao hoặc cấu trúc xương, để ước tính độ tuổi tương đối của một người; hệ thống không xác định danh tính cụ thể của người trong ảnh.”
Meta cho biết khi kết hợp phân tích hình ảnh với dữ liệu văn bản và hành vi tương tác, công ty có thể tăng đáng kể số lượng tài khoản trẻ vị thành niên bị phát hiện và gỡ bỏ.
Hệ thống phân tích hình ảnh hiện đang được triển khai tại một số quốc gia và Meta cho biết sẽ mở rộng sang nhiều thị trường hơn trong thời gian tới.
Ngoài hình ảnh và video, Meta cũng sử dụng AI để quét toàn bộ hồ sơ tài khoản nhằm tìm các dấu hiệu như bài đăng về sinh nhật hoặc nội dung đề cập đến lớp học tại trường.
Các tín hiệu này được thu thập từ nhiều định dạng khác nhau như bài đăng, bình luận, tiểu sử cá nhân, chú thích ảnh và các nội dung khác.
Meta cho biết trong tương lai sẽ mở rộng công nghệ này sang nhiều tính năng khác, bao gồm Instagram Live và Facebook Groups.
Nếu Meta xác định một người dùng có thể chưa đủ tuổi, công ty sẽ vô hiệu hóa tài khoản và yêu cầu người đó xác minh độ tuổi để tránh bị xóa tài khoản.
Thông báo được đưa ra chỉ vài tuần sau khi bồi thẩm đoàn tại bang New Mexico yêu cầu Meta nộp 375 triệu USD tiền phạt dân sự vì bị cáo buộc gây hiểu lầm cho người dùng về mức độ an toàn của nền tảng và khiến trẻ em gặp rủi ro.
Tòa án cũng yêu cầu Meta thực hiện các thay đổi lớn trên nền tảng. Sau đó, công ty đã đe dọa đóng cửa các dịch vụ mạng xã hội của mình tại bang này.
Đây chỉ là một trong nhiều vụ kiện mà Meta và các công ty công nghệ lớn khác đang đối mặt liên quan đến vấn đề an toàn trẻ em.
Cũng trong ngày thứ Ba, Meta đã thông báo mở rộng hệ thống tự động chuyển thanh thiếu niên sang chế độ “Teen Accounts” trên Instagram tới 27 quốc gia Liên minh châu Âu (EU) và Brazil.
Các tài khoản này có các biện pháp bảo vệ nghiêm ngặt hơn như chỉ nhận tin nhắn từ người theo dõi hoặc người đã kết nối, tự động ẩn bình luận độc hại và mặc định đặt tài khoản ở chế độ riêng tư.
Meta cũng cho biết lần đầu tiên sẽ triển khai công nghệ này trên Facebook tại Mỹ, trước khi mở rộng sang Anh và EU vào tháng 6.
Meta sẽ bắt đầu sử dụng trí tuệ nhân tạo để quét ảnh và video nhằm tìm các dấu hiệu thị giác giúp xác định liệu người dùng có dưới 13 tuổi hay không — nhóm tuổi không được phép sử dụng Facebook và Instagram theo quy định của công ty. Ảnh: Getty Images
