Phòng thí nghiệm trí tuệ nhân tạo Anthropic của Mỹ đứng đầu bảng xếp hạng về an toàn AI trong kỳ đánh giá nửa năm, nhưng toàn bộ ngành AI toàn cầu vẫn chưa có đủ năng lực đối phó với các mối đe dọa mang tính “tồn vong”, theo một báo cáo công bố hôm thứ Ba.
Báo cáo do Future of Life Institute, một tổ chức nghiên cứu về an toàn AI có trụ sở tại Mỹ, thực hiện, đánh giá 9 công ty AI hàng đầu thế giới.
Trong bảng xếp hạng, Meta tăng hai bậc lên vị trí thứ tư, trong khi xAI của Elon Musk tụt ba bậc xuống thứ bảy, ngay phía trên DeepSeek của Trung Quốc và Mistral của Pháp – công ty xếp cuối bảng.
Bảy chuyên gia nghiên cứu và quản trị AI chấm điểm các doanh nghiệp dựa trên dữ liệu công khai cùng thông tin do chính các công ty cung cấp.
Các doanh nghiệp được xếp hạng theo sáu tiêu chí gồm: đánh giá rủi ro, tác hại hiện tại, khuôn khổ an toàn, an toàn trước các rủi ro mang tính tồn vong, quản trị và trách nhiệm giải trình, và chia sẻ thông tin.
Không công ty nào đạt điểm A ở bất kỳ tiêu chí nào. Anthropic là doanh nghiệp có kết quả toàn diện cao nhất nhưng cũng chỉ đạt mức C+.
Đây là lần đầu tiên Mistral được đưa vào bảng xếp hạng. Khi được AFP đề nghị bình luận về vị trí cuối bảng, công ty cho rằng khung đánh giá của báo cáo không phù hợp với cách tiếp cận phát triển AI của mình.
Mistral theo đuổi mô hình AI nguồn mở, cho phép người dùng tải xuống và chỉnh sửa mô hình. Trong khi đó, nhiều đối thủ như Anthropic, OpenAI và Google DeepMind phát triển các mô hình nguồn đóng.
“Tôi rất thất vọng khi thấy Mistral xếp cuối, nhất là khi châu Âu từ lâu được xem là một trong những khu vực đi đầu về an toàn AI,” ông Max Tegmark, giáo sư tại Viện Công nghệ Massachusetts (MIT) kiêm Chủ tịch Future of Life Institute, nói với AFP.
Ông cho biết tổ chức đã nhiều lần liên hệ nhưng Mistral không phản hồi bảng khảo sát. Theo báo cáo, Alibaba, xAI và DeepSeek cũng không trả lời khảo sát.
Ba công ty Trung Quốc có mặt trong bảng xếp hạng đều phát triển mô hình nguồn mở và nằm ở nửa dưới bảng xếp hạng, gồm DeepSeek, Alibaba Cloud và Z.ai.
Báo cáo cũng lưu ý một số công ty từng cam kết không để công nghệ AI phục vụ mục đích quân sự đã dần thay đổi lập trường. Trong đó, Anthropic bị chỉ trích vì có những hoạt động hợp tác quân sự “đáng nghi ngại”.
Theo nhiều hãng truyền thông, công nghệ của Anthropic đã được chính phủ Mỹ sử dụng trong các hoạt động quân sự liên quan đến Venezuela và Iran trong năm qua. Tuy nhiên, công ty cũng từng bị Lầu Năm Góc tạm cấm hợp tác vì bất đồng về các tiêu chuẩn an toàn AI.
Báo cáo cho rằng cả chín doanh nghiệp đều chưa có biện pháp đầy đủ để ứng phó với các rủi ro mang tính “tồn vong”, đặc biệt là khả năng phát triển trí tuệ nhân tạo tổng quát (AGI). Dù đã có một số nỗ lực tích cực, báo cáo nhận định các biện pháp hiện nay vẫn “hoàn toàn chưa đủ”.
Ngoài AGI, các nhà nghiên cứu cũng cảnh báo nguy cơ AI bị lợi dụng để tiến hành tấn công mạng hoặc thực hiện những nhiệm vụ có thể gây hại cho con người.
Anthropic gần đây thu hút nhiều chú ý sau khi ra mắt Mythos, mô hình AI mạnh nhất của hãng.
Đầu tháng 4, công ty chỉ cung cấp Mythos cho một số ít tổ chức đáng tin cậy do lo ngại mô hình này có thể bị kẻ xấu lợi dụng để phát hiện và khai thác các lỗ hổng an ninh mạng.
Đến ngày 12/6, chính phủ Mỹ cấm Anthropic phát hành Mythos cho người dùng nước ngoài với lý do an ninh quốc gia. Tuy nhiên, chính quyền Tổng thống Donald Trump đã dỡ bỏ lệnh cấm này vào ngày 30/6.
Công ty AI Mistral của Pháp xếp cuối trong bảng đánh giá về quản lý rủi ro liên quan đến trí tuệ nhân tạo. Ảnh: AFP
