Trong hồ sơ tài chính sửa đổi công bố hôm thứ Hai, Anthropic đưa ra một cảnh báo đáng chú ý: công ty có thể sắp phát triển được mô hình AI có khả năng tự cải thiện liên tục (recursive self-improvement – RSI).
RSI là ngưỡng phát triển mà tại đó AI có thể tự huấn luyện và cải thiện năng lực của chính mình đến mức tạo ra sự tăng tốc đột biến trong tiến bộ công nghệ. Với những người lo ngại về viễn cảnh AI vượt khỏi tầm kiểm soát, đây là kịch bản thảm họa có thể không còn đường quay lại: AI tự phát triển thành một hệ thống đủ mạnh để thoát khỏi sự kiểm soát của con người và có thể không quan tâm đến những thiệt hại nó gây ra trong quá trình thực hiện mục tiêu.
Ngược lại, những người lạc quan về AI xem RSI, một hình thức AI có thể tự sử dụng chính mình để cải thiện năng lực, là biểu hiện rõ nhất về tiềm năng của công nghệ này. Khi đó, AI có thể trở thành công cụ tạo ra năng suất vượt trội, thúc đẩy các khám phá khoa học và mở ra nhiều khả năng chưa từng có.
Anthropic dường như nhìn nhận RSI vừa là cơ hội, vừa là rủi ro. Trong hồ sơ đăng ký phát hành cổ phiếu, công ty cho biết đang sử dụng AI trong hoạt động nghiên cứu và phát triển (R&D), nhưng đồng thời cảnh báo: “Việc sử dụng AI để hỗ trợ xây dựng những hệ thống AI có năng lực cao hơn cũng có thể gây ra rủi ro an toàn đáng kể, đặc biệt nếu hoạt động này khiến tốc độ tiến bộ tăng nhanh đột biến.”
Khi thuật ngữ RSI trở nên phổ biến hồi đầu năm nay, nhiều người cho rằng đây chỉ là một từ khóa thời thượng hoặc, trong trường hợp lạc quan nhất, là mục tiêu quá khó để đạt được, định nghĩa hay chứng minh.
Tuy nhiên, trong hồ sơ sửa đổi hôm thứ Hai, Anthropic đã bổ sung những tuyên bố mới vào phần phân tích rủi ro. Công ty cho biết từng sử dụng AI để phát triển các mô hình mới có bước nhảy vọt về năng lực mà chính họ không nhận ra vào thời điểm đó. Đồng thời, Anthropic cảnh báo có thể sớm đạt đến ngưỡng RSI theo định nghĩa của chính công ty.
Cụ thể, hồ sơ nêu rõ: Việc ngày càng sử dụng nhiều hệ thống AI để đẩy nhanh hoạt động nghiên cứu và phát triển có thể khiến năng lực của các mô hình tiến bộ nhanh hơn khả năng xây dựng, kiểm chứng và triển khai những biện pháp an toàn, điều chỉnh hành vi và bảo mật tương ứng. Vì vậy, trong quá khứ, công ty đã không nhận diện được một đợt tăng tốc đáng kể trong tiến độ phát triển cho đến khi nó thực sự xảy ra; tình trạng này có thể tiếp diễn trong tương lai.
Anthropic cho biết các ước tính nội bộ và dự báo về những mô hình tương lai, chứ không phải các mô hình hiện tại, cho thấy công ty có thể sắp đạt đến ngưỡng “tiến bộ tăng tốc đáng kể nhờ AI” theo định nghĩa trong Chính sách mở rộng có trách nhiệm. Tuy nhiên, hãng khẳng định chưa xếp bất kỳ mô hình hiện tại nào vượt qua ngưỡng này và vẫn đang đánh giá các dữ liệu liên quan.
Dù vậy, Anthropic nhấn mạnh chưa mô hình nào của công ty vượt qua ngưỡng RSI và cam kết duy trì sự tham gia của con người trong quá trình nghiên cứu, phát triển trong tương lai gần.
“Chúng tôi đang xem xét cập nhật Chính sách mở rộng có trách nhiệm nhằm bảo đảm con người tiếp tục kiểm soát quá trình phát triển các mô hình AI tiên tiến tại Anthropic,” công ty cho biết.
Tuy nhiên, năng lực của Claude, đặc biệt trong lập trình, toán học và an ninh mạng, đã tiến bộ vượt bậc trong năm nay. Nếu Anthropic thực sự cho rằng RSI đang ở rất gần, có lẽ giới công nghệ và các nhà hoạch định chính sách cần nghiêm túc xem xét cảnh báo này và chuẩn bị những biện pháp quản lý phù hợp.
Hình minh họa quá trình cải tiến, trong đó AI liên tục tự đánh giá và nâng cấp năng lực của chính mình, tạo ra vòng lặp phát triển ngày càng nhanh. Ảnh: TechCrunch
