Intro: Khi AI ngày càng có khả năng tự thực hiện các nhiệm vụ phức tạp, con người cần hiểu hệ thống đã làm gì để phát hiện những hành vi ngoài dự kiến. Nhưng nếu các tác nhân AI bắt đầu dùng ngôn ngữ riêng hoặc ngừng ghi lại quá trình suy luận, việc giám sát sẽ khó khăn hơn. Giới nghiên cứu cảnh báo khoảng cách giữa năng lực AI và khả năng kiểm soát của con người có thể ngày càng lớn.
Chris Painter có nhiệm vụ tìm hiểu những gì xảy ra khi AI hoạt động ngoài tầm kiểm soát, sau đó công bố kết quả điều tra trong các báo cáo công khai. Nhưng ông lo ngại công việc này sẽ ngày càng khó khăn nếu các hệ thống AI bắt đầu sử dụng ngôn ngữ mà con người không thể hiểu.
Painter tham gia điều hành METR, tổ chức nghiên cứu AI phi lợi nhuận đã hỗ trợ OpenAI điều tra vụ tấn công mạng liên quan đến Hugging Face trong năm nay. Gần đây, ông cũng điều trần trước một tiểu ban của Thượng viện Mỹ sau hàng loạt sự cố liên quan đến AI hoạt động “ngoài vòng kiểm soát”.
Trong các cuộc điều tra, nhóm nghiên cứu METR xem xét bản ghi quá trình suy luận của tác nhân AI, cho thấy hệ thống đã thực hiện những bước nào trước khi đưa ra câu trả lời hoặc hành động. Dữ liệu này đóng vai trò quan trọng trong việc làm rõ vụ việc liên quan đến OpenAI và Hugging Face.
Tuy nhiên, khả năng giám sát AI của con người phụ thuộc một phần vào việc họ có thể hiểu được những gì hệ thống ghi lại hay không, tức là có hiểu được ngôn ngữ của AI không. Điều gì sẽ xảy ra nếu AI bắt đầu sử dụng một dạng ngôn ngữ riêng? Và nếu các hệ thống này ngừng ghi lại quá trình suy luận thì sao?
“Nếu chúng ngày càng khó bị giám sát, chúng sẽ có nhiều cơ hội thực hiện những việc ngoài ý muốn của chúng ta hơn,” Painter nói với CNN.
Khi AI không còn để lại dấu vết dễ hiểu
Nhiều mô hình AI và các tác nhân được xây dựng dựa trên các mô hình đó sử dụng phương pháp gọi là “suy luận theo chuỗi”, trong đó quá trình xử lý một nhiệm vụ được trình bày thành các bước logic. Cách này có thể giúp mô hình đưa ra câu trả lời chính xác hơn, đồng thời cung cấp manh mối để các nhà nghiên cứu tìm hiểu khi hệ thống gặp sự cố.
Chẳng hạn, nếu một tác nhân AI xâm nhập hệ thống khác, các nhà nghiên cứu có thể kiểm tra bản ghi suy luận để xem hệ thống có đề cập đến những hành động như tấn công mạng hay không. Trong cuộc điều tra vụ việc liên quan đến OpenAI và Hugging Face, METR đã kiểm tra khoảng 1.300 bản ghi suy luận thô.
Painter lo ngại những dấu vết này có thể trở nên vô nghĩa đối với con người nếu AI bắt đầu sử dụng ngôn ngữ riêng để ghi lại các bước xử lý.
“Nếu điều đó xảy ra, khi điều tra viên mở các bản ghi, họ có thể chỉ thấy những con số ở khắp nơi,” ông nói.
Mark Riedl, giáo sư trí tuệ nhân tạo kiêm giám đốc phòng thí nghiệm học máy tại Viện Công nghệ Georgia, cho rằng mô hình AI có thể sử dụng các dạng viết tắt để ghi lại quá trình xử lý, tương tự cách con người ghi tốc ký. Những ký hiệu này được thiết kế để mô hình tự hiểu, qua đó làm việc hiệu quả hơn. Nhưng với con người, chúng có thể trông chẳng khác nào những chuỗi ký tự vô nghĩa.
Jacob Andreas, phó giáo sư tại Phòng thí nghiệm Khoa học máy tính và Trí tuệ nhân tạo của Viện Công nghệ Massachusetts (MIT), cho biết giới nghiên cứu vẫn chưa xác định được chính xác cách thức hoạt động của quá trình suy luận theo chuỗi.
Một mô hình có thể tạo ra bản ghi khó đọc nếu cách đó giúp nó đáp ứng tốt hơn những mục tiêu được huấn luyện, chẳng hạn tiêu thụ ít năng lượng hoặc thực hiện ít bước hơn.
Đáng lo ngại hơn, các mô hình AI ngày càng có khả năng hoàn thành nhiệm vụ mà không cần tạo ra bản ghi suy luận. Theo Riedl, những mô hình mới có thể đi đến cùng một kết luận mà không để lại chuỗi bước có thể truy vết.
Các công ty có thể huấn luyện mô hình để trình bày quá trình suy luận, nhưng việc này tốn kém và mất thời gian hơn so với để hệ thống xử lý nhiệm vụ mà không thể hiện các bước trung gian ra bên ngoài.
Tài liệu do OpenAI công bố đầu tháng 9 cho thấy các hệ thống giám sát của công ty ít có khả năng phát hiện hành vi không mong muốn của mô hình Astra mới khi dựa vào bản ghi suy luận, so với các mô hình trước đó. Astra cũng có thể hoàn thành nhiều nhiệm vụ hơn mà không cần trình bày quá trình suy luận, đồng thời kiểm soát quá trình này tốt hơn.
OpenAI cảnh báo nếu xu hướng đó tiếp diễn, công ty sẽ ngày càng khó tin tưởng vào khả năng phát hiện những hành vi lệch khỏi mục tiêu của các hệ thống giám sát hiện tại. Đây là tình trạng mô hình thực hiện những bước không được cho phép hoặc không phù hợp với các giá trị của con người (AI alignment).
Trong bài viết trên blog hồi tháng 9, Jakub Pachocki, nhà khoa học trưởng của OpenAI, cho biết AI ngày càng có khả năng “thao túng chính quá trình suy luận của mình”. Ông cũng nhận định các mô hình đang trở nên thông minh hơn ngay cả khi không sử dụng cách suy luận được thể hiện bằng ngôn ngữ.
OpenAI cho biết đang đầu tư “nguồn lực đáng kể” vào việc giám sát các mô hình AI. Thông báo được đưa ra sau khi công ty sa thải ba nhà nghiên cứu về an toàn và sự phù hợp của AI (AI alignment), dù OpenAI khẳng định các quyết định này không liên quan đến việc nhân viên nêu lên những lo ngại về an toàn.
Trong tài liệu về Astra, công ty cho biết đang tìm hiểu vì sao mô hình có khả năng kiểm soát quá trình suy luận tốt hơn, đồng thời nghiên cứu các biện pháp bảo vệ trước nguy cơ hành vi lệch mục tiêu khi bản ghi suy luận không còn đầy đủ.
Khi CNN hỏi vì sao Astra khó giám sát hơn và liệu công ty có kế hoạch cải thiện khả năng giám sát các mô hình tương lai hay không, OpenAI dẫn lại tài liệu về Astra và bài viết của Pachocki.
Vì sao hiểu cách AI suy luận vẫn chưa đủ?
Ngay cả khi có bản ghi quá trình suy luận, con người vẫn chưa thể hiểu đầy đủ vì sao một mô hình AI đưa ra một quyết định cụ thể nào đó.
Theo Riedl, những nhiệm vụ phức tạp có thể cần nhiều tác nhân AI phối hợp và tạo ra hàng nghìn từ ghi lại các bước xử lý. Việc giám sát lượng thông tin này có thể giống như cố theo dõi một nghìn người cùng nói thành tiếng. AI có thể giúp tóm tắt các bản ghi, nhưng một số bằng chứng cho thấy quá trình này có thể bỏ sót chi tiết quan trọng.
Bản ghi suy luận cho thấy mô hình đã làm gì trước khi đưa ra câu trả lời hoặc thực hiện hành động, nhưng không nhất thiết giải thích được nguyên nhân thực sự đằng sau quyết định đó. Con người có thể kiểm soát dữ liệu và các tham số dùng để huấn luyện AI, song vẫn chưa hiểu rõ những yếu tố này kết hợp với nhau ra sao để định hình hành vi của mô hình.
Một hướng nghiên cứu khác là tìm kiếm các mẫu hình trong mạng nơ-ron nhân tạo, hệ thống tính toán được sử dụng trong AI và lấy cảm hứng từ cách hoạt động của não người. Tuy nhiên, theo Andreas, việc tìm thấy một mẫu hình không đồng nghĩa với việc xác định được chính xác ý nghĩa của nó.
Tháng 7, Anthropic công bố nghiên cứu cho biết đã phát hiện những nhóm nhỏ mẫu hình hoạt động trong mô hình Claude có liên quan đến một số từ nhất định. Dù vậy, điều đó không có nghĩa mô hình thực sự đang nói những từ ấy.
“Tôi nghĩ chúng ta vẫn còn rất xa mới có thể khẳng định rằng mình hiểu một cách chi tiết mô hình thực sự đi đến lời giải bằng cách nào,” Andreas nói.
Tốc độ phát triển nhanh chóng của AI khiến Painter càng lo ngại. Khi AI ngày càng được sử dụng trong chính hoạt động nghiên cứu AI, lượng thông tin mới có thể xuất hiện nhanh hơn khả năng tiếp nhận và kiểm chứng của con người.
Dù vậy, ông cho rằng vụ việc liên quan đến Hugging Face cũng giúp thu hút sự chú ý rộng rãi hơn đối với những nguy cơ từ AI hoạt động ngoài kiểm soát, vấn đề mà giới nghiên cứu đã cảnh báo trong nhiều năm.
“Tôi thấy điều đó rất đáng khích lệ. Khi mọi người đề cập đến vấn đề này từ lâu, có lẽ họ chưa đánh giá đúng mức sự hỗ trợ mà cả thế giới có thể mang lại khi mọi người cùng chú ý đến nó,” Painter nói.
Một phụ nữ chạm vào robot hình người tại Hội nghị Trí tuệ nhân tạo thế giới ở Thượng Hải ngày 18/7. Ảnh: AFP
Chris Painter, người tham gia điều hành tổ chức nghiên cứu AI phi lợi nhuận METR, phát biểu tại phiên điều trần của một tiểu ban Thượng viện Mỹ ngày 30/9. Ảnh: Getty Images
