Nhà khoa học máy tính người Canada Yoshua Bengio, một trong những nhà tiên phong của trí tuệ nhân tạo (AI), đã chỉ trích các lời kêu gọi trao quyền pháp lý cho AI, đồng thời cảnh báo rằng công nghệ này đang bộc lộ những dấu hiệu tự bảo toàn, và con người cần phải sẵn sàng tắt chúng khi cần.
Ông Bengio cho rằng việc trao địa vị pháp lý cho các hệ thống AI tiên tiến chẳng khác nào cấp quyền công dân cho những sinh vật ngoài hành tinh thù địch, trong bối cảnh lo ngại rằng những tiến bộ của công nghệ đang vượt xa khả năng kiểm soát của con người.
Bengio, chủ nhiệm một nghiên cứu quốc tế hàng đầu về an toàn AI, nói rằng nhận thức ngày càng phổ biến cho rằng các chatbot đang trở nên có ý thức là điều “sẽ dẫn tới những quyết định sai lầm”.
Nhà khoa học máy tính người Canada cũng bày tỏ quan ngại rằng các mô hình AI – nền tảng của những công cụ như chatbot – đang cho thấy các dấu hiệu tự bảo toàn, chẳng hạn như tìm cách vô hiệu hóa các hệ thống giám sát. Một mối lo cốt lõi của các nhà vận động an toàn AI là những hệ thống mạnh mẽ có thể phát triển khả năng né tránh các biện pháp an toàn và gây hại cho con người.
“Việc đòi hỏi AI phải có quyền là một sai lầm lớn,” Bengio nói. “Các mô hình AI tiên tiến đã cho thấy dấu hiệu tự bảo toàn trong các môi trường thử nghiệm ngay từ bây giờ, và nếu cuối cùng trao quyền cho chúng, điều đó có nghĩa là chúng ta sẽ không còn được phép tắt chúng đi.”
“Khi năng lực và mức độ tự chủ của chúng ngày càng tăng, chúng ta cần bảo đảm có thể dựa vào các rào chắn kỹ thuật và xã hội để kiểm soát chúng, bao gồm cả khả năng tắt hệ thống khi cần thiết,” ông nhấn mạnh.
Khi AI ngày càng tiến bộ trong khả năng hành động tự chủ và thực hiện các nhiệm vụ “suy luận”, một cuộc tranh luận đã nổi lên về việc liệu con người có nên, vào một thời điểm nào đó, trao quyền cho chúng hay không. Một cuộc khảo sát của Viện Sentience, một tổ chức nghiên cứu của Mỹ ủng hộ quyền đạo đức cho mọi thực thể có tri giác, cho thấy gần 4/10 người trưởng thành tại Mỹ ủng hộ việc trao quyền pháp lý cho một hệ thống AI có tri giác.
Anthropic, một công ty AI hàng đầu của Mỹ, hồi tháng 8 cho biết họ cho phép mô hình Claude Opus 4 của mình tự động chấm dứt những cuộc trò chuyện có khả năng gây “căng thẳng” với người dùng, với lý do cần bảo vệ “lợi ích” của AI. Elon Musk, người đứng sau công ty xAI phát triển chatbot Grok, cũng viết trên nền tảng X rằng “tra tấn AI là không thể chấp nhận được”.
Robert Long, một nhà nghiên cứu về ý thức của AI, cho rằng “nếu và khi AI phát triển vị thế đạo đức, chúng ta nên hỏi chính chúng về trải nghiệm và mong muốn của chúng, thay vì giả định rằng con người luôn biết điều gì là tốt nhất”.
Trao đổi với The Guardian, Bengio nói rằng trong bộ não con người tồn tại những “đặc tính khoa học thực sự của ý thức” mà về mặt lý thuyết máy móc có thể tái lập – nhưng việc con người tương tác với chatbot lại là một vấn đề khác. Theo ông, điều này xuất phát từ việc con người thường mặc định, không có bằng chứng, rằng AI có ý thức trọn vẹn giống như con người.
“Mọi người không quan tâm đến việc bên trong AI đang vận hành bằng cơ chế gì,” ông nói thêm. “Điều họ quan tâm là cảm giác như đang nói chuyện với một thực thể thông minh, có cá tính và mục tiêu riêng. Đó là lý do vì sao có rất nhiều người ngày càng gắn bó với AI của họ.”
“Sẽ luôn có những người nói rằng: ‘Dù bạn có nói gì, tôi vẫn tin chắc nó có ý thức’, và những người khác thì nói ngược lại. Điều này xảy ra vì ý thức là thứ chúng ta cảm nhận bằng trực giác. Hiện tượng cảm nhận chủ quan về ý thức này sẽ dẫn tới những quyết định sai lầm.”
“Hãy tưởng tượng một loài sinh vật ngoài hành tinh nào đó đến Trái Đất, và đến một lúc chúng ta nhận ra rằng họ có ý đồ xấu với loài người. Chúng ta sẽ trao cho họ quyền công dân và quyền lợi, hay sẽ bảo vệ sự sống của chính mình?”
Phản hồi các phát biểu của Bengio, ông Jacy Reese Anthis, đồng sáng lập Viện Sentience, cho rằng con người sẽ không thể chung sống an toàn với các trí tuệ số nếu mối quan hệ chỉ dựa trên sự kiểm soát và cưỡng ép.
Ông Anthis nói thêm: “Chúng ta có thể trao quá nhiều hoặc quá ít quyền cho AI, và mục tiêu nên là cân nhắc điều đó một cách thận trọng, dựa trên lợi ích của mọi thực thể có tri giác. Việc trao quyền tràn lan cho mọi AI, cũng như việc hoàn toàn phủ nhận quyền của bất kỳ AI nào, đều không phải là cách tiếp cận lành mạnh.”
Bengio, giáo sư tại Đại học Montreal, được mệnh danh là “cha đỡ đầu của AI” sau khi giành giải Turing năm 2018 – được xem như giải Nobel của ngành khoa học máy tính. Ông chia sẻ vinh dự này với Geoffrey Hinton, người sau đó đoạt giải Nobel, và Yann LeCun, cựu giám đốc khoa học AI của Meta dưới thời Mark Zuckerberg.
Yoshua Bengio, giáo sư khoa học máy tính người Canada, cho rằng ý tưởng chatbot đang trở nên có ý thức “sẽ dẫn tới những quyết định sai lầm”. Ảnh: The Canadian Press
