“Hệ thống 0” đại diện cho một công cụ nhận thức mới nổi, được hỗ trợ bởi AI, hoạt động song song với trực giác và phân tích của con người nhằm nâng cao khả năng nhận thức. Đây là một khái niệm rất mới, vừa được trình bày chi tiết vào ngày hôm qua, 22-10-2024, trong tạp chí Nature Human Behaviour.
Hệ thống mới này hứa hẹn sẽ hỗ trợ quá trình phức tạp về việc ra quyết định và giải quyết vấn đề, nhưng cần phải quản lý cẩn thận để tránh phụ thuộc quá mức và đảm bảo sử dụng có đạo đức.
Giới thiệu về Hệ thống 0
Sự tương tác ngày càng tăng giữa con người và trí tuệ nhân tạo đang hình thành một cách tư duy mới, được gọi là Hệ thống 0. Khung nhận thức mới này tồn tại bên ngoài tâm trí con người nhưng có khả năng nâng cao khả năng nhận thức của chúng ta. Hệ thống 0 hoạt động song song với hai mô hình tư duy đã được thiết lập của con người: Hệ thống 1, nhanh, trực giác và tự động, và Hệ thống 2, chậm hơn, mang tính phân tích và suy ngẫm nhiều hơn.
Tuy nhiên, Hệ thống 0 giới thiệu thêm một lớp (hay tầng) phức tạp tính, tái định hình bối cảnh nhận thức mà trong đó chúng ta đang hoạt động. Điều này có thể đại diện cho một bước tiến quan trọng trong cách chúng ta suy nghĩ và đưa ra quyết định. Điều cần thiết là chúng ta sử dụng tiến bộ này để củng cố tính tự chủ nhận thức, đảm bảo không trở nên quá phụ thuộc vào AI.
Khái niệm đột phá này được nêu chi tiết trong tạp chí Nature Human Behaviour ngày 22-10 trong một bài báo có tiêu đề “Trường hợp tương tác giữa con người và AI như là tư duy Hệ thống 0” (The Case for Human-AI Interaction as System 0 Thinking).
Bài báo được viết bởi một nhóm các nhà nghiên cứu do Giáo sư Giuseppe Riva, giám đốc Phòng thí nghiệm Công nghệ Nhân văn tại cơ sở Milan của Đại học Công giáo, và Phòng thí nghiệm Công nghệ Ứng dụng cho Tâm lý học Thần kinh tại Istituto Auxologico Italiano IRCCS ở Milan, và Giáo sư Mario Ubiali từ cơ sở Brescia của Đại học Công giáo. Nghiên cứu được thực hiện với sự hợp tác của Massimo Chiriatti từ Nhóm Giải pháp Hạ tầng của Lenovo tại Milan, Giáo sư Marianna Ganapini từ Đại học Union tại Schenectady, New York, và Giáo sư Enrico Panai từ cơ sở Milan của Đại học Công giáo.
Hệ thống hỗ trợ nhận thức bên ngoài
Giống như ổ đĩa ngoài cho phép chúng ta lưu trữ dữ liệu không cần lưu trên máy tính, và chúng ta có thể làm việc bằng cách kết nối ổ đĩa với một máy tính ở bất cứ đâu, thì trí tuệ nhân tạo, với khả năng xử lý dữ liệu khổng lồ, có thể đại diện cho một mạch ngoài đối với bộ não con người, có khả năng nâng cao nó. Do đó, xuất hiện ý tưởng về Hệ thống 0, về cơ bản là một dạng “tư duy bên ngoài” dựa trên khả năng của AI.
Với việc quản lý một lượng lớn dữ liệu, AI có thể xử lý thông tin và cung cấp gợi ý hoặc quyết định dựa trên các thuật toán phức tạp. Tuy nhiên, khác với tư duy trực quan hoặc phân tích, Hệ thống 0 không gán ý nghĩa nội tại cho thông tin mà nó xử lý. Nói cách khác, AI có thể thực hiện tính toán, đưa ra dự đoán và tạo ra phản hồi mà không thực sự “hiểu” nội dung của dữ liệu mà nó làm việc.
Do đó, con người phải tự diễn giải và mang lại ý nghĩa cho các kết quả do AI tạo ra. Điều này giống như có một trợ lý thu thập, lọc và sắp xếp thông tin một cách hiệu quả, nhưng vẫn cần sự can thiệp của chúng ta để đưa ra quyết định sáng suốt. Sự hỗ trợ nhận thức này cung cấp đầu vào có giá trị, nhưng quyền kiểm soát cuối cùng phải luôn thuộc về con người.
Rủi ro từ sự phụ thuộc quá mức vào AI
“Rủi ro,” giáo sư Riva và Ubiali nhấn mạnh, “là dựa quá nhiều vào Hệ thống 0 mà không thực hiện tư duy phản biện. Nếu chúng ta thụ động chấp nhận các giải pháp do AI cung cấp, chúng ta có thể mất khả năng suy nghĩ tự chủ và phát triển các ý tưởng sáng tạo. Trong một thế giới ngày càng tự động hóa, điều quan trọng là con người phải tiếp tục đặt câu hỏi và thách thức các kết quả do AI tạo ra,” các chuyên gia nhấn mạnh.
Hơn nữa, tính minh bạch và sự tin tưởng vào các hệ thống AI là một vấn đề tiến thoái lưỡng nan lớn khác. Làm sao chúng ta có thể chắc chắn rằng các hệ thống này không bị thiên vị hoặc bóp méo và rằng chúng cung cấp thông tin chính xác và đáng tin cậy? “Xu hướng ngày càng tăng của việc sử dụng dữ liệu do AI tổng hợp hoặc tạo ra có thể làm suy giảm nhận thức của chúng ta về thực tế và ảnh hưởng tiêu cực đến quá trình ra quyết định của chúng ta,” các giáo sư cảnh báo.
AI thậm chí có thể chiếm đoạt khả năng tái suy ngẫm của chúng ta, tức là hành động tư duy lại về suy nghĩ và cảm xúc của bản thân—một quá trình độc đáo của con người. Tuy nhiên, với sự tiến bộ của AI, rất có thể xảy ra việc dựa vào các hệ thống thông minh để phân tích hành vi và trạng thái tinh thần của chúng ta. Điều này đặt ra câu hỏi: chúng ta có thể thực sự hiểu bản thân mình đến đâu thông qua phân tích của AI? Và AI có thể tái tạo được sự phức tạp của trải nghiệm chủ quan không?
Tương lai của nâng cao nhận thức
Bất chấp những câu hỏi này, Hệ thống 0 cũng mang lại những cơ hội to lớn, các giáo sư chỉ ra. Nhờ khả năng xử lý dữ liệu phức tạp nhanh chóng và hiệu quả, AI có thể hỗ trợ nhân loại trong việc giải quyết các vấn đề vượt quá khả năng nhận thức tự nhiên của chúng ta. Cho dù đó là giải quyết các vấn đề khoa học phức tạp, phân tích các tập dữ liệu khổng lồ hay quản lý các hệ thống xã hội phức tạp, AI có thể trở thành một đồng minh không thể thiếu.
Để tận dụng tiềm năng của Hệ thống 0, các tác giả nghiên cứu đề xuất rằng cần khẩn cấp phát triển các hướng dẫn đạo đức và trách nhiệm cho việc sử dụng nó. “Tính minh bạch, trách nhiệm giải trình và hiểu biết kỹ thuật số là các yếu tố then chốt để giúp mọi người tương tác một cách cẩn trọng với AI,” họ cảnh báo. “Việc giáo dục công chúng về cách sống trong môi trường nhận thức mới này sẽ rất quan trọng để tránh rủi ro phụ thuộc quá mức vào các hệ thống này.”
Tương lai của tư duy con người
Họ kết luận: Nếu không được kiểm soát, Hệ thống 0 có thể can thiệp vào tư duy con người trong tương lai. “Điều quan trọng là chúng ta phải luôn nhận thức và phản biện về cách sử dụng nó; tiềm năng thực sự của Hệ thống 0 sẽ phụ thuộc vào khả năng của chúng ta trong việc định hướng cho nó đi đúng hướng.”
Các nhà nghiên cứu giớ thiệu Hệ thống 0, một khung nhận thức do AI thúc đẩy nhằm nâng cao khả năng ra quyết định của con người qua việc xử lý dữ liệu phức tạp – Ảnh: SciTech Daily
