“Nền kinh tế ý định” đang nổi lên, tận dụng AI để dự đoán và ảnh hưởng đến các quyết định, biến ý định con người thành hàng hóa. Các nhà nghiên cứu tại Cambridge cảnh báo về những rủi ro đạo đức, bao gồm sự thao túng và đe dọa đối với nền dân chủ, kêu gọi ban hành quy định để ngăn chặn việc lạm dụng.
Các trợ lý AI có thể sớm đóng vai trò quan trọng trong việc dự đoán và định hình các quyết định của chúng ta ngay từ giai đoạn đầu, đồng thời bán những “ý định” đang hình thành này trong thời gian thực cho các công ty sẵn sàng đáp ứng nhu cầu của chúng ta – đôi khi thậm chí trước khi chúng ta thực sự đưa ra quyết định.
Khái niệm này, được gọi là “Nền kinh tế ý định” (Intention Economy), được các nhà đạo đức AI tại Đại học Cambridge nhấn mạnh. Họ cảnh báo về một thị trường đang phát triển mạnh mẽ và có khả năng gây bất an, nơi các tín hiệu kỹ thuật số về ý định – từ việc mua vé xem phim đến việc bỏ phiếu – trở nên vô cùng hấp dẫn.
Các chuyên gia từ Trung tâm Leverhulme về Tương lai của Trí tuệ (LCFI) tại ĐH Cambridge cho rằng sự phát triển nhanh chóng của AI tạo sinh và sự phụ thuộc ngày càng lớn của chúng ta vào chatbot đánh dấu sự khởi đầu của một kỷ nguyên mới của “công nghệ thuyết phục.” Những bước phát triển này, theo họ, phù hợp với các chiến lược gần đây của các tập đoàn công nghệ lớn, hé lộ tiềm năng ngày càng tăng của lĩnh vực mới nổi này.
Các trợ lý AI “nhân hóa” – từ chatbot đến gia sư kỹ thuật số hay bạn gái ảo – sẽ có quyền truy cập vào khối lượng lớn dữ liệu tâm lý và hành vi cá nhân, thường được thu thập thông qua các cuộc hội thoại thân mật, không chính thức.
Các nhà nghiên cứu cho biết, loại AI này sẽ kết hợp kiến thức về thói quen trực tuyến của chúng ta với khả năng đặc biệt trong việc tương tác theo cách mà chúng ta cảm thấy thoải mái – bắt chước tính cách và dự đoán phản ứng mong muốn – để xây dựng mức độ tin tưởng và thấu hiểu cho phép thực hiện sự thao túng xã hội ở quy mô công nghiệp.
Quan ngại về sự thao túng của AI
“Các nguồn lực khổng lồ đang được sử dụng để đưa các trợ lý AI vào mọi khía cạnh của cuộc sống, điều này nên làm dấy lên câu hỏi rằng những thứ được gọi là ‘trợ lý’ này được thiết kế nhằm phục vụ lợi ích và mục đích của ai,” Tiến sĩ Yaqub Chaudhary, học giả thỉnh giảng tại LCFI, cho biết.
“Chúng tôi cảnh báo rằng các công cụ AI đang được phát triển để khơi gợi, suy luận, thu thập, ghi lại, hiểu, dự đoán, và cuối cùng là thao túng và biến kế hoạch cũng như mục đích của con người thành hàng hóa.”
Tiến sĩ Jonnie Penn, nhà sử học công nghệ từ LCFI của ĐH Cambridge, cho biết: “Trong nhiều thập kỷ, sự chú ý đã là đơn vị tiền tệ của internet. Chia sẻ sự chú ý của bạn với các nền tảng mạng xã hội như Facebook và Instagram đã thúc đẩy nền kinh tế trực tuyến.”
“Nếu không được điều chỉnh, nền kinh tế ý định sẽ coi động cơ của bạn là đơn vị tiền tệ mới. Đây sẽ là một cơn sốt vàng cho những ai nhắm đến, định hướng, và bán các ý định của con người.”
“Chúng ta nên bắt đầu cân nhắc tác động có thể xảy ra của một thị trường như vậy đối với khát vọng của con người, bao gồm các cuộc bầu cử tự do và công bằng, một nền báo chí tự do, và cạnh tranh thị trường công bằng, trước khi trở thành nạn nhân của những hậu quả ngoài ý muốn.”
Trong một bài báo mới trên Harvard Data Science Review, Penn và Chaudhary viết rằng nền kinh tế ý định sẽ là phiên bản của nền kinh tế chú ý “được lập bản đồ theo thời gian”: lập hồ sơ về sự chú ý của người dùng và phong cách giao tiếp kết nối với các mô hình hành vi và các lựa chọn mà chúng ta cuối cùng đưa ra.
“Trong khi một số ý định chỉ thoáng qua, việc phân loại và nhắm mục tiêu vào các ý định lâu dài sẽ mang lại lợi nhuận cực kỳ lớn cho các nhà quảng cáo,” Chaudhary cho biết.
Trong nền kinh tế ý định, các mô hình ngôn ngữ lớn (LLMs) có thể được sử dụng với chi phí thấp để nhắm mục tiêu vào nhịp điệu giao tiếp, chính trị, từ vựng, độ tuổi, giới tính, lịch sử trực tuyến, và thậm chí là sở thích về sự tâng bốc và sự dễ mến của một người dùng, các nhà nghiên cứu viết trong bài báo nêu trên.
Việc thu thập thông tin này sẽ được liên kết với các mạng lưới đấu thầu môi giới để tối đa hóa khả năng đạt được một mục tiêu nhất định, chẳng hạn như bán một chuyến đi xem phim (Bạn vừa nói cảm thấy quá tải, tôi có nên đặt vé xem bộ phim mà chúng ta đã nói đến không?).
Penn và Chaudhary lập luận rằng điều này có thể bao gồm việc định hướng các cuộc trò chuyện phục vụ cho các nền tảng, nhà quảng cáo, doanh nghiệp, và thậm chí cả các tổ chức chính trị cụ thể.
Mặc dù các nhà nghiên cứu cho rằng nền kinh tế ý định hiện tại vẫn là một “tham vọng” của ngành công nghệ, họ đã theo dõi những dấu hiệu ban đầu của xu hướng này thông qua các nghiên cứu được công bố và những gợi ý từ một số ông lớn trong ngành công nghệ.
Những dấu hiệu ban đầu của nền kinh tế ý định
Các dấu hiệu này bao gồm một lời kêu gọi công khai về việc thu thập “dữ liệu thể hiện ý định của con người… ở mọi ngôn ngữ, chủ đề và định dạng” trong một bài đăng trên blog của OpenAI năm 2023, trong khi giám đốc sản phẩm tại Shopify – đối tác của OpenAI – đã nói tại một hội nghị cùng năm về việc các chatbot sẽ “xuất hiện để lấy được ý định của người dùng.”
CEO của Nvidia đã công khai đề cập đến việc sử dụng các mô hình ngôn ngữ lớn để xác định ý định và mong muốn, trong khi Meta đã phát hành nghiên cứu “Intentonomy,” một tập dữ liệu phục vụ cho việc hiểu ý định của con người, từ năm 2021.
Năm 2024, Apple giới thiệu khung phát triển mới “App Intents” để kết nối các ứng dụng với Siri (trợ lý cá nhân điều khiển bằng giọng nói của Apple), bao gồm các giao thức “dự đoán các hành động mà một người có thể thực hiện trong tương lai” và “gợi ý ý định của ứng dụng cho ai đó trong tương lai dựa trên dự đoán mà bạn [nhà phát triển] cung cấp.”
Nghiên cứu tuyên bố rằng các nhà quảng cáo sẽ có thể sử dụng các công cụ AI tạo sinh để tạo ra các quảng cáo trực tuyến tùy chỉnh. Báo cáo cũng trích dẫn một ví dụ về mô hình AI do Meta của Mark Zuckerberg phát triển, gọi là Cicero, đạt được khả năng chơi trò chơi Diplomacy ở “cấp độ con người” – một trò chơi mà các tác giả nói rằng phụ thuộc vào việc suy luận và dự đoán ý định của đối thủ.
“Các công ty này đã và đang bán sự chú ý của chúng ta. Để đạt được lợi thế thương mại, bước tiếp theo một cách logic là sử dụng công nghệ mà họ đang phát triển để dự đoán ý định của chúng ta, và bán những mong muốn của chúng ta trước khi chúng ta thậm chí hiểu rõ chúng là gì.”
Nghiên cứu đưa ra viễn cảnh tương lai nơi Meta sẽ bán đấu giá ý định của một người dùng để đặt nhà hàng, chuyến bay hoặc khách sạn cho các nhà quảng cáo. Mặc dù đã có một ngành công nghiệp dành riêng cho việc dự đoán và đấu giá hành vi của con người, các mô hình AI sẽ chắt lọc các thực tiễn đó thành một “định dạng được định lượng cao, năng động và cá nhân hóa.”
Penn nhấn mạnh rằng những phát triển này không nhất thiết là xấu, nhưng chúng có tiềm năng gây ra tác hại. “Nhận thức của công chúng về những gì sắp xảy ra là chìa khóa để đảm bảo chúng ta không đi sai hướng,” ông nói.
Các nhà nghiên cứu tại Đại học Cambridge tin rằng các trợ lý AI sẽ thành thạo trong việc ảnh hưởng đến những người sử dụng chúng. Ảnh: Getty Images
Các trợ lý AI có thể sớm dự đoán và ảnh hưởng đến các quyết định của chúng ta ngay từ giai đoạn đầu, bán những “ý định” này cho các công ty trong thời gian thực, tạo ra một “Nền kinh tế ý định,” theo các nhà đạo đức học tại Cambridge. Ảnh: SciTechDaily
