Một tổ chức từ thiện Mỹ đang lên kế hoạch sử dụng trí tuệ nhân tạo (AI) để phân tích lời nói trong lớp học ở Gaza, nhằm phát hiện những ngôn từ bị đánh giá là bài Do Thái, kích động bạo lực hoặc thù ghét. Kế hoạch làm dấy lên lo ngại về quyền riêng tư, quyền tự do trao đổi trong lớp học và nguy cơ giám sát người Palestine.
David Hasan, nhà sáng lập kiêm giám đốc điều hành tổ chức Gaza Children Village, cho biết hệ thống sẽ ghi âm các cuộc trò chuyện trong lớp, sau đó dùng AI xác định những phát ngôn đáng chú ý. Dữ liệu được lưu trong 72 giờ; nếu hệ thống phát hiện nội dung cần xem xét, cảnh báo sẽ được gửi cho Hasan. Ông có thể liên hệ giáo viên để tìm hiểu bối cảnh và phản hồi.
Công nghệ đã được thử nghiệm và dự kiến triển khai tại hàng chục lớp học. Tuy nhiên, tổ chức chưa công bố thời điểm bắt đầu, những phát ngôn cụ thể nào sẽ bị đánh dấu hoặc liệu giáo viên, học sinh và gia đình có được thông báo hay không.
Hasan nói mục tiêu là bảo đảm giáo viên tuân thủ chương trình học đề cao hòa bình và khoan dung, đồng thời góp phần giảm tư tưởng cực đoan. Chương trình của tổ chức chủ yếu dựa trên giáo trình của Chính quyền Palestine, nhưng loại bỏ những nội dung mà Hasan cho là cổ súy bạo lực hoặc mang tính bài Do Thái.
Gaza Children Village vận hành các trường mang tên Academies of Hope, cung cấp bữa ăn, chăm sóc y tế và hỗ trợ tâm lý cho trẻ em. Trường đầu tiên mở cửa vào mùa hè năm 2025. Nhiều học sinh đã mất người thân trong chiến tranh, trong bối cảnh hàng trăm nghìn trẻ em Gaza chưa được đến trường và phần lớn cơ sở giáo dục bị phá hủy hoặc hư hại.
Hasan, bác sĩ phẫu thuật thần kinh sinh ra tại Kuwait trong gia đình gốc Palestine và giảng dạy tại trường y của Đại học Duke, cho biết ông nảy ra ý tưởng lập tổ chức sau thời gian tình nguyện tại các bệnh viện ở Gaza.
Lo ngại về quyền riêng tư và tự do trao đổi
Kế hoạch vấp phải phản ứng từ một số thành viên hội đồng quản trị, đối tác cứu trợ và các tổ chức bảo vệ quyền của người Palestine. Những người phản đối lo ngại việc dùng AI đánh giá lời nói có thể khiến giáo viên và học sinh tự kiểm duyệt, đồng thời đặt ra câu hỏi ai có quyền quyết định nội dung nào được xem là thù ghét.
Bishara Bahbah, nhà hoạt động chính trị người Mỹ gốc Palestine và thành viên hội đồng quản trị tổ chức, cho rằng việc theo dõi hoạt động dạy và học có thể chấp nhận được trong một số trường hợp, nhưng sử dụng công nghệ để hạn chế trao đổi tự do trong lớp là vấn đề khác. Ông nói hội đồng quản trị chưa được thông báo về kế hoạch này.
Một tổ chức cứu trợ đối tác cũng đang cân nhắc lại quan hệ hợp tác, gọi việc dùng AI giám sát lời nói trong lớp học là một vấn đề có thể mở ra những hệ lụy khó kiểm soát. Sáu giáo viên đương nhiệm và từng làm việc tại các trường của tổ chức từ chối bình luận.
Nỗi lo càng lớn sau gần ba năm chiến tranh, khi quân đội Israel sử dụng AI để sàng lọc thông tin liên lạc bị chặn thu, xác định những phát ngôn bị coi là đáng ngờ và hỗ trợ lựa chọn mục tiêu. Hiện chưa có bằng chứng cho thấy tổ chức của Hasan dự định chia sẻ bản ghi âm với bên thứ ba.
Ines Abdel Razek, đồng giám đốc Viện Ngoại giao Công chúng Palestine, chỉ trích việc một tổ chức bên ngoài tìm cách định hình chương trình giáo dục và tư tưởng của thế hệ trẻ Palestine mà thiếu trách nhiệm giải trình với các cơ quan địa phương và quốc tế. Amjad Iraqi thuộc Tổ chức Khủng hoảng Quốc tế nhận định người Palestine có lý do để lo ngại hoạt động giám sát, sau khi thông tin bị sử dụng như một công cụ trong chiến tranh.
Mohammad AbuAlrob, người phát ngôn Chính quyền Palestine, nói chương trình giáo dục của chính quyền chú trọng lòng khoan dung và công lý, nhưng ông chưa có đủ thông tin để đánh giá chương trình của tổ chức. Ông cho rằng giám sát lời nói trong lớp học đã vượt qua một ranh giới quan trọng.
Trong khi tương lai quản lý giáo dục tại Gaza sau chiến tranh vẫn chưa được xác định, kế hoạch này đặt ra câu hỏi về quyền kiểm soát chương trình học, cách xác định nội dung bị coi là thù ghét và giới hạn của công nghệ giám sát trong môi trường giáo dục.
Trẻ em Palestine trên đường tới trường ở Dải Gaza. Ảnh: AP
