Cảnh báo nội dung do AI tạo ra có thể gieo rắc ký ức giả

Nguồn ảnh: Thanh Niên

Những hình ảnh, văn bản do AI tạo ra không chỉ làm sai lệch trí nhớ con người mà còn dễ làm bóp méo phán đoán của các chuyên gia giám sát hệ thống.

Các nhà nghiên cứu cho biết sự tin tưởng vào trí tuệ nhân tạo (AI) đang rẽ sang hướng nguy hiểm khi ảnh và bản tóm tắt do công nghệ này tạo ra có thể bóp méo ký ức con người.

Chia sẻ với tờ Washington Post, nhà khoa học Pattie Maes từ Viện Công nghệ Massachusetts (MIT, Mỹ) cho biết trong thử nghiệm cho người tham gia xem ảnh gốc rồi xem lại bản gốc hoặc bản đã chỉnh sửa bằng AI sau giờ nghỉ, nhóm xem ảnh AI không chỉ dễ nhớ sai ảnh gốc hơn mà còn tự tin thái quá vào ký ức sai lệch đó.

Nguy cơ từ việc quá tin tưởng vào nội dung và hệ thống do AI vận hành

Các thí nghiệm tâm lý học từ thế kỷ 19 đã chỉ ra trí nhớ con người vốn thất thường và dễ bị ám thị, khiến thông tin sai lệch vẫn ảnh hưởng đến việc ra quyết định (gồm cả quyết định chính trị) ngay cả khi đã có đính chính. Sự xuất hiện của nội dung rác do AI tạo ra ngày càng thuyết phục đang thúc đẩy làn sóng lừa đảo và tin giả mới; một nghiên cứu năm ngoái phát hiện cả deepfake lẫn văn bản AI đều gieo rắc hiệu quả ký ức giả về các bê bối chính trị mang tính bịa đặt.

Ngay cả khi không dùng cho mục đích xấu, AI tạo sinh vẫn dễ mắc lỗi 'ảo giác' trong kết quả đầu ra. Khi các cơ quan chính phủ, ngân hàng, quân đội và bệnh viện chạy đua triển khai AI để đẩy nhanh quy trình từ lưu trữ hồ sơ đến không kích quân sự, việc bố trí chuyên gia kiểm duyệt vẫn lộ điểm yếu do người dùng không giỏi phát hiện ảo giác và rất dễ bị bóp méo phán đoán ngay cả khi kết quả AI mâu thuẫn với sự thật họ đã biết.

Hiện khả năng một người bình thường nhận diện đúng nội dung AI chỉ ngang việc tung đồng xu may rủi, và dù giới nghiên cứu đang tìm phương pháp đào tạo nhận biết deepfake, vẫn chưa có giải pháp hoàn hảo nào. Trong khi đó, ngành công nghiệp AI lại đang ráo riết chạy đua loại bỏ con người khỏi quy trình bằng các hệ thống AI tác tử (agentic AI) tự vận hành hoàn toàn.

Sự lệch pha này đã dẫn đến hậu quả thảm khốc vào đầu năm nay khi cuộc tấn công quân sự của Mỹ vào một trường tiểu học ở Iran làm hơn 150 người thiệt mạng, gồm ít nhất 123 trẻ em. Bloomberg đưa tin vào tháng trước cho biết, cuộc điều tra nội bộ của Bộ Quốc phòng Mỹ kết luận vụ việc một phần do phụ thuộc quá mức vào hệ thống AI của Palantir - công cụ đã đề xuất ngôi trường làm mục tiêu tấn công ngay ngày đầu tiên vì sử dụng dữ liệu truyền thống.

Sự gia tăng nhanh chóng của các nội dung do trí tuệ nhân tạo (AI) tạo ra đang đặt ra thách thức nghiêm trọng đối với nhận thức và ký ức của con người. Theo nghiên cứu từ Viện Công nghệ Massachusetts (MIT), người tiếp xúc với hình ảnh hoặc văn bản chỉnh sửa bởi AI có xu hướng ghi nhớ sai lệch về bản gốc, đồng thời thể hiện sự tự tin thái quá vào ký ức bị bóp méo đó. Hiện tượng này đặc biệt đáng lo ngại khi trí nhớ con người vốn dễ tổn thương trước các ám thị tinh vi từ deepfake và văn bản tổng hợp. Nguy cơ thao túng nhận thức càng trầm trọng hơn khi khả năng phân biệt nội dung AI của người bình thường hiện chỉ tương đương xác suất tung đồng xu. Thậm chí, ngay cả các chuyên gia kiểm duyệt cũng gặp khó khăn lớn trong việc phát hiện hiện tượng "ảo giác" của mô hình, dẫn đến việc phán đoán bị sai lệch dù kết quả trái ngược với thực tế đã biết. Tình trạng này khiến các làn sóng tin giả và lừa đảo chính trị ngày càng đạt hiệu quả thao túng cao hơn trước sự điều chỉnh nhận thức của công chúng. Mối đe dọa biến thành thảm họa thực tế khi xu hướng phát triển hệ thống tác tử tự vận hành nhằm loại bỏ hoàn toàn sự giám sát của con người ngày một gia tăng. Điển hình là cuộc điều tra nội bộ của Bộ Quốc phòng Mỹ được Bloomberg dẫn lại, chỉ ra vụ không kích nhầm vào một trường tiểu học ở Iran khiến hơn 150 người thiệt mạng có nguyên nhân từ việc phụ thuộc quá mức vào đề xuất mục tiêu của hệ thống AI Palantir. Sự việc gióng lên hồi chuông cảnh báo khẩn cấp về ranh giới an toàn trong việc ứng dụng công nghệ tự động hóa vào các quyết định sinh tử.