Các video ngắn sử dụng nhân vật AI giả dạng người có hoàn cảnh khó khăn để khơi gợi lòng thương cảm - Ảnh: CCTV
Theo 163, những video AI với hình ảnh cậu bé tên Tiểu Hải khóc lóc cầu xin sự giúp đỡ, nói rằng chỉ còn thiếu một đơn hàng để hoàn thành cuộc thi bán hàng, đã khiến nhiều người động lòng và đặt mua sản phẩm.
Tuy nhiên các nội dung này bị phát hiện sử dụng nhân vật do AI tạo ra với câu chuyện được sao chép hàng loạt, nhằm câu kéo lượt xem để bán hàng.
Nhiều hình tượng bi thương được dựng để bán hàng
Trong các video, Tiểu Hải xuất hiện với giọng nói nghẹn ngào, kể về hoàn cảnh gia đình đơn thân, thành tích giành chiến thắng tại hội thao và việc chỉ còn thiếu vài đơn hàng để hoàn thành mục tiêu bán hàng.
Ở cảnh tiếp theo, nhân vật lập tức chuyển sang giới thiệu bánh ngũ cốc và những sản phẩm khác, kèm đường dẫn mua hàng ở góc dưới bên trái màn hình.
Hàng loạt hình tượng tương tự Tiểu Hải được AI tạo ra - Ảnh: CCTV
Tìm kiếm từ khóa "Tiểu Hải" trên Douyin, nhiều video có nội dung gần như giống hệt nhau được phát hiện.
Một số video có dấu hiệu AI khá rõ, trong khi những video khác có hình ảnh chân thực, dễ khiến người xem nhầm tưởng là người thật.
Theo Xinwen, Tiểu Hải không phải hình tượng duy nhất.
Các ứng dụng AI hỗ trợ bán hàng cho phép người dùng thay đổi phông nền, chỉnh sửa lời thoại và tạo ra nhiều phiên bản nhân vật tương tự.
Sản phẩm quảng bá cũng rất đa dạng, từ bột sữa đậu nành, bánh ngũ cốc, giẻ lau đến mặt dây chuyền ngọc phỉ thúy. Một số người mua hàng vì thương cảm cho hoàn cảnh được kể trong video.
Thậm chí một cụ bà 79 tuổi từng định vượt hàng nghìn cây số để thăm cậu bé tưởng tượng, nhưng được cảnh sát kịp thời ngăn lại.
Sau khi loạt video Tiểu Hải bị gỡ trên nhiều nền tảng, kiểu nội dung sử dụng nhân vật AI để xây dựng hình tượng giả vẫn xuất hiện dưới những hình thức khác.
Nhiều người lớn tuổi tin vào câu chuyện bịa đặt về hoàn cảnh đáng thương của nhân vật và mua hàng vì đồng cảm - Ảnh: Weibo
Có tài khoản tạo hình bác sĩ mặc áo blouse, tự xưng là viện trưởng hoặc trưởng khoa, xuất hiện trong bối cảnh phòng bệnh, tư vấn sức khỏe và giới thiệu sản phẩm.
Bên cạnh nhân vật AI, một số tài khoản còn đăng video dàn dựng cảnh cứu giúp phụ nữ lang thang trong núi sâu.
Tại tỉnh Hắc Long Giang, hai người mang họ Trịnh và Lưu được xác định là vợ chồng, thuê nhà để quay các video bi thương.
Sau đó họ đăng hơn 200 video trên Douyin, Kuaishou và WeChat Video Accounts. Các nội dung này thu hút hơn 20 triệu lượt xem, hơn 50.000 lượt thích và trên 6.000 bình luận.
Từ tháng 1 đến tháng 5, Trung Quốc đã gỡ bỏ hơn 520.000 video ngắn vi phạm và xử lý hơn 68.000 tài khoản.
Vào tháng 9, chiến dịch kéo dài 2 tháng nhằm chấn chỉnh tình trạng giả mạo hình tượng trên các nền tảng video ngắn cũng được triển khai.
Các nội dung xử lý bao gồm hành vi giả dạng người yếu thế để trục lợi, bịa đặt tư cách chuyên môn, sử dụng AI giả mạo người khác và dàn dựng các tình tiết xung đột nhằm thu hút lượt xem.
Phim AI đầu tiên ra rạp Trung Quốc thất bại thảm hạiDoanh thu mở màn khiêm tốn của phim AI 'Tam Tinh Đôi: Vị lai vãng sự' cho thấy khán giả vẫn chưa sẵn sàng trả tiền cho trải nghiệm điện ảnh do AI tạo ra.