Video 'AI than khóc để bán hàng' bị tuýt còi ở Trung Quốc

Nguồn ảnh: VnExpress

Nền tảng online ở Trung Quốc xóa bỏ nhiều video AI có nội dung "nam sinh khóc lóc bán hàng để kiếm tiền đóng học phí".

Theo Sina, những tháng gần đây, nhân vật tên Tiểu Hải gây chú ý người xem với nhiều thước phim kể hoàn cảnh khó khăn như bị bắt nạt ở trường học, ba ngày không được ăn, tham gia cuộc thi bán hàng giành tiền thưởng đóng học phí. Trong các video, nhân vật Tiểu Hải vừa khóc vừa nói: "Cô ơi, cô đừng đi, ủng hộ con một món được không?", "Cô ơi con sắp đủ học phí rồi, chỉ cần cô mua một đơn thôi".

Dù video được chú thích "AI tạo sinh", nhiều người vẫn mắc lừa và mua hàng ủng hộ, số lượng sản phẩm bán ra lên tới hàng triệu. Đối tượng Tiểu Hải nhắm đến là người trung niên, cao tuổi, vì thế xưng hô "cô ơi, dì ơi" hay "ông, bà". Các sản phẩm thường không quá đắt đỏ, chủ yếu là thực phẩm, đồ dùng gia đình, các loại trang sức giá trị thấp. Một cụ già 79 tuổi từng tin video là thật, bắt chuyến tàu đi tìm Tiểu Hải vì động lòng thương.

Tiểu Hải kể khổ, kêu gọi mua hàng. Ảnh: Sina — Nhân vật ảo Tiểu Hải kể khổ, kêu gọi mua hàng trong video do AI tạo sinh. Ảnh: *Sina*

Loạt nội dung "Tiểu Hải than khóc, bán hàng" sau đó đã bị xóa trên Douyin. Theo People Daily, các trang video không thể chỉ chú thích "nội dung do AI tạo sinh" là xong trách nhiệm. Trong bối cảnh hiện tại, nền tảng mạng xã hội cần nâng cao trách nhiệm chống tin giả hơn.

Trong tháng 10, nền tảng Douyin triển khai đợt xử lý tình trạng video AI bịa hoàn cảnh khó khăn để thu hút tương tác. Ngày 1-22/10, nền tảng này xử lý hơn 20.000 tài khoản vi phạm điều khoản, xóa gần 50.000 video liên quan.

5 dạng nội dung bị xử lý gồm: Giả người yếu thế để lôi kéo lượt theo dõi; Ngụy tạo bằng cấp, đăng nội dung mang tính chuyên môn; Sử dụng AI mạo danh con người để tiếp thị, buôn bán sản phẩm; Cổ xúy sự xa hoa, mê tín dị đoan nhằm trục lợi; Dàn dựng những chuyện giật gân để lôi kéo tương tác.

Theo thông cáo ngày 23/10, phía Douyin cho biết luôn nỗ lực tạo không gian cho những câu chuyện đa dạng, tích cực và lương thiện, công ty khuyến khích người sáng tạo thực hiện nội dung trên nguyên tắc chân thật, hướng thiện. Hiện nền tảng tăng cường xử lý những video AI bịa chuyện, xây dựng môi trường Internet đáng tin cậy hơn.

AI tạo cơ hội phát triển nội dung số, bên cạnh đó nảy sinh tình trạng nội dung kém chất lượng, độc hại. Ở mảng phim ngắn, từ đầu năm đến nay, Tổng cục phát thanh, truyền hình Trung Quốc yêu cầu gỡ bỏ 68.000 phim dung tục, vi phạm thuần phong mỹ tục, độc hại với nhi đồng, vi phạm bản quyền. Trong số nội dung bị xử lý, phim AI chiếm hơn 90%.

Như Anh

Làn sóng lợi dụng trí tuệ nhân tạo để trục lợi lòng trắc ẩn đang trở thành vấn nạn nhức nhối trên không gian mạng Trung Quốc. Điển hình là trường hợp nhân vật ảo Tiểu Hải liên tục đăng tải video than khóc về hoàn cảnh bị bắt nạt, nhịn đói để nài nỉ mua hàng kiếm tiền đóng học phí. Dù có gắn nhãn cảnh báo công nghệ, hàng triệu sản phẩm giá rẻ vẫn được tiêu thụ nhờ đánh trúng tâm lý thương cảm của nhóm người cao tuổi. Trước diễn biến phức tạp, các cơ quan chức năng cùng nền tảng Douyin đã quyết liệt vào cuộc nhằm siết chặt quản lý. Chỉ trong ba tuần đầu tháng 10, nền tảng này đã xóa gần 50.000 video và xử lý hơn 20.000 tài khoản vi phạm các quy định về mạo danh, ngụy tạo nội dung để bán hàng. Nhật báo Nhân dân nhấn mạnh các đơn vị vận hành không thể thoái thác trách nhiệm kiểm duyệt chỉ bằng một dòng nhãn chú thích kỹ thuật đơn thuần. Chiến dịch thanh lọc lần này phản ánh yêu cầu cấp thiết về việc kiểm soát mặt trái của công nghệ tạo sinh trong lĩnh vực truyền thông số. Từ đầu năm đến nay, Tổng cục Phát thanh Truyền hình Trung Quốc đã yêu cầu gỡ bỏ 68.000 phim ngắn độc hại, trong đó sản phẩm từ trí tuệ nhân tạo chiếm tỷ lệ áp đảo hơn 90%. Đây là động thái cần thiết nhằm ngăn chặn nội dung rác và bảo vệ trật tự tiêu dùng trên không gian mạng.