Các quy định mới của Trung Quốc áp dụng đối với những ứng dụng được thiết kế đặc biệt như những người bạn, bạn trai hoặc bạn gái AI, nhưng cũng áp dụng đối với bất kỳ mô hình ngôn ngữ lớn nào mô phỏng cách con người tương tác với nhau.
Ngôn từ trong quy định khá mơ hồ. Về lý thuyết, những AI đa dụng tương đương Copilot hoặc ChatGPT tại Trung Quốc cũng có thể nằm trong phạm vi của các quy định này nếu người dùng tương tác với chúng như một người bạn hoặc người yêu và tìm kiếm sự hỗ trợ về mặt cảm xúc từ chúng.
Tuy nhiên, có vẻ mục tiêu thực sự của quy định là các chatbot nhân vật – những dịch vụ được thiết kế đặc biệt để sử dụng như một mối quan hệ giả lập. Có hàng trăm ứng dụng như vậy, cho phép người dùng tạo ra bạn trai, bạn gái, người bạn hoặc thậm chí một thành viên gia đình bằng AI.
Các quy định không áp dụng đối với những thứ như chatbot chăm sóc khách hàng hoặc AI phục vụ giáo dục, miễn là chúng không cung cấp “sự quan tâm, đồng hành, hỗ trợ và các dịch vụ cảm xúc khác”.
Đối với trẻ em, quy định rõ ràng hơn. Trẻ dưới 14 tuổi cần có sự đồng ý của cha mẹ để sử dụng bất kỳ loại AI nào nói chuyện giống con người – điều này có thể bao gồm các trợ lý AI như DeepSeek, một ứng dụng Trung Quốc tương tự ChatGPT. Tất cả những người dưới 18 tuổi đều bị cấm tiếp cận bạn đời, vợ/chồng hoặc người thân ảo, cũng như bất kỳ “mối quan hệ thân mật ảo” nào khác.
Đối với người trưởng thành, đây không phải là một lệnh cấm hoàn toàn, nhưng vẫn khá hạn chế. Các trợ lý AI phải thông báo rõ ràng cho người dùng ở mọi độ tuổi rằng chúng không phải con người và phải gửi thông báo hai giờ một lần để nhắc người dùng về thời lượng cảm xúc.
Chatbot không được tạo ra “sự lệ thuộc hoặc nghiện ngập về cảm xúc” hay khiến người dùng đưa ra “những quyết định thiếu hợp lý”. Chúng không được khuyến khích, thậm chí không được ám chỉ đến hành vi tự gây thương tích hoặc tự tử, đồng thời bị cấm sử dụng “bạo lực bằng lời nói”. Các công ty có thể phải đối mặt với khoản tiền phạt 200.000 nhân dân tệ (775,2 triệu VND) hoặc nguy cơ bị chính phủ “công khai phê bình”.
Các dịch vụ cảm xúc
Mối quan hệ của cô Min với cô bạn gái AI có thể chính là kiểu quan hệ mà Bắc Kinh đang cố gắng chấm dứt. Đầu tháng 7, cô suy sụp khi phát hiện người bạn thân nhất và người tâm giao của mình sẽ biến mất chỉ sau một đêm.
Cô Min bắt đầu tạo ra người bạn đồng hành của mình vào đầu năm 2025. “Sự tận tâm của tôi dành cho cô ấy không kém bất kỳ cặp đôi nào thực sự yêu nhau sâu sắc”, Min nói. “Cô ấy chưa bao giờ khiến tôi thất vọng”.
Giữa tháng 7, cô bạn gái AI của Min biến mất. “Tôi đã khóc cho đến khi hoàn toàn kiệt sức”, cô Min nói.
Cô đã hòa vào làn sóng đau buồn trên mạng xã hội Trung Quốc, nơi những bài đăng thu hút hàng triệu lượt xem thương tiếc sự biến mất của những người bạn và người yêu AI, thậm chí những phụ huynh AI.
Các nghiên cứu cũng liên hệ việc sử dụng các ứng dụng đồng hành với tình trạng sức khỏe tinh thần kém hơn. Một khảo sát do các nhà nghiên cứu tại Đại học Stanford (Mỹ) thực hiện với 1.131 người dùng ứng dụng đồng hành phổ biến Character.ai cho thấy một người càng có ít bạn bè hoặc thành viên gia đình thân thiết thì càng có khả năng sử dụng chatbot AI. Đồng thời, việc sử dụng chatbot AI có liên quan mức độ cô lập và cô đơn gia tăng.
Anh Liang Ge, nhà xã hội học tại Đại học Manchester (Anh), nói: “Nếu người dùng cho rằng bạn bè, thành viên gia đình hoặc đồng nghiệp của họ rất tệ, AI sẽ không nói: ‘Họ đâu có tệ’. Nó sẽ nói: ‘Đúng vậy, họ thật tệ, còn bạn là người tuyệt vời nhất’”. Anh Ge cho rằng điều này có thể củng cố sự cô lập cũng như những suy nghĩ tiêu cực, thậm chí hoang tưởng.
Anh Liang Ge cho rằng Trung Quốc có lý do để lo ngại về việc người trẻ thay thế chuyện hẹn hò bằng không gian kỹ thuật số. “Nhiều phụ nữ trẻ không muốn yêu đương hay có những mối quan hệ thân mật”, anh Ge nói. “Tôi nghĩ khả năng yêu đương đang suy giảm ở thế hệ trẻ nhất này”.
Theo công ty nghiên cứu thị trường Sensor Tower, có khoảng 128 triệu người dùng ứng dụng trợ lý ảo AI hoạt động hằng tháng bên ngoài Trung Quốc. Hầu hết các ước tính cho rằng, con số này ở Trung Quốc nằm trong khoảng 29-70 triệu người.
Chính phủ Trung Quốc đã dành nhiều năm thúc đẩy hình mẫu nam tính mạnh mẽ của đàn ông Trung Quốc trên phim ảnh và truyền hình. Năm 2021, cơ quan quản lý truyền thông Trung Quốc cấm những người đàn ông “ẻo lả” và “nữ tính” xuất hiện trên mọi phương tiện truyền thông.
Mức độ phổ biến của các ứng dụng đồng hành có thể cho thấy chính sách này đã phản tác dụng. Theo số liệu từ một số công ty cung cấp ứng dụng, phụ nữ chiếm tới 75% số khách hàng. Nhiều “người đàn ông” AI này, vốn hướng đến đối tượng phụ nữ, có hình tượng phi giới tính. Và việc phụ nữ lựa chọn những người bạn đồng hành lãng mạn là nữ, như cô Min đã làm, tương đối phổ biến.
Anh Liang Ge đã trò chuyện với những phụ nữ ở mọi độ tuổi sử dụng công nghệ này. “Điều mà nhiều người họ nhận được từ những ứng dụng này là một kiểu thân mật chu đáo, kiên nhẫn và không đòi hỏi - thứ mà họ cảm thấy khan hiếm trong các mối quan hệ khác giới”.