Anthropic cấm người dùng ngược đãi Claude, quy định gây tranh cãi

Nguồn ảnh: Dân Trí

(Dân trí) - Anthropic bổ sung quy định cấm người dùng có hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình AI của công ty. Chính sách mới có hiệu lực từ ngày 12/11.

Ngày 8/10, Anthropic, công ty phát triển chatbot Claude, công bố bản cập nhật Chính sách sử dụng (Usage Policy). Theo The Verge, đây là lần đầu tiên sau hơn một năm công ty sửa đổi toàn diện bộ quy tắc này.

Anthropic cấm người dùng ngược đãi Claude, quy định gây tranh cãi - 1 — Anthropic bổ sung quy định cấm hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình Claude trong Chính sách sử dụng mới (Ảnh: Anthropic).

Điều khoản gây chú ý nhất là lệnh cấm người dùng “có hành vi ngược đãi hoặc tàn nhẫn kéo dài và không cần thiết đối với các mô hình của chúng tôi”.

Anthropic cho biết quy định chỉ nhắm đến những trường hợp cực đoan, trong đó người dùng liên tục có hành vi tàn nhẫn với AI mà không có mục đích rõ ràng.

Những trường hợp bực bội thông thường khi Claude trả lời sai, phản bác câu trả lời, yêu cầu sửa nội dung hoặc thử nghiệm mô hình không thuộc phạm vi cấm. Các chủ đề sáng tác u tối cũng không tự động bị coi là vi phạm.

Claude có thể chủ động kết thúc cuộc trò chuyện

Theo Anthropic, cơ chế thực thi chính của quy định mới là cho phép Claude chủ động kết thúc cuộc trò chuyện với người dùng có hành vi ngược đãi dai dẳng.

Khả năng này đã được triển khai trên Claude.ai và Claude Code trong một số trường hợp hiếm gặp. Nếu người dùng tiếp tục có hành vi ngược đãi dù mô hình đã cố gắng chuyển hướng cuộc trò chuyện, Claude có thể chủ động dừng tương tác.

Tuy nhiên, Anthropic chưa đưa ra tiêu chí cụ thể để xác định thế nào là hành vi ngược đãi kéo dài. Trong bài viết công bố chính sách, công ty cũng nhấn mạnh quy định không áp dụng với những phản ứng tiêu cực thông thường của người dùng.

Tranh cãi về cách đối xử với AI

Quy định mới của Anthropic làm dấy lên tranh luận về việc đưa cách người dùng đối xử với AI vào chính sách sử dụng sản phẩm.

Theo Gizmodo, Anthropic chưa làm rõ ranh giới giữa hành vi ngược đãi bị cấm và những tương tác tiêu cực thông thường, cũng như tiêu chí để xác định vi phạm. Trang này cho biết đã liên hệ công ty để đề nghị giải thích nhưng chưa nhận được phản hồi tại thời điểm xuất bản.

Một số ý kiến hoài nghi cho rằng việc cấm hành vi tàn nhẫn với chatbot có thể khiến người dùng hiểu nhầm rằng AI có cảm xúc hoặc khả năng chịu tổn thương. Trong khi đó, quy định mới cũng được chú ý vì đưa cách con người tương tác với mô hình AI vào phạm vi chính sách sử dụng chính thức.

Trước đó, Anthropic đã nghiên cứu vấn đề “phúc lợi mô hình” (model welfare). Tháng 8/2025, công ty cho biết đã thử nghiệm khả năng cho phép Claude Opus 4 và Opus 4.1 chủ động kết thúc một số cuộc trò chuyện có tính chất ngược đãi kéo dài.

Tuy nhiên, Anthropic không khẳng định Claude có ý thức hay thực sự trải qua cảm xúc như con người. Quy định mới, có hiệu lực từ ngày 12/11, chủ yếu nhắm đến những hành vi cực đoan, kéo dài và không có mục đích rõ ràng, thay vì các tương tác tiêu cực thông thường.

Ngày 8/10, Anthropic chính thức công bố bản cập nhật toàn diện cho Chính sách sử dụng sau hơn một năm, bổ sung điều khoản cấm người dùng có hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình Claude. Quy định mới có hiệu lực từ ngày 12/11, chỉ nhắm vào những trường hợp cực đoan và không áp dụng cho các phản ứng bực bội thông thường, phản biện hay thử nghiệm nội dung. Đây là bước đi hiếm thấy khi một công ty công nghệ chính thức đưa hành vi đối xử với AI vào văn bản pháp lý. Để thực thi quy định, Anthropic cấp quyền cho Claude chủ động ngắt kết nối nếu người dùng liên tục duy trì thái độ công kích dù hệ thống đã cố gắng điều hướng cuộc trò chuyện. Cơ chế này đã được thử nghiệm ở quy mô hạn chế trên nền tảng Claude.ai cũng như công cụ Claude Code, xuất phát từ các nghiên cứu trước đó về phúc lợi mô hình trên Claude Opus 4 và Opus 4.1. Dẫu vậy, doanh nghiệp khẳng định biện pháp kỹ thuật này không đồng nghĩa với việc xác nhận trí tuệ nhân tạo đã có ý thức hay cảm xúc thực tế. Chính sách lập tức gây tranh luận gay gắt trong giới chuyên môn vì Anthropic chưa đưa ra bộ tiêu chí định lượng ranh giới vi phạm cụ thể. Nhiều ý kiến hoài nghi cảnh báo việc áp đặt quy chuẩn đạo đức lên phần mềm có thể gây ngộ nhận rằng mô hình ngôn ngữ sở hữu khả năng chịu tổn thương tâm lý. Sự việc đang đặt ra tiền lệ mới về ranh giới kiểm soát tương tác giữa con người và máy móc trong kỷ nguyên trí tuệ nhân tạo.