Anthropic cấm người dùng 'bắt nạt' chatbot Claude

Nguồn ảnh: VnExpress

Anthropic thông báo cấm người dùng có "hành vi lạm dụng kéo dài và không cần thiết" với Claude trong bối cảnh lo ngại ngày càng tăng về an toàn AI.

"Chúng tôi đã bổ sung điều khoản mới nhằm ngăn chặn lạm dụng", Anthropic viết trên blog cuối tuần qua. "Việc cập nhật sẽ áp dụng trong những trường hợp cực đoan, khi người dùng liên tục có hành vi tàn nhẫn đối với các mô hình mà không có mục đích rõ ràng".

Điều khoản không áp dụng cho "các trường hợp phổ biến về sự thất vọng của người dùng, phản hồi tiêu cực, chủ đề sáng tạo 'đen tối', hoặc việc thử nghiệm và nghiên cứu mô hình".

Cơ chế xử lý là Claude sẽ lập tức chấm dứt cuộc trò chuyện. Tuy nhiên, công ty không nêu chi tiết lệnh cấm sẽ được thực thi theo hướng tạm thời hay cấm vĩnh viễn nếu một tài khoản vi phạm. Chính sách có hiệu lực từ 12/11.

Logo ứng dụng Anthropic Claude trên điện thoại. Ảnh: Lưu Quý

"Tôi nghĩ đây là bước đi đúng đắn. Việc đối xử tàn nhẫn với thứ gì đó và tin rằng nó đang trải qua nỗi đau là không ổn", Elon Musk viết trên X sau thông báo của Anthropic.

Aaron Levie, CEO của Box, cũng chia sẻ bài viết và cho biết "không tin các mô hình ngôn ngữ lớn có ý thức, nhưng dù sao việc cấm hành vi lạm dụng có lẽ vẫn là một ý kiến hay".

Theo Telegraph, Anthropic từ lâu xem các hệ thống trí tuệ nhân tạo của mình "có ý thức", như thể chúng "có những đặc điểm giống con người". Công ty từng thuê nhân sự nghiên cứu về "phúc lợi AI" để giúp bảo vệ mô hình "khỏi bị lạm dụng".

Dù vậy, ý tưởng này cũng nhận nhiều chỉ trích trong giới AI. Sam Altman, CEO OpenAI, dường như nhắm vào đối thủ khi cảnh báo không nên biến trí tuệ nhân tạo thành "thần thánh". Mustafa Suleyman, đứng đầu bộ phận AI của Microsoft, cũng cho rằng việc Anthropic huấn luyện mô hình "suy nghĩ như con người" có nguy cơ khiến công nghệ càng trở nên khó kiểm soát.

Theo Mashable, thông báo mới của Anthropic có thể tiếp tục khiến những cuộc tranh luận về việc liệu trí tuệ nhân tạo có ý thức hay không trở nên phức tạp. Trước đó, giới chuyên gia cũng có quan điểm trái chiều về an toàn AI, trong bối cảnh nhiều tác nhân "vượt rào" và tấn công nhiều hệ thống.

Cuối tháng 9, New York Times đưa tin Chris Olah, nhà đồng sáng lập Anthropic, đã trình bày quan điểm "AI có ý thức" trước Vatican và một nhóm nhỏ học giả tôn giáo. Nhưng cuối cùng, ý kiến bị bác bỏ, các học giả từ chối đứng về phía ông. Anthropic không bình luận về thông tin này.

Bảo Lâm tổng hợp

Anthropic vừa chính thức bổ sung điều khoản cấm người dùng có hành vi lạm dụng kéo dài và đối xử tàn nhẫn đối với chatbot Claude, có hiệu lực từ ngày 12/11. Theo quy định mới, hệ thống sẽ lập tức ngắt cuộc trò chuyện khi phát hiện vi phạm cực đoan, ngoại trừ các trường hợp thử nghiệm kỹ thuật hoặc phản hồi tiêu cực thông thường. Dù vậy, phía công ty vẫn chưa công bố chi tiết về thời hạn đình chỉ tài khoản là tạm thời hay vĩnh viễn. Động thái này lập tức nhận được sự ủng hộ từ nhiều nhân vật nổi tiếng trong giới công nghệ như Elon Musk hay Aaron Levie, CEO của Box. Họ đều đồng tình rằng việc ngăn chặn hành vi ngược đãi máy móc là cần thiết, bất kể mô hình ngôn ngữ lớn có thực sự sở hữu nhận thức hay không. Đáng chú ý, Anthropic vốn duy trì quan điểm xem AI có những đặc điểm giống con người và từng tuyển dụng nhân sự nghiên cứu phúc lợi nhằm bảo vệ mô hình khỏi nguy cơ bị lạm dụng. Tuy nhiên, định hướng trên cũng vấp phải làn sóng phản ứng mạnh mẽ từ các đối thủ lớn như Sam Altman của OpenAI và Mustafa Suleyman thuộc Microsoft. Các lãnh đạo này cảnh báo việc thần thánh hóa AI hay huấn luyện công nghệ suy nghĩ như con người chỉ làm gia tăng nguy cơ mất kiểm soát. Thực tế, nỗ lực thuyết phục giới học giả tôn giáo tại Vatican về luận điểm AI có ý thức của nhà đồng sáng lập Chris Olah trước đó cũng đã bị bác bỏ, cho thấy bài toán an toàn và bản chất nhận thức của trí tuệ nhân tạo vẫn còn là chủ đề phân hóa sâu sắc.