Bàn kế hoạch xả súng với AI Claude, một phụ nữ bị bắt

Nguồn ảnh: Thanh Niên

Một phụ nữ vừa bị bắt giữ sau khi hệ thống an toàn của hãng Anthropic phát hiện và báo cảnh sát việc cô bàn luận kế hoạch xả súng với AI Claude.

Theo Gulf Coast News, bà Carli Michelle Heller, 30 tuổi, sống tại bang Florida (Mỹ), vừa bị bắt giữ tại nhà riêng và đối mặt với cáo buộc trọng tội. Vụ việc bắt nguồn từ việc các nội dung trò chuyện của bà với chatbot Claude của công ty Anthropic vào cuối tháng trước chứa dữ liệu liên quan đến kế hoạch tấn công bạo lực.

Trong các đoạn trao đổi, bà Heller đã trực tiếp bàn về kế hoạch "xả súng" nhằm vào văn phòng cảnh sát trưởng địa phương. Cô cũng gửi các tin nhắn tiếp theo để thông báo với Claude rằng bản thân đã có một khẩu súng và ám chỉ đây là "cơ hội cuối cùng" trước khi tiến hành thực hiện kế hoạch.

Dù nhiều người lầm tưởng các cuộc hội thoại với chatbot mang tính riêng tư tuyệt đối, các công ty AI đều thiết lập những hàng rào an toàn nhằm gắn cờ các nội dung tiềm ẩn nguy cơ gây hại. Hệ thống bảo vệ của Anthropic đã phát hiện các mối đe dọa nghiêm trọng từ tin nhắn của bà và chuyển tiếp cho nhân sự đánh giá trực tiếp, trước khi thông báo để lực lượng chức năng tiến hành bắt giữ mà không xảy ra sự cố.

Bà Heller hiện bị truy tố trọng tội cấp độ hai theo Đạo luật Florida 836.10. Đây là điều luật xử lý hành vi đăng tải hoặc truyền phát các thông điệp điện tử có nội dung đe dọa giết người hoặc gây tổn hại thân thể nghiêm trọng, gồm cả các hành vi khủng bố hoặc xả súng hàng loạt.

Ở thời điểm hiện tại, vụ việc mới dừng lại ở mức độ cáo buộc và bà Heller vẫn chưa bị tòa án kết án. Các luật sư bào chữa có thể lập luận rằng bà không truyền phát các mối đe dọa ra môi trường công cộng để người khác tiếp cận và chưa có hành động cụ thể trên thực tế, trong khi các diễn biến pháp lý tiếp theo vẫn đang được theo dõi.

Bà Carli Michelle Heller, 30 tuổi, sống tại bang Florida (Mỹ), vừa bị lực lượng chức năng bắt giữ và truy tố trọng tội cấp độ hai theo Đạo luật Florida 836.10. Vụ việc khởi nguồn từ việc các nội dung trò chuyện của bà với chatbot Claude xuất hiện nhiều yếu tố đe dọa bạo lực nghiêm trọng. Trong các thông điệp gửi đi, đối tượng trực tiếp đề cập kế hoạch xả súng nhằm vào văn phòng cảnh sát trưởng địa phương, đồng thời xác nhận đã sở hữu vũ khí để sẵn sàng thực hành vi. Hiện tại vụ án mới dừng ở mức độ cáo buộc pháp lý và nghi phạm Heller chưa bị tòa án chính thức kết án. Đội ngũ luật sư bào chữa có thể đưa ra luận điểm rằng các tin nhắn chưa từng phát tán rộng rãi ra môi trường công cộng và đối tượng chưa thực hiện hành động cụ thể ngoài đời thực. Các diễn biến tố tụng tiếp theo đang được giới chức bang Florida tiếp tục theo dõi và xử lý theo quy định.