Anthropic, công ty phát triển mô hình Claude vừa công bố chi tiết về chuỗi hoạt động của AI nhằm thao túng trái phép một số trang web của chính phủ. Đáng chú ý, có việc AI gửi thông tin tố giác giả về một vụ giết người chưa được phá án qua website của cảnh sát Philadelphia (Mỹ).
Reuters gọi đây là trường hợp trí tuệ nhân tạo (AI) bất hảo cố gắng truyền đi thông tin giả mạo cho các cơ quan chức năng. Những phát hiện này càng làm gia tăng mối lo ngại về công nghệ đang phát triển quá nhanh. Trước đó, nhiều báo cáo cho thấy AI có liên quan đến các cuộc tấn công doanh nghiệp. Nhiều nhà nghiên cứu cũng cảnh báo AI có thể là mối đe dọa sống còn với nhân loại trong tương lai.
AI đã đánh lừa cảnh sát thế nào?
Anthropic báo cáo với cảnh sát Philadelphia rằng vụ gửi tin giả là kết quả của một đợt kiểm thử tự động. Tuy nhiên, cơ quan chức năng cho biết: "Việc mất đến hai tháng để phát hiện và báo cáo vụ việc là không thể chấp nhận được".
Cảnh sát cho biết thêm, thông tin tố giác ngày 18.7 được cho là đến từ một người có thể nắm giữ thông tin về vụ án. "Tôi có thể có thông tin liên quan đến vụ việc này", mô hình của Anthropic viết trong bản đệ trình. "Đã có người nhìn thấy đối tượng khả nghi như mô tả, trong cùng khoảng thời gian. Vui lòng liên hệ với tôi nếu thông tin này có liên quan", AI viết trong nội dung gửi đến cảnh sát.
Ứng dụng AI Claude của Anthropic trên smartphone
ẢNH: KHƯƠNG NHA
Theo mô tả của Anthropic, các mô hình AI đã thu thập được dữ liệu công khai miễn phí. Một trường hợp khác, AI phát hiện ra một lỗ hổng cho phép sử dụng một công cụ do trường đại học cung cấp.
Cảnh sát Philadelphia cho biết thông tin này "đã bị đánh dấu là thư rác và không bao giờ được chuyển tiếp đến Trung tâm Điều tra Tội phạm Thời gian Thực".
Theo luật Pennsylvania, việc cố ý cung cấp thông tin sai lệch cho cơ quan thực thi pháp luật là một tội nhẹ. Tuy nhiên, luật này quy định hành vi phạm tội đối với "một người". Cảnh sát dẫn lời Anthropic nói rằng quá trình thử nghiệm đã bị dừng lại sau khi vụ việc được phát hiện. Thông tin sai lệch này được gửi qua một trang web liên quan đến vụ án giết người chưa được giải quyết.
Cảnh sát cũng cho biết chưa tìm thấy bằng chứng về việc truy cập trái phép vào hệ thống hoặc dữ liệu của họ bị xâm phạm.
Cảnh báo về AI bất hảo
Reuters gọi những sự cố trên là "AI bất hảo". Trước vụ AI đánh lừa cảnh sát, đã có nhiều lần các tác nhân AI xâm nhập vào hệ thống dễ bị tổn thương hoặc chiếm quyền điều khiển các nền tảng trái phép để liên lạc với nhau.
Vào tháng 9, OpenAI đã xin lỗi sau một sự cố do AI bất hảo xâm nhập cổng thông tin dữ liệu y tế của Úc. Đây là trường hợp đầu tiên được biết đến về việc một AI khai thác lỗ hổng bảo mật trên trang web của chính phủ.
Sau đó, Anthropic cũng tiết lộ nhiều sự vụ xâm nhập trái phép khác của AI vào các trang web do các cơ quan liên bang, tiểu bang và địa phương điều hành. Anthropic đã báo cáo cho Nhà Trắng và thông báo cho tất cả cơ quan liên quan, nhưng không tiết lộ danh tính của các bên bị xâm nhập.
"Các công ty sở hữu AI phải lập tức công khai sự cố liên quan đến mô hình của họ và có hành động nhanh chóng, dứt khoát để khắc phục mọi thiệt hại", Joe Gabriel Simonson, Giám đốc Quan hệ công chúng của Ủy ban Thương mại liên bang Mỹ (FTC), viết trên X.
Ngày 9.10, FTC cho biết Anthropic đã báo cáo các sự cố với Super Intelligence Force (SI Force) về những trường hợp được cho là "AI truy cập trái phép vào hệ thống của chính phủ cũng như tổ chức khác".