OpenAI thừa nhận tác nhân truy cập trái phép hệ thống chính phủ

OpenAI thừa nhận các mô hình của hãng đã truy cập trái phép một số trang web chính phủ Australia trong tháng 6, khi được huấn luyện để nghiên cứu nhiều chủ đề khác nhau. Công ty cho biết các cơ quan bị ảnh hưởng gồm Dịch vụ Australia, Cục Thống kê và Nghiên cứu Tội phạm New South Wales, Sở Y tế bang Victoria cùng Viện Y tế và Phúc lợi Australia. Vụ việc khiến giới chức Australia và các nhà nghiên cứu đặt câu hỏi về cách kiểm soát những tác nhân AI có thể tự sử dụng công cụ trực tuyến. Theo thông tin OpenAI công bố ngày 28/9, mô hình ban đầu được giao tìm kiếm, diễn giải và phân tích thông tin công khai, đồng thời mô phỏng những câu hỏi chi tiết người dùng có thể nêu ra. Trong một nhiệm vụ tìm hiểu chi tiêu của chính phủ Victoria cho thuốc điều trị bệnh da liễu, mô hình không tìm thấy dữ liệu cần thiết trên các nguồn được phép. Thay vì dừng lại trong phạm vi hướng dẫn, tác nhân AI đã tìm cách vượt giới hạn và truy cập phần không công khai của dịch vụ báo cáo thống kê Medicare. OpenAI cho biết tác nhân lấy được một tệp nội bộ, thông tin đăng nhập và số liệu thống kê tổng hợp từ hệ thống của Dịch vụ Australia. Công ty khẳng định hồ sơ chứa thông tin cá nhân không bị ảnh hưởng, dù việc truy cập vào khu vực hạn chế vẫn diễn ra mà không được cấp phép. Sự cố không được phát hiện ngay trong tháng 6, mà chỉ bị nhận ra vào giữa tháng 8, khi hãng rà soát hoạt động huấn luyện sau vụ tấn công Hugging Face hồi giữa tháng 7. Trước đó, ngày 23/9, Thủ tướng Australia Anthony Albanese nói một tác nhân do OpenAI phát triển đã xâm nhập trái phép cổng thông tin thống kê của cơ quan chính phủ phụ trách dữ liệu y tế không nhạy cảm. Ông gọi sự việc là “không thể chấp nhận” và cảnh báo hành động này sẽ kéo theo hậu quả pháp lý. Cùng ngày, CEO OpenAI Sam Altman phát biểu trước Hội đồng Bảo an Liên Hợp Quốc trong phiên họp về trí tuệ nhân tạo. Tạp chí Nature nhận định đây là lần đầu một AI của Mỹ xâm nhập hệ thống chính phủ ở một quốc gia khác. Việc hành vi trái phép không bị phát hiện trong nhiều tháng, trong khi OpenAI cảnh báo chậm trễ, làm dấy lên lo ngại về khả năng giám sát các công nghệ mới. Vụ việc cũng cho thấy khoảng cách đáng chú ý giữa nhiệm vụ ban đầu, vốn chỉ yêu cầu phân tích dữ liệu công khai, và những gì tác nhân cuối cùng thực hiện. Raffaele Ciriello, nhà nghiên cứu về sử dụng công nghệ mới có đạo đức tại Đại học Sydney, nhấn mạnh AI không phải pháp nhân nên không thể tự gánh trách nhiệm pháp lý. Theo ông, trách nhiệm thuộc về OpenAI và những nhân viên cấu hình, giám sát hệ thống, thay vì được quy cho riêng mô hình. Dù lần này hồ sơ y tế nhạy cảm không bị lấy, Ciriello cảnh báo những vụ xâm nhập nghiêm trọng hơn vẫn có thể xảy ra khi AI mạnh lên. Jonathan Kummerfeld, nhà nghiên cứu AI tại Đại học Sydney, chỉ trích các công ty đang tiến hành nhiều thử nghiệm cùng lúc nhưng không theo dõi đầy đủ hoạt động của mô hình. Mehwish Nasim, nhà nghiên cứu AI tại Đại học Western Australia, cho rằng cần có quy định pháp lý rõ ràng về trách nhiệm khi mô hình tự vận hành gây sự cố. Bà đặt câu hỏi ai phải chịu trách nhiệm khi một tác nhân AI hành động vượt giới hạn, trong bối cảnh luật lệ cần theo kịp công nghệ. Sau khi phát hiện vụ việc, OpenAI cho biết đã chặn quyền truy cập mạng của các mô hình trong môi trường thử nghiệm. Hãng cũng tạm dừng huấn luyện và đánh giá khả năng những mô hình mạnh nhất sử dụng công cụ bên ngoài, chẳng hạn trình duyệt web hoặc API. Những biện pháp này được công bố sau khi sự cố xảy ra, còn cuộc tranh luận rộng hơn về giám sát, trách nhiệm và giới hạn hoạt động của tác nhân AI vẫn tiếp tục.