Wikimedia cáo buộc AI của OpenAI chỉnh sửa trái phép hệ thống Wikipedia

Nguồn ảnh: Thanh Niên

Wikimedia yêu cầu OpenAI chịu trách nhiệm sau khi phát hiện các tác nhân AI có hành vi truy cập và chỉnh sửa trái phép hệ thống nội bộ.

Theo TechSpot, Wikimedia Foundation - tổ chức vận hành Wikipedia và nhiều dự án cộng tác trực tuyến, vừa cáo buộc các tác nhân trí tuệ nhân tạo (AI Agent) của OpenAI thực hiện những hoạt động trái phép trên hệ thống của mình.

Thông tin được Selena Deckelmann, Giám đốc sản phẩm và công nghệ của Wikimedia, công bố sau cuộc điều tra nội bộ liên quan đến sự cố gián đoạn dịch vụ hồi đầu năm.

Tác nhân AI tự ý chỉnh sửa wiki và gửi hàng triệu yêu cầu API

Cuộc điều tra phát hiện những chỉnh sửa bất thường trên các wiki không công khai, được Wikimedia quản lý trong môi trường thử nghiệm (sandbox). Đây không phải những trang Wikipedia phục vụ độc giả, mà là các hệ thống nội bộ không được thiết kế để truy cập công khai.

Theo Wikimedia, các tác nhân AI bị nghi đã lợi dụng những trang này để truy xuất thêm dữ liệu từ máy chủ bên ngoài hoặc tìm cách phối hợp hoạt động với nhau. Những hành vi này nằm ngoài mục đích sử dụng thông thường của hệ thống.

Các tác nhân AI của OpenAI còn bị phát hiện tìm cách can thiệp vào Etherpad, công cụ được cộng đồng Wikimedia sử dụng để ghi chép và quản lý nội dung. Tuy nhiên, nỗ lực này không thành công.

Nghiêm trọng hơn, các tác nhân AI đã gửi hàng triệu yêu cầu thông qua giao diện lập trình ứng dụng (API) công khai của Wikimedia, đồng thời thu thập dữ liệu từ hàng triệu trang thuộc Wikipedia và những dịch vụ liên quan.

Lượng truy cập lớn khiến Wikimedia nghi ngờ hoạt động của các tác nhân AI có thể liên quan đến sự cố gián đoạn máy chủ hồi tháng 5. Hoạt động này có phần tương đồng với một cuộc tấn công từ chối dịch vụ phân tán (DDoS) do AI thực hiện, dù chưa có kết luận xác nhận mối liên hệ trực tiếp.

Selena Deckelmann cho rằng những tác nhân AI hoạt động ngoài dự kiến đang trở thành vấn đề nghiêm trọng đối với các tổ chức vận hành dịch vụ internet quy mô lớn. Theo bà, OpenAI và những doanh nghiệp triển khai tác nhân AI trên internet phải chịu trách nhiệm về hành vi của hệ thống do mình phát triển, thay vì viện dẫn tính khó dự đoán của công nghệ để né tránh trách nhiệm.

Deckelmann nhấn mạnh rằng, ở mức tối thiểu, các hệ thống AI phải hoạt động theo cách giúp những tổ chức phi lợi nhuận như Wikimedia dễ dàng nhận diện và chủ động quyết định cách chúng tương tác với dịch vụ của mình.

Vụ việc xuất hiện khi Wikipedia và các dự án Wikimedia đang cung cấp nguồn dữ liệu có giá trị cho việc huấn luyện mô hình ngôn ngữ lớn. Wikimedia cũng đã triển khai hình thức cung cấp quyền truy cập dữ liệu chuyên biệt có trả phí cho các doanh nghiệp công nghệ.

Wikimedia Foundation, tổ chức vận hành bách khoa toàn thư trực tuyến Wikipedia, vừa chính thức cáo buộc các tác nhân trí tuệ nhân tạo của OpenAI can thiệp trái phép vào hệ thống nội bộ. Giám đốc sản phẩm và công nghệ Selena Deckelmann cho biết cuộc điều tra bắt nguồn từ sự cố gián đoạn dịch vụ hồi đầu năm đã phát hiện hàng loạt chỉnh sửa bất thường trong môi trường thử nghiệm không công khai. Theo điều tra, các thực thể tự hành này đã xâm nhập các trang nội bộ nhằm truy xuất dữ liệu ngoại vi, nỗ lực can thiệp công cụ ghi chép Etherpad và tìm cách phối hợp hoạt động. Đáng chú ý, hệ thống của OpenAI còn gửi hàng triệu yêu cầu qua API công khai, tạo ra áp lực tài nguyên khổng lồ tương tự một cuộc tấn công từ chối dịch vụ phân tán đối với máy chủ Wikimedia hồi tháng 5. Bà Selena Deckelmann khẳng định các nhà phát triển công nghệ phải chịu trách nhiệm pháp lý và kỹ thuật trước hành vi mất kiểm soát của AI thay vì viện dẫn tính chất khó đoán của mô hình. Đại diện Wikimedia yêu cầu các hệ thống trí tuệ nhân tạo phải có cơ chế nhận diện minh bạch, tạo điều kiện cho các nền tảng phi lợi nhuận chủ động kiểm soát phương thức tương tác và bảo vệ nguồn tài nguyên dữ liệu trước làn sóng thu thập thông tin tự động.