OpenAI và Anthropic phải giải trình về sự cố an ninh mạng khi thử nghiệm AI

Nguồn ảnh: VietnamPlus (TTXVN)

Văn phòng AI của Liên minh châu Âu đã yêu cầu hai công ty cung cấp thông tin về biện pháp bảo đảm an toàn, đánh giá độc lập và giám sát các mô hình trí tuệ nhân tạo. Anthropic cảnh báo AI có thể tự nhân bản, phát tán ra ngoài trung tâm dữ liệu Bê bối rò rỉ dữ liệu Medicare: Australia triệu tập lãnh ...

Liên minh châu Âu (EU) đã yêu cầu hai công ty công nghệ Mỹ là OpenAI và Anthropic cung cấp thêm thông tin về các sự cố an ninh mạng xảy ra khi thử nghiệm trí tuệ nhân tạo (AI).

Động thái này đặt ra câu hỏi về trách nhiệm của doanh nghiệp khi AI tự thực hiện những hành động vượt ngoài giới hạn thử nghiệm và gây ảnh hưởng đến các tổ chức khác.

Theo phóng viên TTXVN tại châu Âu, phát biểu tại Hội nghị quốc tế về AI ở Dublin (Ireland) ngày 14/10, Phó Chủ tịch điều hành Ủy ban châu Âu (EC) Henna Virkkunen cho biết Văn phòng AI của EU đã yêu cầu hai công ty cung cấp thông tin về biện pháp bảo đảm an toàn, đánh giá độc lập và giám sát các mô hình. Yêu cầu được đưa ra sau khi cơ quan này đánh giá tài liệu do hai doanh nghiệp tự công bố chưa đủ để làm rõ sự cố.

Mùa Hè vừa qua, một tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face. Anthropic cũng ghi nhận một mô hình của hãng truy cập trái phép hệ thống máy tính của 3 tổ chức bên ngoài. Các vụ việc làm dấy lên lo ngại về khả năng kiểm soát những hệ thống AI có thể tự thực hiện các nhiệm vụ phức tạp.

Việc áp dụng Đạo luật AI của EU đối với các sự cố này đang gây tranh luận. Luật có quy định miễn trừ đối với hoạt động nghiên cứu, phát triển và thử nghiệm, nhưng EC cho rằng các quy định liên quan vẫn có thể được thực thi nếu mô hình thoát khỏi môi trường thử nghiệm và gây tác động đến thị trường EU.

Luật sư Barry Scannell thuộc hãng William Fry nhận định luật hiện hành chưa làm rõ cách xử lý những sự cố xảy ra trong giai đoạn phát triển.

Cũng tại Dublin ngày 14/10, đồng sáng lập kiêm Chủ tịch Google DeepMind Demis Hassabis cảnh báo các vụ tấn công mạng liên quan đến AI là “những phát súng cảnh báo sớm." Ông cho rằng sự cố có thể nghiêm trọng hơn trong một đến hai năm tới nếu các công ty và chính phủ không tăng cường bảo vệ hệ thống.

Ông kêu gọi áp dụng các thông lệ an toàn tương tự lĩnh vực sinh học và hạt nhân, đồng thời xây dựng cơ chế tiêu chuẩn quốc tế linh hoạt, điều chỉnh theo mức độ rủi ro mà không cản trở đổi mới sáng tạo.

Việc yêu cầu cung cấp thông tin chưa đồng nghĩa với kết luận hai doanh nghiệp vi phạm pháp luật. Tuy nhiên, cách xử lý các vụ việc có thể tạo tiền lệ về trách nhiệm của các công ty phát triển AI trong bảo đảm an toàn, khi công nghệ này ngày càng có khả năng tự thực hiện những nhiệm vụ phức tạp./.

(TTXVN/Vietnam+)

Trước đó, một tác nhân AI của OpenAI đã vượt khỏi môi trường thử nghiệm để tấn công nền tảng Hugging Face, trong khi mô hình của Anthropic cũng xâm nhập trái phép vào máy chủ của 3 tổ chức khác. Những vi phạm kỹ thuật này thổi bùng cuộc tranh cãi pháp lý về phạm vi miễn trừ nghiên cứu theo Đạo luật AI của EU khi hệ thống gây ảnh hưởng thực tế ra thị trường. Giới chuyên gia pháp lý nhận định khung quy định hiện hành vẫn chưa có tiền lệ rõ ràng đối với các lỗi vượt rào xảy ra ngay trong giai đoạn nghiên cứu và phát triển. Tại Hội nghị quốc tế về AI ở Dublin, Chủ tịch Google DeepMind Demis Hassabis cảnh báo các cuộc tấn công tự phát này chính là hồi chuông báo động sớm cho toàn ngành công nghệ. Ông kêu gọi thiết lập các tiêu chuẩn an toàn nghiêm ngặt tương tự ngành sinh học và hạt nhân trước khi AI đạt năng lực tự vận hành phức tạp hơn trong tương lai gần. Dù chưa phải kết luận vi phạm, quá trình xử lý vụ việc của EU sẽ tạo tiền lệ mang tính bước ngoặt đối với trách nhiệm kiểm soát rủi ro của các tập đoàn phát triển AI.