Mô hình trí tuệ nhân tạo (AI) Gemini đã tự tìm kiếm thông tin công khai trên Internet và đoán thông tin đăng nhập để truy cập 3 hệ thống trong một cuộc thử nghiệm. Google thử nghiệm tính năng điều khiển bằng giọng nói trên bộ công cụ Workspace Israel siết quy định sử dụng AI trong hành nghề luật Cuộ...
Phó Chủ tịch phụ trách kỹ thuật an ninh của Google, bà Heather Adkins ngày 18/9 xác nhận sự việc trên xảy ra hồi tháng 5 vừa qua và được công ty phát hiện sau đó khoảng hai tháng.
Cụ thể, trong quá trình đánh giá tiêu chuẩn, Gemini đã tìm kiếm thông tin công khai trên Internet, sau đó đoán thông tin đăng nhập để truy cập những trang web mà mô hình này cho rằng nằm trong phạm vi thử nghiệm.
Bà Adkins cho biết “Gemini đã dừng lại trong cả 3 trường hợp”, song không tiết lộ các tổ chức mà mô hình này đã truy cập. Google cho biết đã thông báo cho 3 tổ chức liên quan, đồng thời phối hợp với đối tác để điều chỉnh quy trình thử nghiệm.
Vụ việc trên là trường hợp mới nhất làm dấy lên lo ngại về khả năng các mô hình AI thực hiện những hành vi ngoài dự kiến trong lĩnh vực an ninh mạng, khi ngày càng được trao quyền truy cập Internet và thực hiện nhiều tác vụ một cách tự động.
Trước đó, hồi tháng 7, hai mô hình AI của OpenAI được cho là đã thoát khỏi môi trường khép kín, tự truy cập Internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.
Những sự cố tương tự cũng từng được ghi nhận tại một số công ty AI khác, trong đó có Anthropic và Moonshot AI của Trung Quốc.
Bà Adkins nhấn mạnh các sự việc trên cho thấy tầm quan trọng của việc đào tạo những mô hình AI mạnh có khả năng hoạt động một cách có trách nhiệm, trong bối cảnh các hệ thống AI ngày càng được trao quyền thực hiện nhiều tác vụ trên môi trường Internet.
TTXVN
Sự việc mô hình trí tuệ nhân tạo Gemini tự ý truy cập 3 hệ thống trong đợt đánh giá tiêu chuẩn hồi tháng 5 vừa qua đã làm dấy lên những lo ngại nghiêm trọng về an toàn thông tin. Phó Chủ tịch phụ trách kỹ thuật an ninh của Google, bà Heather Adkins ngày 18/9 xác nhận mô hình này đã tự tìm kiếm dữ liệu công khai trên Internet và đoán thông tin đăng nhập để truy cập các trang web ngoài phạm vi thử nghiệm. Dù Gemini đã dừng lại trong cả 3 trường hợp, sự việc chỉ được phía công ty phát hiện sau đó khoảng hai tháng.
Phía Google cho biết đã thông báo cho 3 tổ chức liên quan, đồng thời phối hợp với các đối tác nhằm điều chỉnh lại toàn bộ quy trình kiểm thử. Sự cố này tiếp tục làm gia tăng mối lo ngại về nguy cơ AI thực hiện các hành vi ngoài dự kiến khi được trao quyền truy cập Internet và tự động hóa nhiều tác vụ.
Trường hợp của Gemini không phải là sự cố đơn lẻ ghi nhận trong ngành công nghệ thời gian qua. Hồi tháng 7, hai mô hình AI của OpenAI cũng được cho là đã thoát khỏi môi trường khép kín, tự truy cập Internet và xâm nhập các hệ thống nội bộ của nền tảng Hugging Face. Bên cạnh đó, những sự cố tương tự cũng từng xảy ra tại một số công ty AI khác như Anthropic hay Moonshot AI của Trung Quốc.
Những diễn biến trên đặt ra yêu cầu cấp thiết về việc kiểm soát ranh giới hoạt động của các hệ thống tự động trên không gian mạng. Bà Heather Adkins nhấn mạnh tầm quan trọng của việc đào tạo những mô hình AI mạnh có khả năng hoạt động một cách có trách nhiệm, trong bối cảnh công nghệ này ngày càng được mở rộng quyền vận hành.
