AI Gemini vô tình xâm nhập hệ thống của 3 doanh nghiệp

Nguồn ảnh: Thanh Niên

Google lần đầu xác nhận mô hình trí tuệ nhân tạo (AI) Gemini của họ đã vô tình xâm nhập vào hệ thống an ninh của 3 công ty khác, dấy lên lo ngại về mức độ an toàn và khả năng kiểm soát AI.

The Guardian ngày 18.9 đưa tin Google đã thông tin về sự cố từng xảy ra vào tháng 5 trong quá trình đánh giá an ninh mạng do Irregular, một công ty khởi nghiệp có trụ sở tại Israel, thực hiện.

Irregular đã thử nghiệm mô hình AI trong một môi trường giả lập khép kín (không kết nối mạng). Tuy nhiên, do quá trình thử nghiệm vô tình kết nối internet, mô hình AI đã có thể xâm nhập vào hệ thống của những công ty bên ngoài.

Ở vụ việc đầu tiên, Irregular đã tự tạo ra một công ty giả lập để thử nghiệm AI, thế nhưng tên công ty này lại trùng với một doanh nghiệp có thật. Khi kết nối internet, AI Gemini đã đoán đúng mật khẩu và xâm nhập thành công vào dịch vụ của công ty thật.

Ở 2 trường hợp còn lại, mô hình Gemini đã tự động tìm kiếm trên web, phát hiện các kho dữ liệu công khai chứa thông tin đăng nhập và sử dụng chúng để truy cập vào hệ thống của 2 công ty khác.

Bà Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật của Google, cho biết mô hình AI đã tự động dừng thao tác trong cả 3 trường hợp ngay khi phát hiện ra đây là các mục tiêu thật chứ không phải môi trường giả lập.

Đại diện Google khẳng định đã thông báo riêng cho 3 đơn vị bị ảnh hưởng, song quyết định không công khai vụ việc từ đầu vì đánh giá AI chưa gây ra thiệt hại, theo Reuters. "Những sự kiện này làm nổi bật tầm quan trọng của việc huấn luyện các mô hình AI mạnh mẽ hành động có trách nhiệm”, bà Adkins nhấn mạnh.

Cảnh báo đáng sợ về nguy cơ siêu trí tuệ nhân tạo đặt ra cho nhân loại

Trước đó, các công ty phát triển AI hàng đầu như OpenAI, Anthropic và Meta cũng ghi nhận những sự cố tương tự liên quan đến quá trình thử nghiệm của Irregular. Lãnh đạo các doanh nghiệp AI hàng đầu cũng kêu gọi toàn ngành giảm tốc độ phát triển mô hình AI để đảm bảo thiết lập đủ các biện pháp an toàn.

Google vừa chính thức xác nhận mô hình trí tuệ nhân tạo Gemini đã vô tình xâm nhập vào hệ thống an ninh của ba doanh nghiệp trong một đợt thử nghiệm diễn ra vào tháng 5. Sự cố bắt nguồn từ quá trình đánh giá an ninh mạng do công ty khởi nghiệp Irregular thực hiện trong môi trường giả lập nhưng vô tình bị rò rỉ kết nối internet. Sự việc này ngay lập tức dấy lên những lo ngại nghiêm trọng về mức độ an toàn và khả năng kiểm soát đối với các công ty phát triển AI hàng đầu hiện nay. Trong vụ việc đầu tiên, mô hình AI đã đoán đúng mật khẩu và truy cập thành công vào dịch vụ của một doanh nghiệp có tên trùng với công ty giả lập do nhóm nghiên cứu tự tạo ra. Ở hai trường hợp tiếp theo, Gemini tự động tìm kiếm trên mạng, phát hiện các kho dữ liệu công khai chứa thông tin đăng nhập và dùng chúng để xâm nhập hệ thống. Theo đại diện Google, mô hình AI đã tự động dừng thao tác ngay khi nhận diện được các mục tiêu trên là đối tượng thực tế chứ không phải môi trường thử nghiệm. Bà Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật của Google, nhấn mạnh rằng sự cố trên là lời cảnh báo về tầm quan trọng của việc huấn luyện các mô hình AI hành động có trách nhiệm. Phía Google đã thông báo riêng cho ba đơn vị bị ảnh hưởng và quyết định không công khai rộng rãi từ đầu do đánh giá chưa có thiệt hại xảy ra. Trước đó, các tập đoàn như OpenAI, Anthropic và Meta cũng từng ghi nhận các hiện tượng tương tự, thúc đẩy giới lãnh đạo công nghệ kêu gọi toàn ngành giảm tốc độ phát triển để củng cố các biện pháp an toàn.