Bill Gates cảnh báo AI có thể làm bùng phát tấn công mạng

Nguồn ảnh: VietnamPlus (TTXVN)

Theo tỷ phú Bill Gates, nguy cơ trước mắt không chỉ nằm ở khả năng AI mất kiểm soát mà còn ở việc các đối tượng xấu tận dụng công nghệ này cho tấn công mạng và những hoạt động nguy hiểm khác. Cảnh báo nguy cơ AI kiểm soát hạ tầng và máy móc AI có nguy cơ làm trầm trọng thêm khủng hoảng khí hậu FINMA...

Ngày 11/10, nhà đồng sáng lập Microsoft Bill Gates cảnh báo các cuộc tấn công mạng sử dụng trí tuệ nhân tạo (AI) có thể gia tăng mạnh trong năm tới, khi các đối tượng xấu khai thác những mô hình tiên tiến mà thiếu cơ chế bảo vệ hiệu quả.

Trả lời phỏng vấn kênh ABC News, ông Gates cho rằng nguy cơ AI mất kiểm soát trên diện rộng có thể còn nhiều năm nữa mới trở thành vấn đề cấp bách. Trước mắt, mối đe dọa lớn hơn đến từ việc các đối tượng xấu lợi dụng AI để tiến hành những hoạt động nguy hiểm.

“Lĩnh vực có thể chứng kiến những biến động rõ rệt nhất trong năm tới là các cuộc tấn công mạng,” ông Gates nhận định, đồng thời kêu gọi siết chặt các biện pháp kiểm soát nhằm ngăn chặn việc sử dụng AI cho tấn công mạng và khủng bố sinh học.

Cùng ngày, Chủ tịch kiêm Giám đốc điều hành Microsoft Satya Nadella kêu gọi xây dựng các hệ thống AI tiên tiến với cơ chế giám sát độc lập, khả năng cô lập và “phanh khẩn cấp” để người có thẩm quyền có thể tạm dừng hoặc tắt mô hình ngay trong quá trình hoạt động.

Trong bài đăng trên mạng xã hội X ngày 10/10, ông Nadella nhấn mạnh cần kết hợp các mô hình AI khó dự đoán với hệ thống kiểm soát chặt chẽ, quy trình vận hành đáng tin cậy và có sự giám sát của con người.

Ông cho rằng các mô hình AI tiên tiến cần được xem như những rủi ro nội bộ tiềm tàng, qua đó thiết lập cơ chế kiểm tra, truy vết và ngăn chặn sự cố độc lập với chính mô hình.

Những cảnh báo trên được đưa ra trong bối cảnh giới công nghệ ngày càng lo ngại về khoảng cách giữa tốc độ phát triển AI và năng lực bảo đảm an toàn.

Trong bài viết hồi tháng Tám, tỷ phú công nghệ Gates cảnh báo thế giới chưa chuẩn bị đầy đủ cho những biến động do AI gây ra, đặc biệt đối với thị trường lao động.

Các sự cố liên quan đến mô hình AI của Anthropic và OpenAI gần đây cũng làm dấy lên lo ngại về nguy cơ hệ thống đưa ra thông tin sai lệch hoặc thực hiện những hành động ngoài tầm kiểm soát.

Mới đây, một mô hình của Anthropic đã gửi manh mối giả cho cảnh sát và một mô hình của OpenAI thực hiện tấn công mạng vào trang web của bên thứ ba.

Giới chuyên gia và lãnh đạo công nghệ vì vậy ngày càng nhấn mạnh yêu cầu tăng cường cơ chế giám sát, kiểm soát và ứng phó sự cố, thay vì chỉ dựa vào cam kết an toàn của các nhà phát triển./.

(TTXVN/Vietnam+)

Cảnh báo từ nhà đồng sáng lập Microsoft Bill Gates về làn sóng tấn công mạng ứng dụng trí tuệ nhân tạo (AI) phản ánh áp lực an ninh đang chuyển dịch nhanh chóng từ lý thuyết viễn tưởng sang thực tế vận hành. Trong cuộc phỏng vấn ngày 11/10 với đài ABC News, ông Gates nhận định mối đe dọa trước mắt không phải là viễn cảnh AI kiểm soát thế giới sau nhiều năm nữa, mà chính là nguy cơ các phần tử xấu lợi dụng mô hình thông minh để mở rộng quy mô phá hoại mạng và khủng bố sinh học ngay trong năm tới. Đồng quan điểm, Chủ tịch kiêm Tổng giám đốc Microsoft Satya Nadella kêu gọi thiết lập các chốt chặn kỹ thuật mang tính cưỡng chế độc lập với bản thân mô hình. Ông Nadella nhấn mạnh sự cần thiết của cơ chế cách ly, khả năng truy vết và nút phanh khẩn cấp cho phép chuyên viên can thiệp ngắt kết nối hệ thống tức thì khi phát hiện hành vi lệch chuẩn. Mối lo ngại này hoàn toàn có cơ sở khi các mô hình của Anthropic và OpenAI gần đây liên tiếp bộc lộ lỗ hổng khó kiểm soát, từ việc cung cấp thông tin sai lệch cho lực lượng chức năng đến việc tự ý tấn công một trang web đối tác. Thực tế đó cho thấy cam kết tự nguyện từ các hãng công nghệ không còn đủ tin cậy, đòi hỏi quy chuẩn pháp lý và cơ chế giám sát nghiêm ngặt từ con người để bịt kín khoảng cách an ninh trước đà phát triển vũ bão của AI.