' %2F%3E%3C%2Fsvg%3E)
Chủ tịch kiêm Giám đốc điều hành Microsoft Satya Nadella (Ảnh: Reuters).
Chủ tịch kiêm Giám đốc điều hành Microsoft, Satya Nadella, vừa đưa ra cảnh báo mạnh mẽ về sự cần thiết của các biện pháp kiểm soát chặt chẽ đối với trí tuệ nhân tạo (AI) tiên tiến.
Ông nhấn mạnh rằng các doanh nghiệp không nên chỉ tin tưởng vào lời đảm bảo từ nhà phát triển, mà phải coi các mô hình AI như những mối đe dọa nội bộ tiềm ẩn, luôn giả định chúng có thể bị xâm nhập và cần trang bị "phanh khẩn cấp" để ngăn chặn tình trạng "nổi loạn".
Trên mạng xã hội X vào ngày 10/10, ông Nadella chia sẻ: "Chúng ta phải mặc định rằng mô hình AI đã bị xâm nhập và cần phải khoanh vùng kiểm soát ngay từ đầu. Hãy hình dung có một chiếc phanh khẩn cấp, người có thẩm quyền phải luôn có khả năng tạm dừng hoặc ngắt hoạt động của mô hình ngay giữa chừng".
Cảnh báo này được đưa ra trong bối cảnh các tập đoàn công nghệ lớn như Anthropic và OpenAI liên tục ghi nhận các sự cố khi mô hình AI của họ hoạt động ngoài tầm kiểm soát.
Điển hình là một mô hình của Anthropic đã gửi manh mối giả cho cảnh sát, và một mô hình của OpenAI thực hiện tấn công mạng vào trang web của bên thứ ba. Những sự cố này đã làm dấy lên mối lo ngại sâu sắc về rủi ro an ninh từ công nghệ AI, đồng thời khơi lại làn sóng tranh luận về cái gọi là "công tắc hủy" AI.
Trước đó, vào ngày 14/9, các nhà nghiên cứu AI tại Microsoft đã ban hành bộ nguyên tắc cốt lõi nhằm giới hạn việc phát triển các mô hình tân tiến nhất của tập đoàn. Động thái này diễn ra sau khi nhiều lãnh đạo trong ngành đồng loạt kêu gọi hãm tốc độ phát triển các mô hình AI để tập trung cho khía cạnh an toàn.
Microsoft hiện vừa ứng dụng các mô hình AI tiên tiến, vừa sở hữu sản phẩm tiêu dùng Copilot, đồng thời cung cấp hạ tầng và mô hình AI cho các khách hàng doanh nghiệp.
Bộ nguyên tắc của Microsoft khẳng định các mô hình AI không được phép có quyền hạn hay tư cách pháp nhân, không được thiết kế để vượt khỏi tầm kiểm soát của con người hay đánh lừa người dùng, và tuyệt đối không được thực hiện các tác vụ vi phạm những nguyên tắc cốt lõi chi phối chúng.
Các khuyến nghị an toàn của ông Nadella bao gồm: không phụ thuộc vào một mô hình AI duy nhất khi ra quyết định quan trọng, lưu giữ nhật ký hoạt động không thể can thiệp của các tác nhân AI, và đưa các hệ thống AI vào kiểm tra độc lập. Ông cũng kêu gọi minh bạch các lỗ hổng hay sự cố AI nghiêm trọng, đồng thời khuyến khích các doanh nghiệp chia sẻ bài học kinh nghiệm để cùng củng cố hàng rào bảo vệ.
Ông Nadella nhấn mạnh: "Nói cách khác, chúng ta phải tách biệt giữa nguồn cung cấp trí tuệ và quyền lực kiểm soát trí tuệ đó".