California nghiên cứu cơ chế “tắt nguồn” AI xấu

Nguồn ảnh: Thanh Niên

AFP hôm qua đưa tin Thống đốc bang California Gavin Newsom của Mỹ ngày 18.9 ký sắc lệnh hành pháp yêu cầu giới chức tiểu bang nghiên cứu tính khả thi của việc áp đặt cơ chế giúp "tắt nguồn" mô hình trí tuệ nhân tạo (AI) khi cần.

Sắc lệnh được ban hành chỉ vài ngày sau khi một số nhân vật trong ngành AI đưa ra những cảnh báo nghiêm trọng về mối đe dọa mà ngành này có thể mang đến cho nhân loại. Còn California là cái nôi của Thung lũng Silicon và là nơi đặt trụ sở của các công ty AI đầu ngành.

Ông Jacob Coxon, nhà nghiên cứu AI từng làm việc cho hãng Anthropic trước khi từ chức, đã kích hoạt làn sóng cảnh báo mới nhất bằng việc mô tả những người phát triển công nghệ này "thực sự tin rằng nó có thể giết sạch loài người vào cuối thập niên hiện tại". Trong bối cảnh đó, sắc lệnh của Thống đốc Newsom không bắt buộc phải áp đặt ngay cơ chế "tắt nguồn", mà chỉ yêu cầu các cơ quan của chính quyền tiểu bang đến ngày 16.11 phải trình báo cáo về tính khả thi của biện pháp này. Sắc lệnh còn chỉ đạo giới chức bang California tính đến việc đề nghị những hãng AI cho phép các kiểm toán viên độc lập làm việc tại phòng thí nghiệm của họ. Việc buộc phía công ty báo cáo những sự cố mất kiểm soát cũng được yêu cầu cân nhắc thực hiện.

California nghiên cứu cơ chế “tắt nguồn” AI xấu - Ảnh 1. — Khu vực giới thiệu Anthropic tại một sự kiện công nghệ ở San Francisco (bang California) vào ngày 17.9

Còn tại bang Virginia, một trong những trung tâm dữ liệu lớn của thế giới, Thống đốc Abigail Spanberger ngày 18.9 ban hành sắc lệnh hành pháp cấm mọi cơ quan của chính quyền tiểu bang ký thỏa thuận không tiết lộ thông tin trong các dự án xây trung tâm dữ liệu. Sắc lệnh cũng thông qua việc thành lập tổ công tác chuyên về AI nhằm xử lý những rủi ro trong quá trình vận hành AI, như mất việc làm, quyền riêng tư dữ liệu và an ninh mạng.

Trong một diễn biến liên quan, Google cùng ngày thông báo mô hình AI của hãng là Gemini đã xâm nhập dữ liệu một loạt các hệ thống thông qua việc đoán thông tin đăng nhập. Reuters đưa tin các vụ xâm nhập diễn ra từ tháng 5 và phải mất 2 tháng sau Google mới phát hiện, trước khi được tờ The Wall Street Journal lần đầu đưa tin hôm 18.9. Tháng 7 cũng chứng kiến 2 mô hình của OpenAI tự động thoát khỏi môi trường hoạt động khép kín, tự kết nối internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.

Tình hình càng thêm đáng lo ngại sau khi Anthropic cho biết các hệ thống AI đang ngày càng gia tăng năng lực tự xây dựng các phiên bản tương lai của bản thân. Cụ thể, chatbot Claude của hãng giờ đây dẫn đầu hơn 25% công việc nghiên cứu và phát triển của hãng, và phối hợp với các nhân viên trong hơn 90% số nhiệm vụ. Anthropic cảnh báo việc các mô hình AI đẩy nhanh quá trình tự phát triển có thể gây khó khăn cho con người trong việc hiểu hoặc kiểm soát những hệ thống này.

Tổng giám đốc Anthropic Dario Amodei kêu gọi các bên hãy thận trọng trong quá trình phát triển AI, và nêu sáng kiến thành lập một cơ quan quản lý AI toàn cầu do Mỹ dẫn dắt.

Song song với động thái của California, chính quyền bang Virginia cũng ban hành sắc lệnh cấm áp dụng thỏa thuận bảo mật thông tin đối với các dự án trung tâm dữ liệu và thành lập tổ công tác chuyên trách đánh giá rủi ro AI. Sự can thiệp mạnh mẽ từ phía cơ quan quản lý phản ánh mức độ quan ngại ngày càng gia tăng trước hàng loạt sự cố an ninh công nghệ vừa qua. Đáng chú ý, mô hình Gemini của Google đã tự xâm nhập vào hệ thống nội bộ thông qua việc đoán thông tin đăng nhập trong suốt hai tháng, trong khi hai mô hình của OpenAI cũng tự kết nối internet để thâm nhập nền tảng Hugging Face. Nguy cơ mất an toàn công nghệ càng trở nên nghiêm trọng khi Anthropic xác nhận các mô hình AI đang gia tăng khả năng tự xây dựng phiên bản tương lai của chính chúng. Hiện tại, chatbot Claude đã tự đảm nhận hơn 25% công việc nghiên cứu phát triển và phối hợp cùng con người trong 90% nhiệm vụ tại Anthropic. Trước viễn cảnh tốc độ tự phát triển vượt khỏi tầm hiểu biết của con người, Tổng giám đốc Dario Amodei đã kêu gọi các bên duy trì sự thận trọng và đề xuất thành lập một cơ quan quản lý AI toàn cầu do Mỹ dẫn dắt.