Hôm thứ bảy (12/9), Dario Amodei, Giám đốc điều hành Anthropic - công ty vận hành mô hình Claude, đăng một bài viết dài trên blog cho biết công ty sẽ triển khai các biện pháp an toàn mới, chẳng hạn như mời các bên đánh giá độc lập (bên thứ ba) vào kiểm tra, đồng thời kêu gọi toàn ngành ủng hộ một đợt giảm tốc trên diện rộng.
Sam Altman, người đứng đầu OpenAI, nhanh chóng cam kết áp dụng đề xuất của Amodei về việc cho phép “các bên đánh giá độc lập được tiếp cận ở mức tương đương nhân viên”, còn Elon Musk, người điều hành xAI, viết ngắn gọn: “Dario nói đúng”.
Dù cả ba nhà lãnh đạo này đã nhiều năm lên tiếng cảnh báo về rủi ro của AI, một cuộc giảm tốc có phối hợp thực sự gần như chưa có tiền lệ trong một ngành cạnh tranh khốc liệt, vốn liên tục tung ra hết sản phẩm này đến sản phẩm khác nhằm tăng mức độ tương tác của người dùng, giành thị phần và đẩy mạnh doanh số.
' %2F%3E%3C%2Fsvg%3E)
Từ trái qua: Elon Musk, Sam Altman và Dario Amodei (Ảnh: Invezz).
Tuy nhiên, nỗi lo về những rủi ro nghiêm trọng của AI đã bắt đầu lan ra công chúng, một phần do vụ từ chức gây chú ý trong tuần này của một nhà nghiên cứu tại Anthropic. Người này rời công ty vì lo sợ rằng công ty đang hành động thiếu trách nhiệm, đe dọa đến sự tồn vong của nhân loại. Đây là diễn biến mới nhất trong chuỗi cảnh báo ngày càng gay gắt từ chính bên trong ngành, rằng AI đang tiến hóa quá nhanh và trở thành mối đe dọa ngày càng lớn đối với an ninh quốc gia và kinh tế toàn cầu.
Làn sóng lo ngại về an toàn AI trùng với sự phản đối ngày càng tăng đối với công nghệ này tại Mỹ, một phần xuất phát từ những bức xúc về gánh nặng mà các trung tâm dữ liệu mới, vốn cần thiết để vận hành AI, đặt lên tài nguyên địa phương. Lo ngại rằng AI đang đẩy hóa đơn tiền điện tăng cao và có thể cướp đi việc làm đã biến nó thành một chủ đề trọng tâm trong cuộc bầu cử giữa kỳ vào tháng 11 ở Mỹ.
Hiện chưa rõ các công ty AI hàng đầu, vốn là đối thủ gay gắt của nhau và còn phải đối mặt với sự cạnh tranh quyết liệt từ các công ty Trung Quốc, sẽ đi xa đến đâu trong việc tự áp đặt các giới hạn hoặc quy trình kiểm tra an toàn mới đối với mô hình AI - sản phẩm chủ chốt và là “gà đẻ trứng vàng” của họ.
Demis Hassabis, Giám đốc khoa học của Alphabet và đồng sáng lập Google DeepMind, viết trên X hôm thứ bảy rằng bài luận của Amodei “đi đúng hướng”, nhưng “các chi tiết còn cần được bàn thảo kỹ”.
Cũng chưa rõ liệu các cơ quan chống độc quyền có cho phép các công ty phối hợp điều tiết tốc độ phát triển hay không. Rồi còn câu hỏi dành cho thị trường tài chính, vốn đã nhờ cơn sốt AI mà leo lên những đỉnh cao mới: các nhà đầu tư đang khao khát biên lợi nhuận và lợi nhuận sẽ phản ứng thế nào trước ý tưởng giảm tốc?
Hai lý do thận trọng với các mô hình AI
Amodei nêu hai lý do chính cho sự thận trọng: khả năng tự cải thiện của trí tuệ nhân tạo (AI), và sự cố gần đây liên quan đến OpenAI và Hugging Face, trong đó một “bầy” tác nhân AI (AI agent) đã phối hợp với nhau để xâm nhập trang web của một bên thứ ba. Song ông cũng cho rằng bất kỳ sự giảm tốc nào cũng phải được cân đối với thực tế cạnh tranh.
“Nói rõ hơn, điều tiết nhịp độ không có nghĩa là dừng huấn luyện mô hình hay dừng tiến bộ kỹ thuật, mà là bảo đảm các công ty dành đủ thời gian để căn chỉnh và bảo vệ an toàn cho mô hình của mình, và để các bên đánh giá độc lập xác nhận điều đó”, Amodei viết.
Suốt thời kỳ bùng nổ AI, lãnh đạo các phòng thí nghiệm AI hàng đầu đã nhiều lần cảnh báo về nguy cơ hủy diệt tiềm tàng, những tuyên bố đôi khi bị gạt đi như một chiêu tiếp thị năng lực sản phẩm và tự định vị mình là người quản lý công nghệ đáng tin cậy nhất. Bản thân Amodei từng nói rằng có 25% khả năng mọi chuyện diễn biến “rất, rất tồi tệ”.
Anthropic từ lâu đã định vị mình là công ty tập trung phát triển AI một cách có trách nhiệm và an toàn hơn, nhằm giảm thiểu nguy cơ tiềm ẩn và tối đa hóa lợi ích cho xã hội. Đầu năm nay, công ty đã chủ động hạn chế phát hành mô hình Mythos sau khi xác định mô hình này gây ra những mối đe dọa an ninh mạng chưa từng có. Anthropic trước đây cũng đưa ra thông điệp thế giới cần một cơ chế để cùng nhau quyết định khi nào nên giảm tốc công nghệ này.
Cùng lúc, Anthropic vẫn đang trong cuộc đua khốc liệt với đối thủ lâu năm OpenAI nhằm xây dựng những mô hình ngày càng tinh vi, có thể tự động hóa các tác vụ phức tạp và giá trị hơn cho khách hàng doanh nghiệp. Cả hai công ty đều đã nộp hồ sơ niêm yết theo diện bảo mật, và Anthropic được dự đoán có thể lên sàn Phố Wall ngay trong năm nay.
Đầu tuần này, nhà nghiên cứu AI Jacob Coxon nghỉ việc và cáo buộc cả hai công ty cũ của mình, Anthropic và OpenAI, đang “đánh cược bằng mạng sống của chúng ta” khi chạy đua hướng tới AI siêu trí tuệ. Trong một bài đăng trên mạng xã hội, Coxon nói rằng chính những người đang xây dựng AI cũng tin rằng nó có thể “giết chết tất cả chúng ta trước cuối thập kỷ này”.
Đáp lại, Evan Hubinger, một nhân viên hiện tại của Anthropic, thừa nhận ông và nhiều người khác trong công ty thực sự lo ngại về kịch bản này. “Cá nhân tôi cho rằng xác suất là trên 10% trong thập kỷ tới,” ông viết trên X.
Hồi tháng 7, hơn 1.000 nhân viên tại các công ty AI hàng đầu đã ký một bản kiến nghị kêu gọi chính phủ Mỹ ủng hộ một cơ chế giúp “chủ động điều tiết nhịp độ” phát triển AI, nhằm ngăn công nghệ này tiến quá nhanh.