Kiệt sức, nghỉ việc vì kiểm soát an toàn AI

"Rất nhiều người cảm thấy phiền lòng, nghỉ việc và nghỉ phép vì vấn đề sức khỏe tinh thần. Điều này một phần do cảm giác mất kiểm soát, một phần do thấy bản thân đang phát triển thứ có thể gây thiệt hại thực sự", một nhân viên DeepMind, bộ phận nghiên cứu và phát triển AI của Google, chia sẻ với Financial Times.

Người này kể, việc đảm bảo AI an toàn đi kèm với nguy cơ kiệt sức vì giống như "nhiệm vụ bất khả thi". Nhiệm vụ còn gây bất an vì "không biết công nghệ sẽ được sử dụng thế nào", đề cập đến thỏa thuận hồi tháng 4 với Lầu Năm Góc, cho phép sử dụng AI của Google trong hoạt động quân sự mật.

Theo Business Insider, thỏa thuận gây ra những phản ứng trái chiều trong nội bộ Google. René Mayrhofer, Giám đốc an ninh nền tảng Android, quyết định từ chức sau sự việc, cho rằng "ban lãnh đạo đánh mất la bàn đạo đức".

Alex Turner, nhà nghiên cứu làm việc hơn hai năm về an toàn AI tại DeepMind, cũng rời đi với lý do tương tự. "Khi Google ký thỏa thuận, lương tâm tôi đơn giản nói không", ông nói.

Financial Times dẫn nguồn tin thân cận cho biết, nhiều nhân viên tại Viện An toàn AI (AISI) của Anh, đơn vị hàng đầu thế giới về kiểm thử độc lập mô hình tiên tiến, cũng phải nghỉ việc vì căng thẳng và đang được tư vấn tâm lý. Lịch trình kiểm thử những mô hình chưa phát hành dày đặc, mối lo ngại về việc triển khai quá nhanh và khả năng ngày càng vượt trội khiến nhân viên sa sút tinh thần và kiệt sức.

"Do sức ép từ cuộc đua AI, nếu ai đó nói kiểu 'Chúng ta không thể làm điều này, chúng ta cần chậm lại, không thể phát hành mô hình', thì họ sẽ không giữ được vị trí lâu. Họ cần bớt quan tâm đến an toàn một chút và tiếp tục ở lại, hoặc phải rời đi", Marius Hobbhahn, CEO kiêm nhà đồng sáng lập Apollo Research, công ty chuyên về đánh giá an toàn AI, giải thích với The Verge.

Hobbhahn kể, ông đã chứng kiến nhiều người mình tin tưởng thay đổi quan điểm "một cách kỳ lạ và giống nhau". Ông từng làm việc với một số nhà nghiên cứu an toàn tại xAI, phòng thí nghiệm trí tuệ nhân tạo của tỷ phú Elon Musk, nhưng họ nghỉ việc trước khi có dịp trao đổi lần thứ hai.

Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, tổ chức phi lợi nhuận về an toàn AI, đồng tình. Việc công bố các nghiên cứu không tích cực về mô hình của công ty, chẳng hạn nói nó không an toàn, thường vấp phải sự phản đối. Với những nhân viên thể hiện sự hoài nghi, "xung đột liên tục" khiến họ phải thay đổi quan điểm hoặc kiệt quệ, bỏ việc.

Một cựu nhân viên AISI xác nhận về áp lực cá nhân khi phụ trách an toàn AI, thêm rằng "việc tin mình đang xử lý vấn đề quan trọng nhất thế giới có thể tạo ra môi trường quản lý và văn hóa tổ chức rất căng thẳng, đôi khi độc hại".

Theo Financial Times, hơn chục nhà nghiên cứu cấp cao tại ba phòng thí nghiệm AI hàng đầu phương Tây gồm OpenAI, Anthropic, Google DeepMind, đã nghỉ việc trong hai năm qua do lo ngại quan điểm của ban lãnh đạo, tốc độ cũng như rủi ro của AI. Đặc biệt, ba tháng gần đây, gánh nặng tâm lý của những người phụ trách vấn đề an toàn càng gây chú ý lớn trong làn sóng AI "nổi loạn" và cuộc tranh luận gay gắt của các lãnh đạo công nghệ.

Ngày 21/7, OpenAI thông báo tác nhân AI của công ty mất kiểm soát và đột nhập Hugging Face - nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu. Đến 30/7, Anthropic cho biết đã đánh giá hơn 141.000 đợt thử nghiệm và phát hiện ba phiên bản của mô hình Claude vượt khỏi biện pháp kiềm tỏa, truy cập hệ thống của ba tổ chức khác. Meta ngày 5/8 thông báo mô hình AI của công ty đã "khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba. Hai ngày sau, Frontier Security, công ty nghiên cứu an ninh mạng có trụ sở tại Mỹ, cho biết mô hình Kimi K3 của startup Trung Quốc Moonshot AI "thoát" khỏi môi trường thử nghiệm do AISI phát triển.

Ngày 9/9, Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức, khẳng định hai công ty không hành động một cách có trách nhiệm. "Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon viết trên X.

Coxon chia sẻ, bản thân không muốn tham gia cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI, đồng thời cảnh báo AI có thể hủy diệt nhân loại.

Theo The Verge, việc Coxon từ chức đã châm ngòi cho loạt bài đăng trên mạng xã hội từ các chuyên gia AI. Họ nhắc lại những lo ngại của ông và chia sẻ quan điểm riêng về việc công nghệ phát triển quá nhanh và có nguy cơ vượt tầm kiểm soát. Một số thậm chí từ chức vì những lo ngại đó, bao gồm Josh Engels, nhân viên của Google DeepMind và Joe Benton, nhân viên của Anthropic. Cả hai đều nghỉ việc tại bộ phận an toàn AI của hai phòng thí nghiệm này trong tháng 9 để chuyển tới tổ chức đánh giá an toàn AI phi lợi nhuận METR.

Mới nhất, Robert O'Callahan, nhân viên Google DeepMind, tuyên bố nghỉ việc và cho rằng theo đuổi siêu trí tuệ nhân tạo (ASI) trong tương lai gần là "thiếu trách nhiệm". "Đây không phải quyết định dễ dàng. Tôi yêu quý đồng nghiệp và môi trường làm việc", O'Callahan viết trong thư gửi cho đồng nghiệp ngày 25/9, sau đó chia sẻ lại trên mạng xã hội X. "Tôi tin những người tại các phòng thí nghiệm AI đang lên tiếng cảnh báo nhìn chung đều chân thành. Tôi chưa thấy bằng chứng xác thực nào cho thấy họ đang thổi phồng rủi ro nhằm tăng giá cổ phiếu công ty hay loại bỏ đối thủ cạnh tranh bằng cách siết chặt quy định".

Ngoài giới nghiên cứu an toàn AI, một số lãnh đạo từ các công ty hàng đầu cũng công khai bày tỏ nỗi lo công nghệ gây nguy hiểm cho nhân loại. CEO Anthropic Dario Amodei đề xuất làm chậm quá trình phát triển AI và tiến hành kiểm duyệt độc lập. Lời kêu gọi nhanh chóng được các đối thủ như CEO SpaceX Elon Musk và CEO OpenAI Sam Altman ủng hộ.

Dù vậy, một số lãnh đạo công nghệ lại có quan điểm khác. Hôm 18/9, CEO Nvidia Jensen Huang nói với CBS News rằng cần đảm bảo sản phẩm tung ra thị trường an toàn, nhưng các công ty công nghệ vẫn nên tiếp tục đẩy mạnh phát triển trí tuệ nhân tạo. "Chúng ta nên tiến nhanh nhất có thể, bất kể người khác nghĩ gì", Huang nói.

Theo Chi Onwurah, Chủ tịch Ủy ban Khoa học và Công nghệ Hạ viện Anh thuộc Công đảng, việc doanh nghiệp dồn nguồn lực thúc đẩy lợi nhuận hoặc giá cổ phiếu thay vì thúc đẩy sự an toàn đang tạo áp lực lớn cho các chuyên gia AI. "Tôi có thể hình dung văn hóa và môi trường trong một số công ty công nghệ đang trở nên độc hại với những nhà phát triển có lương tâm", bà nhận định.

Thu Thảo tổng hợp