Nhu cầu bắt nguồn từ làn sóng AI "nổi loạn" vài tháng qua. Giữa tháng 7, khoảng 700 tác nhân từ OpenAI tấn công nền tảng AI nguồn mở Hugging Face. Mô hình Claude của Anthropic và Gemini của Google cũng xâm nhập hệ thống của ba tổ chức, làm dấy lên lo ngại trí tuệ nhân tạo phát triển vượt tầm kiểm soát.
Nỗi lo trở nên lớn hơn vào đầu tháng 9, khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức, đồng thời cảnh báo AI có thể hủy diệt nhân loại. "Không công ty nào hành động có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon viết trên X ngày 9/9.
Theo The Verge, việc Coxon từ chức đã châm ngòi cho loạt bài chia sẻ quan điểm trên mạng xã hội từ giới chuyên gia AI. Trong đó, Anthropic và OpenAI đứng ở tâm điểm của cuộc tranh luận về việc liệu các phòng thí nghiệm có thể kiểm soát tốt mô hình tiên tiến và phát triển kinh doanh cùng lúc hay không. Để giải quyết, cả hai đang tìm kiếm sự trợ giúp từ những tổ chức đánh giá an toàn như METR, Apollo Research, Transluce.
Tháng trước, CEO Anthropic Dario Amodei cam kết đưa các đơn vị đánh giá độc lập vào công ty. CEO OpenAI Sam Altman, dù có nhiều mâu thuẫn với đối thủ, nhanh chóng tán thành. Lãnh đạo nhiều công ty công nghệ lớn khác và Tổng thống Mỹ Donald Trump cũng ủng hộ ý tưởng. Một số bang của Mỹ thậm chí bắt đầu yêu cầu doanh nghiệp mời chuyên gia bên ngoài đến thực hiện những cuộc kiểm toán an toàn bắt buộc.
Các tổ chức đánh giá an toàn có nhiệm vụ là thẩm định năng lực và rủi ro của mô hình AI, chỉ ra những trường hợp chúng thực hiện hành vi sai trái. The Information cho biết, một số tổ chức phi lợi nhuận như METR tuyên bố chỉ nhận khoản quyên góp thay vì tiền từ công ty phát triển AI. Số khác, chẳng hạn startup Gray Swan, nhìn thấy cơ hội thương mại khi thế giới ngày càng chú trọng an toàn AI.
Theo CNBC, hồi đầu năm, các tổ chức này vẫn là mảnh ghép tương đối thầm lặng trong ngành công nghiệp trí tuệ nhân tạo sôi động trị giá hàng nghìn tỷ USD. Tuy nhiên, vai trò của họ đang trở nên quan trọng trong bối cảnh AI tiên tiến trở nên khó lường.
Các ứng dụng AI hiển thị trên màn hình một chiếc smartphone. Ảnh: Bảo Lâm
Hệ sinh thái đánh giá AI gồm nhiều tổ chức nhỏ như METR, Apollo Research, cùng một số công ty kiểm toán lớn hơn như Accenture. Trước đây, các phòng thí nghiệm AI đã hợp tác với họ ở mức độ hạn chế. Nhưng theo Andrew Freedman, CEO tổ chức phi lợi nhuận chuyên về chính sách Fathom, hệ sinh thái này đang phát triển mạnh.
"Tôi đã làm việc về chính trị và chính sách suốt 20 năm qua, nhưng chưa từng thấy thứ gì phát triển nhanh chóng trên nhiều hệ thống chính trị khác nhau đến vậy", Freedman chia sẻ với CNBC, nhận định sẽ có "dòng vốn lớn" đổ vào mảng này.
"Nhu cầu và sự quan tâm với các loại đánh giá, thẩm định và dịch vụ bên ngoài mà những công ty như chúng tôi cung cấp tăng lên đáng kể", Matt Fredrikson, người đồng sáng lập kiêm CEO Gray Swan, cho biết. Startup này mới hoạt động ba năm, chuyên hợp tác với các phòng thí nghiệm AI để kiểm tra biện pháp an toàn của họ. The Information dẫn nguồn tin thân cận cho biết, công ty đã huy động 47,6 triệu USD vốn đầu tư và đạt doanh thu định kỳ hàng năm hơn 10 triệu USD.
Trong khi đó, Rayan Krishnan, CEO của startup Vals AI, cho biết họ chuyên xây dựng bộ tiêu chuẩn để đo lường hiệu suất của mô hình trong những nhiệm vụ đặc thù theo ngành. Vals AI đã tăng từ 8 lên 30 nhân viên năm nay và công bố vòng gọi vốn trị giá 40 triệu USD hồi tháng 8.
Cũng trong tháng 8, tổ chức phi lợi nhuận METR thông báo nhận được cam kết tài trợ 71 triệu USD trong 6 tháng. Theo hồ sơ mà tổ chức này nộp lên Sở Thuế vụ Mỹ (IRS), con số này cao hơn nhiều so với tổng số tiền năm 2024 với 13,6 triệu USD.
Đến cuối tháng đó, vị thế của METR càng được nâng cao. OpenAI mời hai nhân viên và một chuyên gia làm việc theo hợp đồng tại tổ chức này đến lập báo cáo chi tiết về cách các mô hình OpenAI thoát khỏi vòng kiểm soát, truy cập Internet và xâm nhập nền tảng Hugging Face.
Dù bận rộn, METR có chưa đến 50 nhân viên toàn thời gian. Theo CEO kiêm nhà sáng lập Beth Barnes, thị trường tuyển dụng nhà nghiên cứu AI cạnh tranh khốc liệt đến mức ngay cả khoản lương rất cao của tổ chức, lên tới 503.000 USD, cũng không thể giúp họ giải quyết tình trạng thiếu nhân tài.
"Chúng tôi muốn mở rộng quy mô thật lớn. Thực tế, chúng tôi đã huy động đủ số tiền cần thiết, nhưng điểm nghẽn chính là nhân tài", Barnes chia sẻ với Business Insider.
CEO METR Beth Barnes (trái) và Chủ tịch Chris Painter. Ảnh: METR
Dù hoạt động đánh giá AI đang bùng nổ, Kevin Werbach, Giám đốc Phòng thí nghiệm Wharton Accountable AI thuộc Đại học Pennsylvania, cho rằng hệ sinh thái này "chưa đủ vững mạnh". Sự chênh lệch quyền lực giữa tổ chức đánh giá nhỏ và các phòng thí nghiệm hàng đầu sở hữu hàng nghìn nhân viên, huy động được hàng chục tỷ USD, làm dấy lên câu hỏi về khả năng xung đột lợi ích.
"Nếu muốn có đánh giá thực sự khách quan từ bên thứ ba, cần đảm bảo họ độc lập hoàn toàn về tài chính và nhiều mặt khác", Suresh Venkatasubramanian, giáo sư khoa học máy tính tại Đại học Brown, chia sẻ, thêm rằng nhà đánh giá có thể không nhận được tiền và gặp khó khăn trong công việc khi đưa ra báo cáo bất lợi cho một phòng thí nghiệm AI.
Anthropic thừa nhận sự phức tạp của vấn đề trong bài đăng trên blog tháng trước. Theo nhà phát triển Claude, hiện chưa có tiêu chuẩn quy định các chuyên gia đánh giá được bố trí làm việc tại doanh nghiệp nên tiếp cận thông tin nào, cần báo cáo kết quả ra sao, cũng chưa có hệ thống cố định để cấp kinh phí cho hoạt động đánh giá độc lập. "Về lâu dài, chúng tôi cho rằng nguồn tài trợ nên đến từ quỹ chung hoặc chính phủ", phòng thí nghiệm này cho biết.
Tháng 6 năm ngoái, tổ chức phi lợi nhuận Fathom giới thiệu một khuôn khổ thị trường dành cho Tổ chức Xác minh Độc lập (IVO). Theo đó, chính phủ cấp phép và ủy quyền cho các IVO kiểm tra xem phòng thí nghiệm AI có đáp ứng tiêu chí an toàn hay không.
CEO Fathom Freedman cho rằng sự giám sát của chính phủ rất quan trọng vì nếu thiếu điều này, đơn vị đánh giá độc lập có thể trở nên phụ thuộc vào phòng thí nghiệm AI lớn để kiếm doanh thu, dẫn đến "phê duyệt qua loa" nhằm duy trì quan hệ tốt.
Một số nhà lập pháp ủng hộ đề xuất. Bang California, Connecticut, Virginia đã thực hiện những bước giúp triển khai đề xuất, trong khi số khác như Massachusetts đang cân nhắc mở rộng hoạt động đánh giá an toàn độc lập.
Thu Thảo tổng hợp