Kết quả nghiên cứu do METR, tổ chức phi lợi nhuận về an toàn AI tại California, công bố tuần này. Trước đó, Anthropic đã mời METR đến xem xét dữ liệu nội bộ và phỏng vấn nhân viên công ty, giữa lúc công ty chuẩn bị phát hành cổ phiếu lần đầu ra công chúng (IPO) và thế giới tranh luận gay gắt về nguy cơ AI phát triển vượt tầm kiểm soát của con người, gây hậu quả thảm khốc.
Theo Reuters, cuộc đánh giá kéo dài 11 tuần, từ tháng 8 đến 10, sử dụng nghiên cứu mật, bài phỏng vấn và dữ liệu hiệu suất từ những mô hình chưa công bố. Kết quả, năng lực của các mô hình Anthropic được cải thiện nhanh gấp 1,9 lần trước đây.
"Tính đến tháng 10, nhiều khả năng Anthropic đang cải thiện năng lực của các mô hình với những nhiệm vụ được xác định rõ ở tốc độ gấp khoảng hai lần so với giai đoạn tháng 3/2024-10/2025. Ước tính này có độ không chắc chắn cao, nên chúng tôi sẽ không ngạc nhiên nếu mức tăng thực tế gần với 1,5 hoặc 2,5 lần", METR cho biết.
Nhóm nghiên cứu từ METR tin mô hình phát triển nhanh phần lớn nhờ vào sự hỗ trợ của AI. Dù vậy, họ nhấn mạnh, AI chưa có khả năng đóng góp một cách hoàn toàn tự chủ và có ý nghĩa lớn vào những giai đoạn huấn luyện quan trọng nhất.
Sam McCandlish, nhà đồng sáng lập Anthropic, chia sẻ nhiều kết luận của METR trùng khớp với quan điểm của ông. "Trí tuệ nhân tạo đang đẩy nhanh quá trình nghiên cứu của chúng tôi, nhưng khó có thể nói chính xác là bao nhiêu", McCandlish cho hay.
Logo Anthropic hiển thị trên màn hình smartphone. Ảnh: Bảo Lâm
Đầu tuần này, trong công bố bản sửa đổi hồ sơ đăng ký IPO, Anthropic cho rằng AI của họ có thể sớm đạt khả năng tự cải tiến đệ quy, nhưng cam kết duy trì sự tham gia của con người trong tương lai gần. Trước đó, công ty tiết lộ, tính đến tháng 8, AI Claude đang dẫn dắt khoảng 26% hoạt động nghiên cứu và phát triển (R&D) mô hình tiếp theo.
Dario Amodei, CEO Anthropic, nhiều lần bày tỏ lo ngại về AI phát triển vượt kiểm soát. Ngày 12/9, ông kêu gọi các phòng thí nghiệm giảm tiến độ phát triển mô hình tiên tiến, vì lo nguy cơ lạm dụng và mất kiểm soát chúng. "Chúng ta phải giảm tốc độ cải thiện năng lực của những mô hình AI. Các tiến bộ có vẻ sẽ rất nhanh chóng và chúng ta phải tận dụng tối đa thời gian có được", Amodei viết trên X.
Ông đề xuất kế hoạch ba bước, đầu tiên là đưa chuyên viên đánh giá độc lập đến các công ty AI và cung cấp cho họ quyền truy cập tương đương nhân viên nhằm bảo đảm tuân thủ quy tắc an toàn. Các công ty tiên phong cũng cần phối hợp xây dựng bộ tiêu chuẩn an toàn và hạn chế những hoạt động phát triển AI không kiểm soát. Cuối cùng là hợp tác quốc tế để giảm thiểu rủi ro từ trí tuệ nhân tạo.
METR, thành lập năm 2022, đánh giá năng lực mô hình cho Anthropic, OpenAI và các phòng thí nghiệm khác nhiều năm qua. Theo AP, tổ chức phi lợi nhuận này hoạt động nhờ những khoản quyên góp và không nhận thù lao cho công việc của mình. Các công ty AI hợp tác với họ để đánh giá mô hình sẽ cung cấp quyền truy cập và token nhằm phục vụ quá trình.
Thu Thảo tổng hợp