CEO Anthropic Dario Amodei - Ảnh: REUTERS
Sau những cảnh báo rằng trí tuệ nhân tạo (AI) có thể gây thảm họa cho nhân loại, lãnh đạo các gã khổng lồ AI nói trên cùng ủng hộ đề xuất làm chậm tốc độ phát triển của ngành.
Tuy nhiên, giới phê bình nghi ngờ đây có thể là cách các ông lớn trong ngành tự đặt luật chơi và ngăn đối thủ mới.
Cam kết an toàn giữa cảnh báo AI hủy diệt nhân loại
Cuối tuần qua, ông Dario Amodei, giám đốc điều hành Anthropic, đề xuất "làm chậm tốc độ phát triển AI".
Đề xuất được đưa ra sau khi nhiều nhà nghiên cứu của Anthropic liên tục cảnh báo trí tuệ nhân tạo có thể gây ra hậu quả thảm khốc, thậm chí đe dọa sự tồn vong của nhân loại vào năm 2030.
Lãnh đạo các công ty AI hàng đầu của OpenAI, Google DeepMind và xAI hiếm hoi nhanh chóng lên tiếng đồng thuận với đề xuất này.
Theo báo Guardian ngày 14-9, đề xuất của ông Amodei gồm ba hướng chính: đưa kiểm toán viên độc lập vào các phòng thí nghiệm AI, xây dựng các tiêu chuẩn an toàn chung giữa các công ty AI hàng đầu tại những quốc gia dân chủ và hướng tới một thỏa thuận giảm tốc trên phạm vi toàn cầu.
Những người ủng hộ cho rằng đây là bước đi cần thiết trong bối cảnh các hệ thống AI ngày càng mạnh và khó kiểm soát.
Tuy nhiên, những người hoài nghi đặt câu hỏi liệu đây có thực sự là cam kết an toàn hay chỉ là một dạng thỏa thuận độc quyền trá hình.
Theo họ, các "ông lớn" AI có thể dùng danh nghĩa an toàn để ngăn những đối thủ mới gia nhập thị trường, gây khó cho phong trào AI mã nguồn mở hoặc tránh những quy định pháp lý có tính ràng buộc, theo trang The Verge.
Một số còn cho rằng các công ty đang tìm cách đón đầu những quy định nghiêm ngặt hơn của chính phủ, đồng thời duy trì vị thế hiện nay của các doanh nghiệp đầu ngành.
Giới chuyên gia nhận định vấn đề phức tạp hơn. Một số người cho rằng đề xuất này đi đúng hướng nhưng cảnh báo các công ty AI không nên là lực lượng duy nhất quyết định tương lai của công nghệ.
Từ trái sang: chủ sở hữu xAI Elon Musk, CEO Anthropic Dario Amodei và CEO OpenAI Sam Altman - Ảnh: AFP/GETTY IMAGES
"Giảm tốc" có thật sự làm AI chậm lại?
Lo ngại về AI gia tăng sau những thông tin cho thấy các "tác nhân" AI có liên quan đến những vụ tấn công mạng bất thường diễn ra ngay dưới sự giám sát của các phòng thí nghiệm hàng đầu.
Một số nhân viên và nhà nghiên cứu trong ngành cảnh báo các công ty đang chạy đua hướng tới "siêu trí tuệ nhân tạo" có khả năng tự cải thiện, tức không cần sự can thiệp của con người.
Anthropic từng cho rằng bước ngoặt này có thể xuất hiện sớm nhất vào đầu năm 2027, song cảnh báo tốc độ phát triển hiện nay có thể vượt quá khả năng hiểu và kiểm soát của con người.
Các chuyên gia lo ngại những cam kết tự nguyện có thể chỉ tạo ra thêm thủ tục giấy tờ. Các công ty có thể thuê kiểm toán viên bên ngoài, lập báo cáo an toàn song không thực sự giảm đáng kể năng lực tính toán dành cho nghiên cứu.
Bà Sarah Myers West, đồng giám đốc Viện AI Now, cho rằng việc ngành AI tự quyết định sản phẩm nào an toàn đã dẫn tới thất bại trong bảo vệ các tiêu chuẩn cần thiết.
Một số nhà phê bình còn cảnh báo đề xuất của ông Amodei có thể cho phép các công ty lớn tự chọn đơn vị đánh giá, thay vì chịu sự giám sát chặt chẽ từ cơ quan quản lý nhà nước.
Một thách thức khác là cạnh tranh Mỹ - Trung. Nhiều lãnh đạo và chính trị gia Mỹ cho rằng Washington không thể giảm tốc nếu Bắc Kinh vẫn tiếp tục phát triển AI.
Tuy nhiên, các chuyên gia phản biện rằng chính nỗi lo về Trung Quốc thường được dùng để giúp ngành công nghệ né tránh sự giám sát.
Điều được nhiều chuyên gia đồng tình là cam kết của các lãnh đạo ngành AI cần có tiêu chuẩn rõ ràng, khả năng kiểm chứng và thực thi chế tài. Nếu không, "giảm tốc AI" có thể chỉ dừng ở lời hứa trong khi cuộc đua hướng tới những hệ thống ngày càng tự chủ vẫn tiếp diễn.
Trung Quốc mở không gian hợp tác AI tại BRICS, cạnh tranh tiêu chuẩn với MỹChủ tịch Trung Quốc Tập Cận Bình tuyên bố Bắc Kinh sẽ đi đầu xây dựng không gian hợp tác chuyên biệt về AI mã nguồn mở dành cho các nước khối BRICS.