' %2F%3E%3C%2Fsvg%3E)
Ông Dario Amodei, Giám đốc điều hành công ty nghiên cứu và phát triển AI Anthropic của Mỹ (Ảnh: AFP).
Trong một bài luận dài 3.800 từ công bố hôm 12/9, ông Dario Amodei, Giám đốc điều hành công ty nghiên cứu và phát triển AI Anthropic của Mỹ, đã kêu gọi làm chậm tốc độ phát triển AI toàn cầu.
Ông Dario Amodei viết, mặc dù ông tin công nghệ này có thể mang lại nhiều lợi ích, nhưng tốc độ tiến triển nhanh chóng của nó khiến các nhà nghiên cứu khó có thể tiếp tục đảm bảo an toàn.
"Trong vài tháng qua, tôi nhận thấy việc giải quyết triệt để các rủi ro từ AI đòi hỏi sự thận trọng hơn nữa. Điều này không chỉ dừng lại ở việc đầu tư vào phòng ngừa rủi ro, mà còn phải điều chỉnh nhịp độ nâng cao năng lực để công tác phòng ngừa rủi ro có đủ thời gian theo kịp", ông Amodei cho biết.
Ông nhấn mạnh: "Chúng ta phải làm chậm tốc độ cải tiến năng lực của các mô hình AI. Tiến trình này vẫn sẽ diễn ra nhanh chóng, và chúng ta phải tận dụng một cách khôn ngoan khoảng thời gian giành lại được”.
Ông Amodei đề xuất các hành động mà ngành công nghệ có thể thực hiện để làm chậm tốc độ phát triển.
Theo ông, tất cả các phòng thí nghiệm AI có thể đồng ý với các đánh giá công nghệ độc lập từ các chuyên gia bên ngoài để xác minh các hoạt động an toàn. Ông cũng gợi ý các quốc gia có hệ thống quản trị dân chủ nên phối hợp để tạo ra các tiêu chuẩn an toàn, dưới hình thức các hành động pháp lý.
Ông nhấn mạnh cần một nỗ lực toàn cầu hợp tác với các quốc gia khác để phối hợp làm chậm lại tốc độ phát triển AI một cách hiệu quả.
Ông cũng khẳng định AI vẫn có khả năng mang lại "những lợi ích kinh ngạc" cho nhân loại, bao gồm khả năng chữa khỏi bệnh tật và đẩy nhanh tăng trưởng kinh tế. Tuy nhiên, ông Amodei cho rằng những rủi ro của AI là quá lớn nếu không phát triển thận trọng.
Lời kêu gọi được đưa ra giữa lúc có những lo ngại trong giới công nghệ khi việc phát triển mô hình AI đã đạt được những bước tiến đáng kể tại các công ty như OpenAI, DeepMind của Google và Anthropic.
Lo ngại gia tăng sau khi các phòng thí nghiệm AI hàng đầu liên tiếp phát hiện sự cố xâm nhập bảo mật do chính các chương trình của họ thực hiện mà họ không hề hay biết.
Trong một sự cố xảy ra vào năm nay, các hệ thống của OpenAI đã xâm nhập vào một công ty khởi nghiệp AI có tên HuggingFace. Vụ việc chỉ được phát hiện khi HuggingFace thông báo cho OpenAI nhiều tuần sau đó. Kể từ thời điểm đó, các nhà nghiên cứu AI đã họp bàn để thảo luận về phương hướng xử lý.
Đầu tuần này, một nhà nghiên cứu tại Anthropic, ông Jacob Coxon, đã từ chức và đăng một loạt bài viết trên mạng xã hội về việc các phòng thí nghiệm AI hàng đầu đang phát triển công nghệ thiếu trách nhiệm và đánh cược với cuộc sống của con người.
Các nhà nghiên cứu AI khác cũng kêu gọi ban lãnh đạo của họ tạm dừng phát triển AI, trong khi một số người thành lập các nhóm tách biệt nhằm nâng cao nhận thức về những rủi ro của AI.
Các nhà lãnh đạo AI đang tự chuẩn bị cho kịch bản về một ngày mà hệ thống AI có thể tự mình trở nên tiên tiến hơn thay vì cần đến sự hỗ trợ của các nhà nghiên cứu. Đây là điều mà một số nhà phát triển AI hàng đầu tin rằng có thể khiến phần mềm vượt khỏi tầm kiểm soát của họ.
"Nếu không được kiểm soát, nó có thể vượt xa khả năng hiểu biết và kiểm soát của chúng ta đối với các hệ thống này", ông Amodei cảnh báo.
Nhiều năm qua, các phòng thí nghiệm AI hàng đầu đã cuốn vào cuộc cạnh tranh gay gắt. Tuy nhiên, khi các hệ thống này trở nên tiên tiến hơn, đã xuất hiện một sự đồng thuận rộng rãi hơn giữa các giám đốc điều hành tại các công ty đối thủ rằng họ cần phải hành động.
Tháng trước, khi OpenAI chuẩn bị phát hành một mô hình AI tiên tiến có tên Astra, công ty cho biết họ đã chủ động làm chậm tốc độ phát triển. OpenAI lấy dẫn chứng bằng những tiến bộ trong năng lực an ninh mạng.
Hiện có rất ít quy định về phát triển AI, mặc dù Tổng thống Mỹ Donald Trump đã ký một sắc lệnh hành pháp vào tháng 6 yêu cầu các phòng thí nghiệm AI tự nguyện nộp các mô hình để kiểm duyệt trước khi phát hành công khai.