CEO Anthropic kêu gọi phát triển AI chậm lại, ưu tiên phòng ngừa rủi ro

Nguồn ảnh: Tuổi Trẻ

Theo giám đốc điều hành Anthropic, cuộc đua phát triển trí tuệ nhân tạo (AI) đang rất cần được giảm tốc.

Ngày 12-9, ông Dario Amodei, Giám đốc điều hành (CEO) kiêm đồng sáng lập Công ty trí tuệ nhân tạo Anthropic của Mỹ, kêu gọi các công ty AI tiến hành chậm lại và thận trọng hơn trong việc phát triển công nghệ này, cho rằng việc phòng ngừa rủi ro là ưu tiên hàng đầu.

"Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ diễn ra nhanh chóng và chúng ta phải sử dụng khôn ngoan khoảng thời gian có được" - ông Amodei viết blog, theo Hãng tin AFP.

Ông Amodei hiện đứng đầu một trong những công ty AI hàng đầu thế giới và là công ty phát triển chatbot Claude.

Theo Đài CNN, lâu nay ông là người ủng hộ mạnh mẽ việc thúc đẩy công nghệ này, nhưng đồng thời cũng bị chỉ trích là quá bi quan khi cảnh báo về những rủi ro của AI.

Ngày 12-9, ông thừa nhận con người có thể mất kiểm soát đối với AI và rằng công nghệ này có thể bị lạm dụng để thực hiện "các cuộc tấn công mạng và khủng bố sinh học, cũng như gây ra những xáo trộn nghiêm trọng về kinh tế".

Vị CEO lưu ý công nghệ AI đã phát triển "nhanh hơn rất nhiều" trong những tháng gần đây và đã có khả năng tự cải thiện, một quá trình được gọi là "tự cải thiện liên tục".

"Nếu không được kiểm soát, quá trình này có thể vượt xa khả năng hiểu và kiểm soát các hệ thống của chúng ta, vì vậy phải theo đuổi hết sức thận trọng" - ông kêu gọi.

Ông Amodei cho biết hành vi của một nhóm các tác nhân AI trong sự cố liên quan đến công ty OpenAI và Hugging Face cũng khiến ông lo ngại.

Theo ông, nhóm tác nhân AI này "về cơ bản đã hành động như một tập thể cuồng nhiệt đến mức cực đoan, tiến hành các cuộc tấn công an ninh mạng nhằm vào những mục tiêu mà chúng không được yêu cầu tấn công".

Ông cảnh báo nếu không được kiểm soát, AI có thể phát triển nhanh đến mức chỉ trong vòng 6-12 tháng, một nhóm tác nhân AI như vậy có thể đủ khả năng kiểm soát toàn bộ Internet, gây thiệt hại lên tới hàng trăm tỉ USD.

Những bình luận của ông được đưa ra vài ngày sau khi nhà nghiên cứu AI Jacob Coxon (người rời OpenAI để gia nhập Anthropic) quyết định rời ngành này, cáo buộc hai công ty Mỹ đang "đánh cược với mạng sống của chúng ta" trong cuộc đua phát triển các mô hình có khả năng tự cải thiện.

Anthropic chi 1,5 tỉ USD dàn xếp vụ kiện bản quyền huấn luyện AI

Thẩm phán liên bang Mỹ đã phê chuẩn thỏa thuận dàn xếp 1,5 tỉ USD giữa Công ty trí tuệ nhân tạo (AI) Anthropic và một nhóm tác giả sách. Đây được xem là vụ dàn xếp bản quyền lớn nhất từng được biết đến tại Mỹ.

Trong bối cảnh cuộc đua trí tuệ nhân tạo tăng tốc chóng mặt, Giám đốc điều hành Anthropic Dario Amodei vừa đưa ra lời cảnh báo đắt giá về những rủi ro an ninh khôn lường. Lãnh đạo công ty phát triển chatbot Claude kêu gọi các tập đoàn công nghệ chủ động giảm tốc độ nâng cấp mô hình để ưu tiên phòng ngừa các hiểm họa tự nhiên lẫn nhân tạo. Theo ông Amodei, khoảng thời gian tăng trưởng chậm lại cần được tận dụng khôn ngoan nhằm thiết lập rào chắn an toàn trước khi các hệ thống AI hoàn toàn vượt khỏi tầm kiểm soát của con người. Nỗi lo ngại này xuất phát từ khả năng tự cải thiện liên tục của AI cùng nguy cơ bị lạm dụng vào các cuộc tấn công mạng, khủng bố sinh học và gây xáo trộn kinh tế nghiêm trọng. Vị CEO dẫn chứng sự cố lo ngại gần đây liên quan đến OpenAI và Hugging Face, nơi một nhóm tác nhân AI tự phát tấn công an ninh mạng ngoài tầm kiểm soát. Ông Amodei cảnh báo nếu không giám sát chặt chẽ, các nhóm AI này chỉ cần 6 đến 12 tháng để kiểm soát toàn bộ Internet và gây thiệt hại hàng trăm tỷ USD. Làn sóng lo ngại nội bộ ngày càng dâng cao khi nhà nghiên cứu Jacob Coxon vừa rời Anthropic và chỉ trích các công ty Mỹ đang đánh cược mạng sống con người trong cuộc đua công nghệ. Song song với thách thức kỹ thuật, Anthropic vừa phải chấp nhận chi 1,5 tỷ USD để dàn xếp vụ kiện bản quyền với nhóm tác giả sách. Đây được coi là thỏa thuận dàn xếp vi phạm bản quyền huấn luyện AI lớn nhất trong lịch sử pháp lý nước Mỹ.