Cuộc họp diễn ra đúng thời điểm nhiều nhà lãnh đạo thế giới tập trung tại trụ sở Liên Hợp Quốc ở New York, để tham dự kỳ họp Đại hội đồng Liên Hợp Quốc, trong khi Pháp đang giữ chức chủ tịch luân phiên Hội đồng Bảo an. Hiện chưa có thông tin cụ thể về ngày tổ chức cuộc họp.
Động thái của Hội đồng Bảo an diễn ra khi các cảnh báo về AI đang trở nên nghiêm trọng hơn, không chỉ từ các chính phủ mà còn từ chính những người đứng đầu các công ty phát triển công nghệ.
Ngày 14/9, Cao ủy Nhân quyền Liên Hợp Quốc Volker Türk kêu gọi các quốc gia và những công ty tiên phong trong lĩnh vực AI hành động khẩn cấp để kiểm soát công nghệ mà ông cho rằng đang tạo ra “những rủi ro chưa từng có”.
Trong bức thư gửi các quốc gia và những nhà phát triển AI, ông Türk cảnh báo thế giới đang “ở bên bờ của một sự thay đổi không thể đảo ngược”, một sự thay đổi không chỉ ảnh hưởng đến thế hệ hiện tại mà còn đến các thế hệ nhân loại mai sau.
Theo ông, cuộc chạy đua phát triển những hệ thống AI ngày càng mạnh mẽ đang tạo ra bước chuyển lớn, đồng thời làm gia tăng những rủi ro mang tính sống còn đối với mọi khía cạnh của cuộc sống.
Ông kêu gọi các quốc gia và doanh nghiệp khẩn trương hành động thông qua các diễn đàn đa phương, để xây dựng lộ trình quản trị những mô hình AI tiên tiến, trên cơ sở tuân thủ luật nhân quyền quốc tế.
CEO Dario Amodei của Anthropic cũng kêu gọi ngành công nghệ giảm tốc độ phát triển để các biện pháp an toàn có thời gian bắt kịp. Ông cảnh báo rằng trong khoảng 6 - 12 tháng tới, AI có thể đạt khả năng phối hợp các “đội quân” tác nhân AI để thực hiện những hành động khủng khiếp trên quy mô lớn trên internet.
Tuy nhiên, ngày 14/9, Tổng thống Mỹ Donald Trump bác bỏ những ý kiến cho rằng AI là mối đe dọa đối với nhân loại, gọi các cảnh báo như vậy là “trò lừa bịp” và “âm mưu bệnh hoạn”.
Trung Quốc lo mất ổn định chính trị
Tại Trung Quốc, những cảnh báo về AI được đặt trong một bối cảnh khác: Nguy cơ đối với an ninh chính trị.
Trong bài viết trên tạp chí China Cyberspace ngày 13/9, ông Trần Nhất Tân - Bộ trưởng Bộ An ninh quốc gia Trung Quốc, kêu gọi tăng cường sự kiểm soát với AI và siết chặt giám sát của chính phủ.
Theo ông, việc này cần thiết để bảo vệ sự ổn định chính trị trong nước, phòng thủ trước những cuộc tấn công mạng ngày càng tinh vi và các chiến dịch tung thông tin sai lệch của “các thế lực thù địch”, đồng thời cạnh tranh về quân sự với những quốc gia như Mỹ.
Ông Trần đặc biệt đề cập đến các công ty công nghệ Mỹ và những mô hình AI như Claude Mythos và GPT-5.5-Cyber, coi đây là những ví dụ về các mối đe dọa mới đối với an ninh mạng. Quan chức này cho rằng các cơ quan tình báo nước ngoài có thể sử dụng AI để tiến hành “hoạt động gián điệp quy mô lớn” và tấn công cơ sở hạ tầng trọng yếu của Trung Quốc.
Một nguy cơ khác là AI có thể làm giảm mạnh các rào cản kỹ thuật và tài chính trước các cuộc tấn công mạng. Ông Trần cho rằng điều này gây ra “những rủi ro nghiêm trọng” đối với cơ sở hạ tầng thông tin của Trung Quốc.
Ông Trần cũng cảnh báo về nguy cơ rò rỉ thông tin nhạy cảm khi người dùng Trung Quốc sử dụng các mô hình AI nước ngoài.
Tuần trước, Anthropic cho biết công ty khởi nghiệp Trung Quốc Moonshot AI đã chuyển các câu hỏi của người dùng sang Claude. Những truy vấn này chứa dữ liệu nhạy cảm, trong đó có video giám sát liên quan đến quân đội Trung Quốc và thông tin độc quyền của những công ty công nghệ lớn tại Trung Quốc.
Đáng chú ý, Trung Quốc vừa cảnh báo mạnh mẽ về những rủi ro của AI, vừa cáo buộc Mỹ đang thổi phồng những nguy hiểm của công nghệ này.
Bộ Ngoại giao Trung Quốc đưa ra phản ứng sau khi một số lãnh đạo ngành AI phương Tây, trong đó có ông Dario Amodei, kêu gọi Washington hạn chế bán các loại chip AI mạnh cho Trung Quốc.
Người phát ngôn Bộ Ngoại giao Trung Quốc Quách Gia Khôn cho rằng những “câu chuyện về mối đe dọa” và “cạnh tranh ác ý” chỉ khiến các quốc gia khó hợp tác hơn trong việc quản lý AI.
Thời báo Hoàn cầu của Trung Quốc gọi lời kêu gọi Mỹ về kiềm chế sự phát triển của Trung Quốc là “ảo tưởng phi thực tế”.