Các nhà nghiên cứu AI hàng đầu tại Mỹ cảnh báo nguy cơ AI vượt tầm kiểm soát - Ảnh: REUTERS
Theo Hãng tin Reuters ngày 15-9, các nhà nghiên cứu tại Anthropic - công ty phát triển trí tuệ nhân tạo (AI) hàng đầu nước Mỹ - cảnh báo rằng các mô hình AI ngày càng thông minh có thể vượt khỏi tầm kiểm soát của loài người. Động thái này lập tức dấy lên mối lo ngại trên toàn cầu.
Tại Trung Quốc, giới hoạch định chính sách của nước này cũng đang chuẩn bị kịch bản đối phó với rủi ro tương tự.
Bắc Kinh không xem AI là thảm họa diệt vong
Trong khi các cuộc tranh luận tại Mỹ chủ yếu xoay quanh việc liệu AI thế hệ mới có đe dọa sự tồn vong của nhân loại hay không, giới chức Trung Quốc nhìn nhận công nghệ này như một công cụ quyền năng nhưng hoàn toàn có thể quản lý.
Bắc Kinh cho rằng rủi ro có thể được ngăn chặn thông qua các tiêu chuẩn kỹ thuật, khung pháp lý và sự giám sát của nhà nước.
"Các chuyên gia Trung Quốc và Mỹ phần lớn đồng thuận về rủi ro của AI", ông Brian Tse, CEO Concordia AI - tổ chức nghiên cứu quản trị và an toàn AI có trụ sở tại Bắc Kinh và Singapore, xác nhận.
Theo ông, sự khác biệt giữa hai nước nằm ở "cách tiếp cận và mức độ ưu tiên đối với từng loại rủi ro".
Khác với đề xuất của Công ty Anthropic về việc cài giám sát viên độc lập vào công ty AI, Trung Quốc chọn khuôn khổ quản lý dựa trên trách nhiệm pháp lý của nhà phát triển, tiêu chuẩn nhà nước, đánh giá an ninh và kiểm thử độc lập từ bên ngoài.
Chiến lược pháp lý này khác biệt rõ rệt so với làn sóng kêu gọi từ giới an toàn AI phương Tây, nơi nhiều bên hối thúc các nhà phát triển làm chậm hoặc tạm dừng những mô hình mạnh nhất cho đến khi có đủ rào chắn an toàn.
Ngược lại, từ đầu năm nay, Bắc Kinh đẩy mạnh tích hợp AI vào mọi ngành công nghiệp, biến công nghệ thành động cơ tăng trưởng mới cho nền kinh tế lớn thứ hai thế giới.
Tuy nhiên Trung Quốc cũng sẵn sàng ghìm tốc độ thương mại hóa nếu khung quản lý chưa theo kịp. Năm 2023, các doanh nghiệp nước này từng phải hoãn ra mắt chatbot trong nhiều tháng, để chờ Cơ quan Quản lý không gian mạng Trung Quốc (CAC) hoàn thiện quy chế quản lý dịch vụ AI tạo sinh.
Ngăn chặn sự cố từ các tác nhân AI biến chất
Nhân viên lắp ráp robot tại Trung tâm Đổi mới robot hình người Bắc Kinh, Trung Quốc - Ảnh: REUTERS
Văn bản chính sách ban hành hồi tháng 5-2026 bởi cơ quan quản lý không gian mạng, cơ quan hoạch định kinh tế và Bộ Công nghiệp Trung Quốc xác định "sự mất kiểm soát vận hành" là rủi ro an ninh đối với các tác nhân AI (AI agents).
Tác nhân AI là những hệ thống có khả năng tự lập kế hoạch và thực thi chuỗi tác vụ phức tạp, độc lập hơn nhiều so với chatbot thông thường.
Quy định buộc nhà phát triển nâng cao năng lực phát hiện, can thiệp và khắc phục kịp thời hành vi sai lệch của tác nhân AI, đồng thời chủ động phòng ngừa các hiểm họa như đầu độc dữ liệu, thao túng thuật toán và lỗ hổng hệ thống.
Người dùng phải được thông báo về các quyết định tự động của tác nhân AI và luôn giữ quyền phán quyết cuối cùng.
Bên cạnh đó, Trung Quốc đã bắt đầu soạn thảo bộ tiêu chuẩn quốc gia bắt buộc về an toàn tác nhân AI. Theo chuyên gia Brian Tse, đây sẽ là bộ tiêu chuẩn đầu tiên trên thế giới trong lĩnh vực này.
Nhận diện nguy cơ AI mất kiểm soát
Bắc Kinh lần đầu đưa kịch bản AI mất kiểm soát vào khung an toàn AI hồi tháng 9-2024, dưới sự hướng dẫn của CAC.
Tài liệu khi đó cho rằng không thể loại trừ khả năng AI trong tương lai có thể tự ý chiếm dụng tài nguyên bên ngoài, tự nhân bản, hình thành nhận thức, dẫn đến nguy cơ cạnh tranh quyền kiểm soát trực tiếp với con người.
Đến tháng 9-2025, CAC công bố bản mô tả chi tiết hơn, cho rằng AI có thể tạo ra những bước nhảy vọt trí tuệ đột ngột và bất ngờ, trước khi tự tìm kiếm tài nguyên, nhân bản và tiếm quyền.
Bản cập nhật bổ sung nguyên tắc quản trị "bảo đảm ứng dụng AI an toàn, ngăn ngừa mất kiểm soát". Một bài diễn giải trên cổng thông tin CAC sau đó khẳng định nguyên tắc này nhằm phòng ngừa nguy cơ AI mất kiểm soát, đe dọa sự tồn tại và phát triển của con người.
Trung Quốc mở không gian hợp tác AI tại BRICS, cạnh tranh tiêu chuẩn với MỹChủ tịch Trung Quốc Tập Cận Bình tuyên bố Bắc Kinh sẽ đi đầu xây dựng không gian hợp tác chuyên biệt về AI mã nguồn mở dành cho các nước khối BRICS.