Chiến tranh AI và nỗi lo con người vào vai phụ

Chiến dịch quân sự đặc biệt của Nga vào Ukraine diễn ra 9 tháng trước khi OpenAI phát hành ChatGPT. Sau hơn 4 năm, cuộc xung đột đã trở thành một phòng thí nghiệm thực địa cho việc sử dụng các hệ thống AI trong chiến tranh, với những bài học thu được không chỉ định hình chiến lược của Ukraine và các đồng minh phương Tây, mà còn cả của Mỹ trong cuộc đối đầu với Iran.

Nhưng khi các mô hình AI đạt đến điểm phát triển nhanh hơn khả năng kiểm soát của con người, các lãnh đạo quân sự và chính trị sẽ phải đối mặt với câu hỏi: chuyện gì sẽ xảy ra khi con người hoàn toàn đánh mất quyền kiểm soát?

Mối lo cũ

Năm 1964, bộ phim trào phúng Dr. Strangelove của đạo diễn Stanley Kubrick từng khiến công chúng rùng mình trước kịch bản về "Cỗ máy hủy diệt" (Doomsday Machine), một hệ thống tự động hóa phản công hạt nhân hoàn toàn vượt tầm kiểm soát của con người.

Trong số những nỗi lo ngại về AI, viễn cảnh AI tự kích hoạt chiến tranh hạt nhân hủy diệt nhân loại thường bị giới chuyên gia gạt đi như một kịch bản hù dọa mang màu sắc viễn tưởng.

• 'Tận thế AI': Hãy nhìn với con mắt hoài nghi

• CEO Nvidia: Xác suất AI khiến thế giới diệt vong vào năm 2030 là 0%

Lá chắn an toàn là quy trình nguyên tắc human-in-the-loop (con người tham gia trực tiếp). Nhưng một kịch bản Dr. Strangelove trong đời thực vẫn hoàn toàn có thể xảy ra, với vũ khí hạt nhân, drone và các loại vũ khí tự hành khác, ngay cả khi có mặt con người trong quy trình, theo cựu CEO Google Eric Schmidt.

Trong một thảo luận tại diễn đàn do Sáng kiến Đe dọa hạt nhân (NTI) tổ chức hồi tháng 1-2024, Schmidt nhấn mạnh một rủi ro mới: áp lực thời gian, phải tốc chiến tốc thắng có thể khiến sự kiểm soát của con người không được như ý muốn. Quyền quyết định khi đó nằm trong thuật toán, và "các hệ thống ngày nay rất mạnh mẽ, nhưng chúng vẫn mắc sai lầm".

Điều gì sẽ xảy ra khi AI, trong một chừng mực nào đó, ra quyết định thay con người ngay trên chiến trường? Đây không còn là câu hỏi giả định, mà đã có thực tế trả lời.

Hiện thực mới

Nhìn bên ngoài, Saker Scout trông giống như hàng ngàn chiếc drone khác đang ngày đêm tuần tra trên bầu trời nơi tiền tuyến Ukraine. Chiếc quadcopter (4 cánh quạt) màu đen này được trang bị một camera cho phép phi công điều khiển từ xa và mang theo khối thuốc nổ nặng 5kg, thường là một quả lựu đạn hoặc một đầu đạn chống tăng.

Thế nhưng, ẩn bên dưới khung sợi carbon của nó là một bo mạch máy tính chỉ nhỏ bằng chiếc thẻ tín dụng. Phần mềm học máy tích hợp trong đó có khả năng nhận diện 47 nhóm trang thiết bị quân sự khác nhau, từ xe tăng đến bộ binh, tự động vẽ các khung ảo xung quanh các đối tượng và gán chỉ số phần trăm mức độ chắc chắn cho mọi thứ mà nó nhìn thấy.

Trước khi cất cánh, người điều khiển (là con người) sẽ chọn những mục tiêu nào quan trọng nhất, thiết lập ngưỡng chắc chắn cần thiết để kích hoạt tấn công, và định nghĩa "khu vực tiêu diệt", phạm vi mà mọi thứ nằm trong đó đều là mục tiêu. Một khi đã vào bên trong khu vực đó, chiếc drone có thể tự tìm kiếm, nhận dạng và, nếu chỉ số chắc chắn đủ cao, lao xuống tấn công mà không cần chờ thêm bất kỳ mệnh lệnh nào từ con người.

Tuy nhiên, có một điểm hạn chế quan trọng: thuật toán có thể phân biệt một chiếc xe tăng với một chiếc xe tải, hay bộ binh với pháo binh, nhưng không thể biết mục tiêu đó là của Ukraine hay của Nga. Do đó, hệ thống này hoạt động dựa trên một giả định: mọi thứ mang tính quân sự nằm bên trong "khu vực tiêu diệt" đều thuộc về kẻ thù.

"Bạn phải chắc chắn rằng không có dân thường, và không có người của phe mình ở đó" - Rostyslav Olenchyn, từ Twist Robotics, công ty Ukraine đứng sau Saker Scout, cho biết. "Đây là một loại vũ khí rất đặc biệt và chỉ được sử dụng trong những trường hợp nhất định bởi các đơn vị chuyên trách" - ông nói thêm với The Times.

Ngày 6-7 tại thành phố Zaporizhzhia, đông nam Ukraine, một chiếc drone nhỏ của Nga có hình dáng giống như mô hình máy bay đã lao từ trên trời xuống, đâm vào tường và phát nổ. Các mảnh vỡ làm 3 người tử vong, trong đó có một nữ sinh viên đại học 19 tuổi.

Theo The New York Times, chiếc drone này được trang bị mô đun tích hợp AI của Nvidia để dẫn đường, thay vì được con người điều khiển từ xa. Thiết bị này đã được lập trình để di chuyển về phía một trạm xăng cụ thể và tìm kiếm mục tiêu.

Trong vụ việc trên, nhiều khả năng mục tiêu AI nhắm tới là các bình khí propane, "dựa trên việc nó đã được huấn luyện để nhận diện các bình khí đó và tấn công chúng", các chuyên gia và giới chức quân sự cho biết.

Nói với Al Jazeera, Heorhii Volkov, chỉ huy đơn vị drone Yasni Ochi của Ukraine, giải thích rằng khi thiết bị bay tiến gần mục tiêu, sóng tác chiến điện tử thường xuyên làm đứt liên lạc vô tuyến giữa phi công và drone. Nhờ các mô đun AI tích hợp, chiếc drone có thể tự tiếp quản điều khiển trong 100 đến 500 mét cuối cùng, tự khóa mục tiêu và hoàn thành đòn đánh ngay cả khi mất hoàn toàn tín hiệu. Cách làm này gọi là tự động hóa AI cho "chặng cuối", và đây là hướng ứng dụng phổ biến nhất hiện nay, theo Al Jazeera.

Oleksii Babenko, người sáng lập Công ty Vyriy Drone, nhận định rằng hiện chỉ khoảng 2% số drone trên chiến trường sử dụng một dạng AI nào đó để tự tìm mục tiêu. "Và 2% của 5 triệu chiếc drone vẫn là một con số rất lớn" - ông nói với The Times.

Bức tranh lớn

Trao đổi với Al Jazeera, Marina Miron, nhà nghiên cứu tại Đại học King's College London, nhấn mạnh AI quân sự không đơn thuần là việc một chiếc drone nhìn thấy mục tiêu rồi lao vào tấn công. AI còn có vai trò lớn trong mô hình "trinh sát - tiêu diệt".

Trong hệ thống này, các nền tảng quản lý chiến trường như DELTA của Ukraine hay Svod của Nga đóng vai trò như một trung tâm đầu não. AI xử lý khối lượng dữ liệu khổng lồ từ vệ tinh, cảm biến, sóng đài và drone, sau đó vẽ bản đồ tọa độ thời gian thực và tự động đề xuất đơn vị pháo binh hoặc drone gần nhất thực hiện đòn đánh.

Theo The Times, quy trình từ khi phát hiện mục tiêu đến khi phát lệnh tấn công trước đây mất khoảng 20 phút thì nay được "nén" xuống dưới hai phút, đôi khi chỉ trong vài giây.

Chính sự gia tăng tốc độ này là gốc rễ của cảnh báo mà cựu CEO Google nêu ra ở diễn đàn NTI.

Nó cũng dẫn đến một câu hỏi hóc húa: dẫu vẫn có mặt, nhưng liệu con người có "vô hình" trong chuỗi quyết định? Trong một phỏng vấn với Tạp chí Noema tháng 6 vừa rồi, chính Eric Schmidt đưa ra câu trả lời:

"Tương lai sẽ kéo theo việc con người ở vị thế "giám sát hệ thống" (on the loop) của một hệ thống phân tán, thay vì luôn ở vị thế "trực tiếp quyết định" (in the loop), tức là giám sát, kiểm tra và can thiệp khi có điều gì đó bất thường, nhưng không nhất thiết phải cấp phép cho từng phát bắn riêng lẻ. Điều này thực chất chỉ là một hình thức thuật toán hóa của việc phân quyền xuống cấp dưới trong chuỗi chỉ huy vốn đã đặc trưng cho quân đội từ trước đến nay".

Nguy cơ hiện hữu

Trả lời Al Jazeera, chuyên gia Kateryna Bondar thuộc Trung tâm Nghiên cứu chiến lược và quốc tế (CSIS) phân tích rằng AI không có tư duy nhận thức; nó chỉ tuân thủ thuật toán và các quy tắc do con người viết ra. Việc lập trình cho máy tính phân biệt một chiếc xe tăng và xe buýt thì dễ, nhưng phân biệt giữa một binh sĩ và một dân thường lại là bài toán cực kỳ phức tạp.

Tình trạng này càng tồi tệ hơn khi drone giá rẻ sử dụng camera chất lượng thấp, cộng với điều kiện thời tiết hoặc các chiêu thức ngụy trang như lớp sơn "rằn ri" đặc thù của xe quân sự. Khi giao quyền quyết định cho một công nghệ chưa hoàn hảo, nguy cơ sát hại nhầm dân thường là điều khó tránh khỏi.

Như vậy, nguy cơ ở cấp độ kỹ thuật và đạo đức là có thật và đang diễn ra hằng ngày. Song đối với những người trực tiếp trong cuộc, sự tự động hóa không xuất phát từ mong muốn tạo ra những "robot sát thủ" trong phim viễn tưởng, mà đến từ áp lực sinh tồn.

The Wall Street Journal nhắc lại phát biểu của Babenko (Vyriy Drone), tại một hội thảo ở Kiev: hoặc robot sẽ tiêu diệt con người trong 50 năm, hoặc Ukraine sẽ bị Nga đánh bại trong một năm.

Yaroslav Azhnyuk, Giám đốc Công ty The Fourth Law, cũng chia sẻ với Al Jazeera rằng tự động hóa là con đường duy nhất để giải quyết tình trạng thiếu hụt nhân lực, khoảng cách tác chiến ngày càng xa và sự dày đặc của sóng gây nhiễu.

Với tư cách nguyên Chủ tịch Ủy ban Cố vấn an ninh quốc gia về AI của Mỹ (NSCAI), Eric Schmidt đề xuất xây dựng một khuôn khổ quản trị quốc tế bắt đầu bằng một hiệp ước "Không gây bất ngờ".

Theo đó, các quốc gia khi thử nghiệm công nghệ AI quân sự không được tiến hành bí mật, tránh việc thử nghiệm bị đối phương phát hiện bất ngờ và kích hoạt đòn phản công nhầm lẫn. Ngoài ra, nhân loại cần cùng nhau thiết lập một "khuôn khổ lòng tin" giữa con người với nhau.

Viễn cảnh các cỗ máy tự nhận thức nắm quyền kích hoạt kho vũ khí hạt nhân như trong Dr. Strangelove vẫn là nỗi lo lý thuyết xa vời.

Tuy nhiên, sự tự động hóa ở quy mô nhỏ, nơi các bo mạch giá rẻ và thuật toán nhận diện hình ảnh từng bước thu hẹp sự can thiệp của con người trong các chiến dịch tác chiến, lại là thực tế đang diễn ra.

AI chưa thể tự mình quyết định thắng bại của một cuộc chiến. Thế nhưng, như dòng tít của The Wall Street Journal, "Cuộc đua tự động hóa chiến trường dường như đã bước qua điểm không thể đảo ngược". Không một bên nào dám đơn phương chậm lại khi cái giá của sự chần chừ là thất bại.

AI có phải là "vũ khí thay đổi cuộc chơi"?

Trên The Times, giáo sư Olivier Schmitt thuộc Trường cao đẳng Quốc phòng Hoàng gia Đan Mạch chỉ ra sự lệch pha lớn: trong khi cấp độ chiến thuật đang biến đổi rất nhanh nhờ AI, thì nhịp độ của toàn bộ chiến dịch vẫn rơi vào trạng thái bế tắc.

Cả Nga và Ukraine đều ứng dụng AI mạnh mẽ, nhưng không bên nào tạo ra được bước đột phá chiến lược quyết định. AI giúp làm những việc con người muốn làm nhanh hơn và chính xác hơn, nhưng điều đó không đồng nghĩa với việc nó tự động mang lại chiến thắng trong một cuộc chiến tổng lực.

Drone Shahed trang bị động cơ phản lực của Nga đang trở thành thách thức mới đối với phòng không Ukraine khi có thể bay nhanh, ở độ cao lớn và khó bị đánh chặn hơn các phiên bản trước.