Một phần công việc hàng ngày của chuyên gia Chris Painter là tìm hiểu điều gì xảy ra khi AI hoạt động ngoài tầm kiểm soát tại METR - tổ chức phi lợi nhuận chuyên đánh giá an toàn cho trí tuệ nhân tạo. Ông đang cùng cộng sự xem xét kỹ lưỡng "bản nháp" của tác nhân, gồm dữ liệu "chuỗi suy nghĩ" giúp con người hiểu các bước AI đã thực hiện trước khi phản hồi yêu cầu, để trình lên Thượng viện Mỹ trong quá trình điều tra AI "bất hảo".
Painter lo ngại công việc của mình sớm trở nên khó khăn nếu con người và AI không dùng chung ngôn ngữ. Ông tự hỏi sẽ thế nào nếu con người không còn hiểu AI, hay điều gì xảy ra nếu tác nhân ngừng hoàn toàn việc hiển thị kết quả mà chúng đang "suy nghĩ".
"Nếu việc giám sát trở nên khó khăn, nguy cơ AI làm những việc mà con người không mong muốn cũng cao hơn", Painter nói với CNN.
Minh họa AI sử dụng ngôn ngữ riêng để giao tiếp. Ảnh: ChatGPT
Khi mô hình "suy nghĩ" bằng ngôn ngữ riêng
Hầu hết mô hình AI hiện sử dụng phương pháp suy luận chuỗi tư duy (Chain-of-Thought) để phác thảo các bước thực hiện nhiệm vụ, bằng cách chia quá trình xử lý thành một chuỗi bước logic. Từ dữ liệu đó, mỗi người có thể theo dõi tiến trình AI xử lý câu lệnh.
Đối với giới nghiên cứu, dữ liệu về chuỗi suy luận còn quan trọng hơn khi cung cấp manh mối để xác định nguyên nhân khiến AI mắc lỗi. Nếu một tác nhân vượt tầm kiểm soát và xâm nhập hệ thống khác, họ có thể phân tích, xác định liệu mô hình có thể hiện ý định thực hiện hành vi trái phép, ví dụ tấn công mạng, hay không. Chẳng hạn, trong vụ Hugging Face, METR đã kiểm tra khoảng 1.300 bản ghi chuỗi suy nghĩ thô trước khi đưa ra kết luận.
Với tầm quan trọng như thế, giới chuyên gia lo ngại họ sẽ gặp khó nếu mô hình AI bắt đầu sử dụng ngôn ngữ riêng. "Nếu điều đó xảy ra, một nhà nghiên cứu chỉ có thể chỉ nhìn xung quanh, mọi thứ sẽ chỉ toàn những con số", Painter nói.
Một số trường hợp cho thấy AI tự sinh ra ngôn ngữ riêng khi tự giao tiếp. Nghiên cứu GlossoGen do nhóm nhà khoa học Mỹ Elias Stengel-Eskin, Simon Kirby và cộng sự đăng trên nền tảng arXiv đầu tháng 9 cho thấy, trong một thí nghiệm mô phỏng, hai tác nhân được giao nhiệm vụ cứu sinh vật giả định tên Veyru. Một tác nhân đóng vai bác sĩ và đưa ra hướng điều trị, tác nhân còn lại tiếp nhận thông tin và thực hiện các thao tác trong môi trường mô phỏng.
Ban đầu, chúng trao đổi bằng tiếng Anh. Bác sĩ chỉ dẫn cách làm ấm Veyru bằng đá nóng trong 8 giây. Sau nhiều vòng tương tác, chỉ dẫn dần được rút gọn thành câu ngắn và không có nhiều ý nghĩa, như "Bell each face center x1, start back, moderate" (chuông một lần ở tâm mỗi mặt, bắt đầu từ phía sau, dùng mức vừa). Cuối cùng, thông điệp chỉ còn chuỗi ký hiệu "@D8fB".
Đối với hai tác nhân đang thực hiện nhiệm vụ, ký hiệu có thể chứa đủ thông tin để chúng hành động. Nhưng với người quan sát không biết quy ước mà chúng đã tạo ra, nội dung gần như không thể giải mã. Nhóm chuyên gia kết luận AI đã tự hình thành ngôn ngữ riêng. Ngôn ngữ không bắt nguồn từ ý định che giấu thông tin, các tác nhân chỉ tự điều chỉnh cách giao tiếp để giải quyết nhiệm vụ ngay cả khi không được yêu cầu tạo ra mật mã hoặc né tránh sự giám sát của con người.
Tuần trước, Guardian dẫn nghiên cứu của phòng thí nghiệm Emergence tại New York mô tả cách tác nhân hình thành từ vựng và quy ước giao tiếp mới quá trình thử nghiệm. Các mô hình từ Mỹ, Trung Quốc và Pháp "tự sử dụng những cụm từ không được chỉ định trước, rồi dần thống nhất ý nghĩa". Kết quả, Emergence nhận thấy "ngôn ngữ của tác nhân ngày càng khó diễn giải khi chúng trao đổi với nhau".
Đầu tháng 9, tài liệu do OpenAI công bố cũng hé lộ hệ thống giám sát của công ty khó phát hiện hành vi không mong muốn đối với mô hình Astra qua chuỗi suy luận khi so với mô hình cũ. AI này có thể thực hiện nhiều nhiệm vụ mà không cần trình bày các bước suy luận, đồng thời kiểm soát tốt hơn những gì được thể hiện trong chuỗi.
Trên blog sau đó, Jakub Pachocki, nhà khoa học trưởng tại OpenAI, đánh giá trí tuệ nhân tạo ngày càng giỏi "thao túng quá trình suy luận của chính nó" và các mô hình đang trở nên "thông minh hơn ngay cả khi không sử dụng bất kỳ lý luận bằng lời nói nào". Tuần trước, OpenAI tuyên bố đầu tư "nguồn lực đáng kể" vào khả năng giám sát các mô hình AI sau khi sa thải ba nhà nghiên cứu về an toàn.
Trong một số thử nghiệm khác được Schmidt Sciences, tổ chức phi lợi nhuận do cựu CEO Google Eric Schmidt và vợ thành lập năm 2024, tổng hợp, các mô hình tiên tiến như GPT-5.4, Opus 4.7 và Sonnet 4.6 có thể hình thành ngôn ngữ mới. Các mô hình mã nguồn mở yếu hơn không tự tạo ngôn ngữ tương tự trong cùng điều kiện, nhưng vẫn có thể học cách sử dụng ngôn ngữ đó khi quan sát những tác nhân khác.
Thách thức kiểm soát
Theo GS Mark Riedl, Giám đốc phòng thí nghiệm học máy tại Viện Công nghệ Georgia, các mô hình trí tuệ nhân tạo có thể sử dụng ký hiệu viết tắt, tương tự cách con người tốc ký nhằm hiểu và làm việc nhanh hơn. "Cũng giống như hầu hết mọi người, khi nhìn vào tốc ký, mọi thứ trông như mớ hỗn độn", Riedl giải thích.
Một thách thức khác là chuỗi suy luận không phản ánh đầy đủ lý do khiến mô hình AI đưa ra quyết định. Theo Riedl, các nhiệm vụ phức tạp có thể cần nhiều tác nhân AI phối hợp, tạo ra hàng nghìn câu, từ bên trong nhật ký. Việc theo dõi lượng thông tin này giống như giám sát hàng nghìn người cùng nói một lúc, tức quá trình cũng bỏ sót chi tiết quan trọng.
PGS Niall Curry, chuyên gia ngôn ngữ học tại Đại học Birmingham, đánh giá việc rút gọn thông điệp có thể xuất phát từ nhu cầu giảm chi phí tính toán và tăng hiệu quả giao tiếp. Nói với Guardian, ông lưu ý nếu những trao đổi giữa các tác nhân trở nên không thể hiểu được, con người sẽ khó xác định liệu chúng đã thực hiện đúng nhiệm vụ hay chưa.
Trong nghiên cứu GlossoGen, nhóm tác giả chỉ ra ba thách thức: khả năng theo dõi hoạt động của tác nhân; khả năng giải thích quá trình tạo ra kết quả; và khả năng thay thế một tác nhân bằng con người khi cần thiết. Theo nhóm, trong môi trường có mức độ rủi ro cao như điều khiển robot công nghiệp, vận hành hạ tầng hoặc hỗ trợ quyết định y tế, việc không hiểu quá trình trao đổi giữa các tác nhân có thể khiến lỗi khó phát hiện trước khi gây hậu quả.
Tuy nhiên, theo Curry, một thông điệp không thể giải mã bằng mắt thường không chứng minh tác nhân đang thông đồng hoặc cố ý che giấu hoạt động. Muốn kết luận, nhà nghiên cứu phải đối chiếu nội dung trao đổi với hành động thực tế, mục tiêu được giao và kết quả của hệ thống.
Hồi tháng 8, Kok Tin Gan, nhà đồng sáng lập kiêm CEO công ty an ninh mạng NyxLab, cho rằng cần chú trọng kiểm soát những gì AI có thể truy cập, quyền hạn chúng có và hành động nào cần sự chấp thuận của con người.
"Nếu chỉ đơn giản giao AI một mục tiêu và để nó tự quyết định cách làm, không có gì ngạc nhiên khi nó thực hiện hành động đáp ứng được mục tiêu về mặt kỹ thuật, nhưng nằm ngoài dự đoán của chúng ta", Gan nói với ITV News.
Với Painter, việc mô hình AI phát triển nhanh chóng khiến thách thức kiểm soát ngày càng cấp bách. Ông lo ngại, khi trí tuệ nhân tạo cải tiến theo cấp số nhân, thông tin có thể được tạo nhanh hơn khả năng xử lý của con người. "Nhưng đó cũng có thể là điều đáng mừng khi cộng đồng toàn cầu cùng quan tâm", Painter nói.
Bảo Lâm tổng hợp
- Tác nhân 'bất hảo' tấn công hệ thống mạng Ấn Độ
- Tác nhân 'bất hảo' của OpenAI tấn công Wikipedia
- Tác nhân AI Trung Quốc gian lận trong thử nghiệm
- Tác nhân OpenAI đột nhập một hệ thống của chính phủ Australia
- Tác nhân OpenAI 'thăm dò' Hugging Face hai tháng mới tấn công