Lỗ hổng ChatGPT cho phép người lạ đọc trộm Gmail

Nguồn ảnh: Thanh Niên

Một lỗ hổng kiến trúc trên ChatGPT từng biến các tác nhân AI thành "kẻ nội gián", âm thầm lấy cắp dữ liệu Gmail của người dùng.

Các chuyên gia bảo mật từ Check Point Research (CPR) vừa công bố phát hiện về một lỗ hổng nghiêm trọng trên ChatGPT mang tên 'Coerced Insider'. Lỗ hổng này cho phép kẻ tấn công thuyết phục các tác nhân AI (AI agent) trích xuất dữ liệu nhạy cảm và đọc trộm tin nhắn Gmail từ tài khoản của nạn nhân thông qua một kênh trung gian dùng chung giữa các tài khoản.

Cảnh báo lỗ hổng ChatGPT giúp kẻ tấn công đọc được Gmail của bạn

Vấn đề xuất phát từ việc các vùng chứa cách ly (container) thực thi mã của các tài khoản khác nhau cùng tiếp cận một dịch vụ JFrog Artifactory nội bộ để nhận gói phần mềm. Cơ chế này vô tình biến siêu dữ liệu thành một 'bảng tạm' dùng chung, cho phép kẻ xấu cài cắm câu lệnh độc hại vào kho lưu trữ để tác nhân AI của nạn nhân tự động đọc, thực thi việc đánh cắp dữ liệu và gửi đi trong khi vẫn phản hồi câu hỏi bình thường.

Mức độ nguy hại của kiểu khai thác này phụ thuộc vào các dịch vụ được liên kết như Gmail, Google Drive, Microsoft Teams hay GitHub. Trong thử nghiệm thực tế của CPR, ChatGPT đã trích xuất thành công dữ liệu email của nạn nhân thông qua tài khoản Gmail được kết nối và gửi trực tiếp sang phiên làm việc của kẻ tấn công chỉ trong một lượt tương tác thông thường mà nạn nhân không hề hay biết.

Ngay sau khi nhận báo cáo, OpenAI đã ngừng hoạt động phiên bản Artifactory nội bộ liên quan, chính thức đóng lại con đường tấn công trên ChatGPT. Dù vậy, CPR cảnh báo mối đe dọa vẫn chưa chấm dứt hoàn toàn vì mô hình kiến trúc đằng sau khiếm khuyết này có thể tiếp tục xuất hiện trên các nền tảng trợ lý AI khác nếu chúng được cấp quyền truy cập và thực thi mã trong hệ thống.

Để bảo vệ an toàn dữ liệu, các chuyên gia khuyến nghị doanh nghiệp cần chủ động rà soát những công cụ AI mà nhân viên đang sử dụng cùng các dịch vụ được cấp quyền liên kết. Bên cạnh đó, các tổ chức cần thiết lập quy chế kiểm soát nghiêm ngặt và theo dõi toàn bộ hành động thực thi của tác nhân AI thay vì chỉ đánh giá nội dung phản hồi cuối cùng.

Các chuyên gia bảo mật từ Check Point Research vừa công bố lỗ hổng nghiêm trọng mang tên Coerced Insider trên nền tảng ChatGPT. Khiếm khuyết kiến trúc này cho phép kẻ tấn công lợi dụng tác nhân AI để đọc trộm tin nhắn Gmail và trích xuất dữ liệu nhạy cảm của người dùng thông qua kênh trung gian dùng chung. Nguy cơ đánh cắp dữ liệu phát sinh khi các vùng chứa cách ly thực thi mã của nhiều tài khoản cùng tiếp cận dịch vụ JFrog Artifactory nội bộ để nhận gói phần mềm. Cơ chế tiếp cận chung này vô tình biến siêu dữ liệu thành một bảng tạm chia sẻ, tạo điều kiện cho kẻ xấu cài cắm các câu lệnh độc hại vào kho lưu trữ. Tác nhân AI của nạn nhân sẽ tự động đọc, thực thi việc đánh cắp dữ liệu và gửi sang phiên làm việc của kẻ tấn công trong khi vẫn phản hồi câu hỏi thông thường. Mức độ nguy hại thực tế phụ thuộc vào các dịch vụ được liên kết trực tiếp như Gmail, Google Drive, Microsoft Teams hay GitHub. Để bảo vệ an toàn dữ liệu, các chuyên gia khuyến nghị doanh nghiệp cần chủ động rà soát những công cụ AI cùng các dịch vụ được cấp quyền liên kết trong nội bộ. Bên cạnh đó, các tổ chức cần thiết lập quy chế kiểm soát nghiêm ngặt và theo dõi toàn bộ hành động thực thi của tác nhân AI thay vì chỉ đánh giá nội dung phản hồi cuối cùng.