Xe tự lái thường được điều khiển bởi các mô hình học sâu có khả năng xử lý lượng lớn dữ liệu từ camera và cảm biến. Tuy nhiên, những hệ thống này đôi khi vẫn mắc lỗi theo cách khó lường, chẳng hạn đột ngột phanh giữa đường hoặc thực hiện một thao tác bất thường trong tình huống nguy hiểm.
Trong những trường hợp như vậy, tài xế an toàn hoặc hành khách có thể chỉ có vài giây để phản ứng nhằm tránh tai nạn. Vấn đề là con người thường không biết vì sao AI lại đưa ra quyết định như vậy.
Để giải quyết bài toán này, các nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT) và công ty công nghệ xe tự hành Motional phát triển một phương pháp mới mang tên Concept-Wrapper Network (CW-Net). Hệ thống có thể giải thích quá trình ra quyết định của AI bằng những khái niệm dễ hiểu mà không làm thay đổi khả năng vận hành của xe.
“Phiên dịch” suy nghĩ của AI
Bộ lập kế hoạch dựa trên học máy được xem như “bộ não” của xe tự lái. Hệ thống tiếp nhận dữ liệu từ camera và cảm biến lidar, xây dựng hình ảnh tổng quát về môi trường xung quanh, quyết định phương tiện nên làm gì tiếp theo rồi tạo ra quỹ đạo để xe di chuyển.
Tuy nhiên, các mô hình học sâu này thường hoạt động giống một “hộp đen”: quá trình bên trong phức tạp đến mức ngay cả kỹ sư cũng khó xác định chính xác nguyên nhân khiến xe đưa ra một quyết định bất thường.
CW-Net được thiết kế để biến những tín hiệu nội bộ đó thành các khái niệm mà con người có thể hiểu, chẳng hạn “đang tiến gần một phương tiện dừng phía trước” hay “ở gần người đi xe đạp”.
Điểm quan trọng là lời giải thích không chỉ nhằm tạo cảm giác hợp lý. CW-Net được tích hợp trực tiếp vào mô hình lập kế hoạch, buộc phần ra quyết định cuối cùng phải sử dụng chính những khái niệm mà hệ thống vừa xác định.
Nhờ đó, các nhà nghiên cứu có thể đảm bảo rằng lời giải thích phản ánh tương đối trung thực nguyên nhân thực sự dẫn tới hành động của xe.
“Trong những môi trường có rủi ro cao như xe tự lái, điều đặc biệt quan trọng là lời giải thích không được gây hiểu nhầm”, nhà nghiên cứu Eoin Kenny, tác giả chính của công trình, cho biết.
CW-Net đồng thời tạo ra các lời giải thích theo thời gian thực cùng với quỹ đạo di chuyển của xe. Điều này có nghĩa tài xế an toàn không chỉ nhìn thấy xe đang làm gì mà còn biết hệ thống AI “cho rằng” điều gì đang xảy ra xung quanh.
Nhóm nghiên cứu huấn luyện CW-Net bằng khoảng 130 triệu ví dụ về các tình huống giao thông, trong đó mỗi cảnh được gắn nhãn nhiều khái niệm khác nhau. Quy mô dữ liệu lớn giúp hệ thống nhận diện chính xác các tình huống trong nhiều điều kiện giao thông.
Phát hiện một sai lầm nguy hiểm
Các nhà nghiên cứu thử nghiệm CW-Net trên một robotaxi của Motional tại đường thử riêng với sự giám sát của tài xế an toàn.
Kết quả cho thấy các lời giải thích giúp tài xế dự đoán chính xác hơn phản ứng của xe trong những tình huống bất thường.
Một thử nghiệm đặc biệt cho thấy giá trị của công nghệ này. Chiếc xe liên tục dừng lại khi tiến gần một người đi xe đạp. Tài xế an toàn ban đầu cho rằng xe dừng vì hệ thống đã phát hiện người đi xe đạp và chủ động tránh va chạm.
Nhưng CW-Net tiết lộ một thực tế hoàn toàn khác.
Mô hình thực chất không được cấu hình đúng để phát hiện người đi xe đạp và đã chọn một quỹ đạo có thể dẫn tới va chạm. Chiếc xe chỉ dừng lại khi hệ thống phanh khẩn cấp được kích hoạt vì khoảng cách đã quá gần.
Nếu không có lời giải thích của CW-Net, việc xe dừng thành công rất dễ khiến con người nhầm tưởng rằng hệ thống đang hoạt động đúng.
Tăng khả năng giám sát xe tự lái
Trong những thử nghiệm mô phỏng lớn hơn, sử dụng các tình huống giao thông thực tế được ghi lại trên đường phố Las Vegas, các nhà nghiên cứu tiếp tục nhận thấy kết quả tương tự.
Những người tham gia được cung cấp lời giải thích từ CW-Net có khả năng dự đoán hành vi tiếp theo của xe tự lái tốt hơn đáng kể so với nhóm không nhận được thông tin này.
Theo nhóm nghiên cứu, công nghệ có thể giúp thu hẹp khoảng cách giữa cách AI thực sự ra quyết định và cách con người hình dung về hoạt động của nó. Đây là yếu tố quan trọng để xây dựng mức độ tin tưởng phù hợp đối với hệ thống tự hành: không tin tưởng mù quáng, nhưng cũng không nghi ngờ AI một cách không cần thiết.
Trong tương lai, CW-Net có thể được mở rộng để nhận diện nhiều khái niệm giao thông hơn, đồng thời áp dụng các phương pháp huấn luyện mới nhằm nâng cao độ chính xác và khả năng giải thích.
Julie Shah, giáo sư MIT và đồng tác giả nghiên cứu, cho rằng khả năng dự đoán hành vi của AI là điều kiện quan trọng để những công nghệ như xe tự lái được triển khai an toàn.
“Nếu chúng ta không thể xây dựng các hệ thống mà con người có thể dựa vào và dự đoán được hành vi của chúng, đó sẽ là một nền tảng rất thiếu chắc chắn và không an toàn cho việc ứng dụng công nghệ”, bà nói.
(Theo MIT News)