Cảnh tượng một robot dẫn kẻ thù vào bãi mìn hoặc giả chết vốn chỉ xuất hiện trong các phim khoa học viễn tưởng, song chẳng bao lâu nữa người máy sẽ có khả năng thực hiện những hành vi đó trong cuộc sống. “ Chúng tôi vừa tạo ra một số thuật toán cho phép robot tự ra quyết định về việc đánh lừa con ng...
Cảnh tượng một robot dẫn kẻ thù vào bãi mìn hoặc giả chết vốn chỉ xuất hiện trong các phim khoa học viễn tưởng, song chẳng bao lâu nữa người máy sẽ có khả năng thực hiện những hành vi đó trong cuộc sống.
“Chúng tôi vừa tạo ra một số thuật toán cho phép robot tự ra quyết định về việc đánh lừa con người hoặc những cỗ máy thông minh khác. Robot cũng sẽ có khả năng lựa chọn chiến thuật đánh lừa tốt nhất để giảm nguy cơ bị phát hiện”, Livescience dẫn lời Ronald Arkin, một chuyên gia về robot của Viện Công nghệ Georgia tại Mỹ.
Arkin và các đồng nghiệp lập trình để các robot tự nhận biết những tình huống mà chúng có thể thực hiện hành vi đánh lừa. Đó là những tình huống gây phát sinh mâu thuẫn, xung đột giữa robot với những đối tượng tìm kiếm chúng và robot phải có lợi nếu lừa gạt. Sau khi robot xác định được tình huống cần thực hiện hành vi đánh lừa, chúng sẽ tung ra thông tin giả hoặc áp dụng chiến thuật lừa gạt trên những thông tin mà chúng đã biết về đối thủ.
Nhóm nghiên cứu đã thực hiện 20 thử nghiệm “trốn tìm” đối với hai robot. Họ đặt những vật có màu sắc sặc sỡ dọc theo ba con đường dẫn tới nơi mà robot có thể trú ẩn. Khi cặp robot được đưa vào tình huống buộc phải lẩn trốn, chúng phá hủy những vật có màu sắc trên một con đường rồi chạy sang con đường khác. Bằng cách đó chúng khiến những kẻ rượt đuổi nghĩ rằng chúng đã chạy qua con đường có những vật bị phá hủy.
Tỷ lệ đánh lừa thành công là 75%, nghĩa là cặp robot không bị phát hiện trong 15 trên tổng số 20 thử nghiệm.
Nhóm nghiên cứu cho rằng những thuật toán của họ cũng có thể giúp robot lừa gạt người. Trên chiến trường, robot có thể ẩn nấp và đánh lừa binh lính đối phương. Trong các chiến dịch tìm kiếm và cứu hộ robot có thể giấu diếm tình hình thực tế để các nạn nhân cảm thấy yên tâm và lạc quan hơn.
Tất nhiên, Arkin thừa nhận những robot biết đánh lừa có thể gây nên nhiều vấn đề về đạo đức. Theo ông, sự lừa gạt được chấp nhận trong hoàn cảnh chiến tranh, song nó bị xã hội lên án trong những tình huống khác. Vì thế trong tương lai có lẽ các chính phủ cần ban hành quy định về những trường hợp mà người máy có thể thực hiện hành vi đánh lừa.
Robot HRP-4C có khả năng trình diễn thời trang tại Nhật Bản. (Ảnh: roboticstation.com).
Những cảnh robot dẫn đối thủ vào bãi mìn hoặc giả chết từng thuộc về phim khoa học viễn tưởng, nhưng nay đang dần trở thành khả năng được nghiên cứu nghiêm túc. Một nhóm chuyên gia tại Viện Công nghệ Georgia, Mỹ, đã phát triển các thuật toán cho phép robot tự quyết định khi nào nên đánh lừa con người hoặc những cỗ máy thông minh khác. Ronald Arkin, chuyên gia robot của viện, cho biết robot còn có thể lựa chọn chiến thuật phù hợp nhất nhằm giảm nguy cơ hành vi gian dối bị phát hiện.
Công trình này không khiến robot lừa gạt tùy tiện trong mọi hoàn cảnh, bởi nhóm nghiên cứu đặt ra những điều kiện cụ thể để hệ thống cân nhắc. Robot trước hết phải nhận biết tình huống đang phát sinh mâu thuẫn hoặc xung đột giữa nó với đối tượng truy tìm, đồng thời hành vi đánh lừa phải đem lại lợi ích rõ ràng. Khi hai điều kiện ấy xuất hiện, robot mới xem xét việc tung thông tin giả hoặc sử dụng những dữ liệu đã biết về đối thủ để đánh lạc hướng.
Để kiểm tra khả năng đó, nhóm nghiên cứu tổ chức 20 thử nghiệm trốn tìm với hai robot, trong một bối cảnh được thiết kế nhằm buộc chúng phải lựa chọn đường đi. Ba con đường dẫn tới khu vực trú ẩn được bố trí các vật có màu sắc sặc sỡ, tạo ra dấu hiệu mà những kẻ truy đuổi có thể quan sát và sử dụng. Khi rơi vào tình thế cần lẩn tránh, cặp robot phá hủy các vật màu trên một con đường rồi nhanh chóng di chuyển sang một con đường khác.
Chiến thuật này tạo ra một câu chuyện giả về hướng di chuyển, khiến đối tượng truy đuổi tin rằng hai robot đã đi qua nơi những vật đánh dấu bị phá hủy. Kết quả cho thấy cách đánh lừa đạt tỷ lệ thành công 75%, bởi cặp robot không bị phát hiện trong 15 trên tổng số 20 lần thử nghiệm. Con số này chưa biến robot thành những kẻ lừa đảo hoàn hảo, nhưng chứng minh máy móc có thể kết hợp quan sát, lựa chọn chiến thuật và hành động có chủ đích.
Nhóm nghiên cứu nhận định các thuật toán tương tự có thể được mở rộng để robot đánh lừa con người trong những hoàn cảnh phức tạp hơn. Trên chiến trường, robot có thể ẩn nấp, tạo dấu hiệu sai lệch hoặc khiến binh lính đối phương hiểu nhầm về vị trí thực sự của nó. Nếu được triển khai trong nhiệm vụ tìm kiếm và cứu hộ, robot cũng có thể che giấu một phần tình hình nhằm giúp nạn nhân duy trì cảm giác yên tâm và lạc quan.
Tuy nhiên, một cỗ máy biết đánh lừa sẽ lập tức đặt ra câu hỏi về ranh giới giữa khả năng tự chủ hữu ích và hành vi khó chấp nhận. Trong chiến tranh, sự đánh lừa có thể được xem là chiến thuật phù hợp, nhất là khi nó giúp robot tránh bị phát hiện hoặc bảo vệ lực lượng con người. Ngoài chiến trường, cùng hành vi ấy có thể bị xã hội lên án nếu robot che giấu thông tin quan trọng, thao túng quyết định hoặc làm tổn hại niềm tin.
Ronald Arkin thừa nhận công nghệ này có thể tạo ra nhiều vấn đề đạo đức, bởi hiệu quả kỹ thuật không đồng nghĩa với sự chính đáng trong mọi hoàn cảnh. Một thuật toán có thể xác định thời điểm hành vi lừa gạt giúp robot đạt mục tiêu, nhưng không tự trả lời đầy đủ câu hỏi liệu mục tiêu ấy có đáng được ưu tiên hay không. Trách nhiệm vì thế không chỉ nằm ở người lập trình, mà còn liên quan đến nhà sản xuất, đơn vị triển khai và cơ quan quản lý.
Từ những thử nghiệm ban đầu, các chính phủ có thể sẽ phải xây dựng quy định xác định trường hợp người máy được phép đánh lừa. Quy định ấy cần phân biệt nhiệm vụ quân sự, cứu hộ và dân sự, đồng thời đặt giới hạn cho thông tin robot được che giấu hoặc bịa đặt. Robot tương lai có thể biết đánh lừa, nhưng cách xã hội kiểm soát năng lực ấy mới quyết định công nghệ trở thành công cụ bảo vệ hay nguồn rủi ro mới.
