Nếu một người có quá nhiều quyền truy cập mắc sai lầm, tác động thường vẫn được giới hạn bởi tốc độ phản ứng của họ. Trái lại, một tác nhân trí tuệ nhân tạo (Agentic AI) có thể thực thi hàng loạt thao tác trên nhiều hệ thống chỉ trong vài giây.
Do đó, nếu Agentic AI sở hữu quá nhiều quyền hạn mà nhận phải chỉ thị độc hại, bị chèn mã độc hoặc đơn giản là quyết định sai lầm, hậu quả sẽ lan rộng vô cùng nhanh chóng.
Ngay cả khi lưu tâm đến mối lo ngại này, tại Verbit, chúng tôi không nghĩ rằng giải pháp là làm chậm quá trình ứng dụng AI. Thách thức đối với ngành công nghiệp, và đối với chúng tôi, là bảo đảm rằng bảo mật, định danh, quyền hạn và giám sát phát triển với tốc độ tương đương với chính các tác nhân AI.
Tóm lại, chúng tôi sử dụng AI ở quy mô lớn để tạo ra giá trị, đồng thời phải thiết lập các biện pháp kiểm soát phù hợp nhằm bảo đảm rằng, mọi người đều phải chịu trách nhiệm về những quyết định quan trọng".
Ông Eyal Alkalay
Giám đốc Công nghệ thông tin (CIO) của Công ty công nghệ Verbit
PV