Theo Pratyush Choudhury, nhà đồng sáng lập quỹ đầu tư mạo hiểm Activate AI (Ấn Độ), việc sử dụng ngôn ngữ khác tiếng Anh khiến mô hình còn ít không gian hơn để lưu trữ tài liệu hoặc lịch sử hội thoại, đồng thời tốn nhiều công đoạn xử lý hơn khi đưa ra phản hồi.
"Hãy nghĩ đến một gia sư. Việc ghi nhớ lỗi sai và lời giải thích trước đó của học sinh rất quan trọng để buổi học hiệu quả. Tuy nhiên, bất lợi sẽ xảy ra khi phần lịch sử đó chiếm dụng cửa sổ ngữ cảnh nhanh hơn nhiều nếu sử dụng một ngôn ngữ nhất định", Choudhury nói với Rest of World. Cửa sổ ngữ cảnh là lượng thông tin tối đa mà mô hình AI có thể tiếp nhận và xử lý trong phiên làm việc, thường tính bằng token - đơn vị dữ liệu đầu vào cơ bản.
Thống kê do Liên minh vì Bình đẳng Ngôn ngữ trong Nghiên cứu AI (CLEAR) công bố tháng này cũng cho thấy, với một số ngôn ngữ, mô hình cần nhiều token hơn đáng kể. Nhóm gọi đây là "thuế tokeniz ẩn", khiến việc sử dụng AI bằng ngôn ngữ ít phổ biến trên Internet trở nên đắt đỏ. Tokenizer là công cụ phân tách văn bản, hình ảnh hoặc âm thanh thô thành các token.
Minh họa quá trình phân tách một câu nói bằng tiếng Anh và tiếng Malayalam thành token. Ảnh: CLEAR
Nghiên cứu chỉ ra, ngay cả trong nhóm 20 ngôn ngữ phổ biến nhất Internet, mức sử dụng token cũng có sự chênh lệch. Những ngôn ngữ đắt nhất đòi hỏi số token nhiều gấp 1,5-5 lần nhóm rẻ nhất. Khoảng cách này càng lớn khi các nhà nghiên cứu mở rộng tập hợp lên 200 ngôn ngữ, với sự chênh lệch phí token trong một mô hình AI tăng 17 lần.
"Startup ở Bengaluru (Ấn Độ) phải trả thêm tiền cho mỗi câu lệnh và phản hồi, trong khi đối thủ của họ ở Austin (Mỹ) thì không. Thuế tokenizer còn kéo theo hậu quả vượt ra ngoài vấn đề chi phí. Lượng token lớn hơn dẫn đến độ trễ cao hơn và dung lượng ngữ cảnh thực tế giảm", nhóm CLEAR cho biết.
Độ hiếm của ngôn ngữ không phải yếu tố duy nhất quyết định lượng token mà mô hình AI tiêu thụ. Theo CLEAR, hệ thống chữ viết cũng đóng vai trò quan trọng. Ví dụ, tiếng Asturian có ít người nói nhưng được hưởng lợi từ ưu thế của chữ Latin, trong khi những ngôn ngữ sử dụng hệ chữ viết mà tokenizer ít gặp như Miến Điện, Tây Tạng, Khmer luôn chịu bất lợi đáng kể với gần như mọi mô hình AI.
Theo Choudhury, sự bình đẳng hoàn hảo có thể phi thực tế, nhưng chênh lệch lớn và dai dẳng vẫn cần được giải thích và lên kế hoạch cải thiện. "Tôi đề xuất mọi phòng thí nghiệm AI lớn công bố bảng đánh giá theo từng ngôn ngữ, nêu rõ chi phí để hoàn thành tác vụ tương đương là bao nhiêu, đồng thời cam kết thực hiện cải tiến có thể đo lường được với những ngôn ngữ thiệt thòi nhất", ông nói.
Logo một số ứng dụng AI thông dụng. Ảnh: Bảo Lâm
Đầu năm nay, nhiều công ty khuyến khích nhân viên "tối đa hóa token", lấy mức tiêu thụ token làm chỉ số đo lường hiệu quả công việc. Hồi tháng 3, New York Times dẫn nguồn tin cho biết, nhân viên một số công ty công nghệ như Meta và OpenAI thậm chí ganh đua trên bảng xếp hạng nội bộ về lượng token tiêu thụ. Tại Anthropic, một nhân viên dùng công cụ Claude Code tiêu tốn hơn 150.000 USD chỉ trong một tháng.
Tuy nhiên, theo Business Insider, các công ty vài tháng qua lại chuyển sang chiến lược dùng AI tiết kiệm và hiệu quả. Nhà sáng lập, kỹ sư phần mềm, nhà thiết kế UX, thậm chí người lập trình vibe coding không có nền tảng kỹ thuật cũng bắt đầu áp dụng mẹo "chuyển đổi mô hình". Họ giao nhiệm vụ khó, đòi hỏi tư duy cao cho mô hình tiên tiến và đắt tiền, đồng thời giao nhiệm vụ dễ, lặp đi lặp lại cho mô hình cũ và rẻ hơn. Mẹo này giúp tận dụng tối đa ngân sách, sử dụng token hiệu quả trong bối cảnh doanh nghiệp hạn chế chi phí.
Thu Thảo tổng hợp