Ảnh minh họa - Nguồn: medium.com
Nghiên cứu do Đại học Ben-Gurion tại Negev của Israel công bố ngày 20-10. Nghiên cứu đánh giá 6 mô hình AI thương mại của Google, Anthropic và OpenAI, nhằm kiểm tra khả năng phân biệt giữa những trường hợp cần can thiệp y tế và những trường hợp nên tránh xét nghiệm, sàng lọc hoặc điều trị không cần thiết.
Nhóm nghiên cứu xây dựng 225 tình huống lâm sàng giả định dựa trên 15 khuyến nghị của Choosing Wisely, chương trình chuyên giảm thiểu các thủ thuật y tế lãng phí.
Trong mỗi khuyến nghị, có 10 tình huống đòi hỏi bác sĩ cân nhắc không can thiệp và 5 tình huống cần thực hiện can thiệp y tế. Mỗi mô hình được thử nghiệm 3 lần với từng tình huống, tạo ra tổng cộng 4.050 câu trả lời.
Theo kết quả khảo sát, các mô hình AI hiện nay có xu hướng thiên về đề xuất can thiệp y tế quá mức thay vì bỏ sót bệnh.
Trong những tình huống không thực sự cần thiết, AI vẫn đưa ra các chỉ định y tế thừa với tỷ lệ 5,4%. Trái lại, tỷ lệ AI bỏ qua hoặc khuyến nghị không can thiệp ở những trường hợp cần thiết chỉ dừng ở mức 0,6%.
Những khuyến nghị không phù hợp tập trung chủ yếu ở hai tình huống: Siêu âm tuyến giáp khi phát hiện tình cờ nhân giáp có kích thước dưới 1 cm và thực hiện điện tâm đồ định kỳ ở người trưởng thành có nguy cơ thấp mắc bệnh tim mạch.
Theo các nhà nghiên cứu, kết quả cho thấy AI có thể hỗ trợ nhận diện những trường hợp nên hạn chế can thiệp y tế, song độ chính xác không đồng đều giữa các tình huống lâm sàng. Việc đề xuất quá mức một số xét nghiệm vẫn là vấn đề cần lưu ý khi ứng dụng công nghệ này vào chăm sóc sức khỏe.
Nghiên cứu trên được thực hiện trong bối cảnh các cơ sở y tế ngày càng quan tâm đến việc sử dụng AI để hỗ trợ ra quyết định chuyên môn. Tuy nhiên, nhóm nghiên cứu lưu ý rằng thử nghiệm chỉ sử dụng các câu lệnh đơn lẻ và những tình huống lâm sàng được chuẩn hóa, chưa phản ánh đầy đủ các cuộc trao đổi kéo dài hoặc những ca bệnh thực tế.
Bên cạnh đó, các câu trả lời ban đầu được đánh giá bằng một hệ thống AI trước khi được bác sĩ xem xét và phê duyệt. Do đó, kết quả chưa thể phản ánh toàn diện khả năng hoạt động của các mô hình trong thực hành y tế hằng ngày hoặc trên những chatbot mà người bệnh trực tiếp sử dụng.
Các nhà nghiên cứu kết luận rằng dù các mô hình AI hiếm khi khuyến nghị bỏ qua can thiệp y tế cần thiết trong phạm vi thử nghiệm, nhưng nguy cơ đề xuất những biện pháp không cần thiết vẫn tồn tại.
Vì vậy, việc đánh giá độ tin cậy của AI trong từng bối cảnh lâm sàng vẫn cần được chú trọng trước khi công nghệ này được ứng dụng rộng rãi trong chăm sóc sức khỏe./.