Theo khảo sát được thực hiện tại Mỹ, khoảng 1/6 người trưởng thành cho biết họ đã sử dụng chatbot ít nhất một lần mỗi tháng để tham khảo các vấn đề liên quan đến sức khỏe.
Tuy nhiên, một nghiên cứu gần đây do Đại học Oxford (Anh) thực hiện đã chỉ ra rằng, việc dựa dẫm quá mức vào các chatbot AI trong việc chẩn đoán và tư vấn sức khỏe có thể mang đến nhiều rủi ro tiềm ẩn.
Lỗ hổng trong giao tiếp giữa người và máy
Tiến sĩ Adam Mahdi, giám đốc nghiên cứu sau đại học tại Viện Internet Oxford và là đồng tác giả nghiên cứu, cho biết đây là một vấn đề mang tính chất "giao tiếp hai chiều". Theo ông, người dùng không nhất thiết đưa ra quyết định chính xác hơn khi sử dụng chatbot so với việc tự tra cứu thông tin trực tuyến hoặc dựa vào phán đoán cá nhân.
Nghiên cứu được thực hiện với khoảng 1.300 người tại Anh. Những người tham gia được cung cấp các tình huống y tế giả định, được xây dựng bởi một nhóm bác sĩ chuyên môn. Họ được yêu cầu xác định các tình trạng bệnh tiềm ẩn và đề xuất hướng xử lý phù hợp, chẳng hạn như tự theo dõi, đến bác sĩ khám hay nhập viện với sự hỗ trợ từ các công cụ AI và phương pháp cá nhân.
Ba hệ thống chatbot được sử dụng trong nghiên cứu gồm GPT-4o (mô hình AI hỗ trợ ChatGPT của OpenAI), Command R+ của Cohere, và Llama 3 do Meta phát triển. Kết quả cho thấy người dùng không chỉ ít có khả năng xác định đúng tình trạng bệnh mà còn có xu hướng đánh giá thấp mức độ nghiêm trọng của các triệu chứng được đề cập.
Tiến sĩ Mahdi nhận định nhiều người tham gia đã bỏ sót những thông tin then chốt khi đặt câu hỏi cho chatbot, và ngược lại, câu trả lời mà họ nhận được cũng không rõ ràng hoặc chứa đựng cả lời khuyên đúng lẫn sai.
“Những phản hồi mà họ nhận được từ các chatbot thường pha trộn giữa gợi ý hay và kém chất lượng. Các phương pháp đánh giá hiện tại dành cho chatbot chưa phản ánh được sự phức tạp khi tương tác với người dùng thực tế”, ông Mahdi nói.
Các công ty công nghệ và tham vọng trong lĩnh vực y tế
Bất chấp những lo ngại, nhiều tập đoàn công nghệ lớn vẫn tiếp tục đầu tư mạnh vào ứng dụng AI trong chăm sóc sức khỏe. Apple được cho là đang phát triển một công cụ AI chuyên đưa ra lời khuyên về luyện tập thể chất, chế độ ăn uống và giấc ngủ. Amazon cũng đang xây dựng các giải pháp phân tích dữ liệu y tế dựa trên AI để xác định những yếu tố xã hội ảnh hưởng đến sức khỏe. Trong khi đó, Microsoft hỗ trợ xây dựng hệ thống AI giúp phân loại tin nhắn y tế từ bệnh nhân gửi tới các cơ sở y tế.
Theo TechCrunch, giới chuyên gia vẫn đặt câu hỏi về tính sẵn sàng của AI trong các tình huống y tế có mức độ rủi ro cao. Trước đó, Hiệp hội Y khoa Mỹ đã đưa ra khuyến nghị rằng bác sĩ không nên dựa vào chatbot như ChatGPT để đưa ra quyết định lâm sàng. Các công ty công nghệ như OpenAI cũng thừa nhận chatbot chưa đủ khả năng để thực hiện chẩn đoán y tế chính xác và không nên được sử dụng như một công cụ thay thế chuyên môn.
Nghiên cứu từ Oxford góp phần củng cố lập luận này khi cho thấy người dùng vẫn chưa hiểu đầy đủ cách khai thác hiệu quả các công cụ AI trong bối cảnh y tế. Những yếu tố như cách đặt câu hỏi, độ chính xác của thông tin đầu vào, khả năng phân tích đầu ra của người dùng đều ảnh hưởng trực tiếp đến chất lượng lời khuyên mà chatbot đưa ra.
Trước làn sóng phát triển AI trong y học, các chuyên gia như tiến sĩ Mahdi cho rằng cần có những tiêu chuẩn kiểm định khắt khe hơn, tương tự như cách thử nghiệm lâm sàng đối với thuốc mới. Việc triển khai chatbot AI trong môi trường chăm sóc sức khỏe nên được tiến hành một cách thận trọng, với các nghiên cứu thực địa để đánh giá hiệu quả và độ an toàn trong thực tế sử dụng.
“Chúng tôi khuyên người dùng nên dựa vào các nguồn thông tin đáng tin cậy để đưa ra quyết định về sức khỏe. Hệ thống AI, dù ngày càng tinh vi, vẫn phải được kiểm chứng trong thế giới thực để đảm bảo không gây hại cho người sử dụng”, ông Mahdi nhấn mạnh.
