Đừng dựa vào chatbot AI để tự chẩn đoán hay phán đoán pháp lý; trước khi chữa bệnh, kiện tụng hoặc chi nhiều tiền, tìm văn bản gốc kiểm tra căn cứ nó nêu

Không tốn tiền. Mỗi lần kiểm tra thêm vài phút đến nửa giờ. Yêu cầu AI nêu điều luật, hướng dẫn hoặc bài nghiên cứu làm căn cứ; tự mở bản gốc tìm đúng câu đó. Cần bỏ thói quen làm theo chỉ vì nó nói chắc chắn.

Về chẩn bệnh, Nature Medicine năm 2026 đăng thử nghiệm ngẫu nhiên đăng ký trước gồm 1298 người bình thường ở Anh. Mỗi người nhận hai ca giả định để xác định bệnh và nên cấp cứu hay theo dõi tại nhà. Một số dùng GPT-4o, Llama 3 hoặc Command R+; đối chứng dùng cách quen, đa số tìm mạng hoặc NHS. Đưa đầy đủ ca cho AI thì nhận đúng bệnh liên quan 94.9%, chọn nơi khám đúng 56.3%. Người thường dùng cùng AI nhận bệnh dưới 34.5%, chọn nơi dưới 44.2%. Nhóm đối chứng nhận ra bệnh liên quan nhiều hơn nhóm dùng AI, tỷ số chênh 1.76 (95% CI 1.45–2.13, khoảng tin cậy). Tỷ số chênh nhận ra bệnh nặng có dấu cảnh báo là 1.57 (1.28–1.92). Chọn nơi khám thì hai bên tương tự. Đọc hội thoại, tác giả thấy người dùng không nói hết triệu chứng hoặc AI nêu đúng nhưng người dùng không chọn. Về luật, nhóm Mỹ năm 2024 hỏi ChatGPT 4 và mô hình công khai về án lệ tòa liên bang. ChatGPT 4 có 58% câu trả lời bịa, Llama 2 tới 88%. Bịa là không khớp sự thật pháp lý, bài gọi “ảo giác”. Mô hình không phân được câu nào mình bịa; gặp tiền đề pháp lý sai trong câu hỏi thường nhận luôn. Cùng nhóm năm 2025 thử công cụ pháp lý chuyên cho luật sư, quảng cáo không bịa nhưng 17% đến 33% câu trả lời có bịa. Có vẻ đáng vì AI luôn sẵn, miễn phí và nói chắc như bác sĩ, luật sư.

Bean AM, Payne RE, Parsons G, et al. (2026). Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y；Dahl M, Magesh V, Suzgun M, Ho DE (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Journal of Legal Analysis, 16(1), 64–93. https://doi.org/10.1093/jla/laae003；Magesh V, Surani F, Dahl M, Suzgun M, Manning CD, Ho DE (2025). Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools. Journal of Empirical Legal Studies, 22(2), 216–242. https://doi.org/10.1111/jels.12413；Kalai AT, Nachum O, Vempala SS, Zhang E (2025). Why Language Models Hallucinate. arXiv:2509.04664（预印本，备注里那项）. https://arxiv.org/abs/2509.04664；反方：Ayers JW, Poliak A, Dredze M, et al. (2023). Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Internal Medicine, 183(6), 589. https://doi.org/10.1001/jamainternmed.2023.1838

Có tranh luận. Nghiên cứu 2023 lấy 195 câu hỏi bệnh nhân từ diễn đàn Mỹ cho nhân viên y tế chấm không biết nguồn; 78.6% đánh giá ChatGPT tốt hơn bác sĩ. Nhưng so cách viết câu trả lời, không xét người hỏi cuối cùng xác định đúng không. Thử nghiệm 2026 dùng mô hình năm 2024, mô hình mới có thể mạnh hơn. Tuy nhiên cũng thấy điểm AI thi một mình không dự báo hiệu quả người thường dùng. Nghiên cứu viên OpenAI giải thích trong bài chưa bình duyệt năm 2025 rằng huấn luyện, chấm điểm thưởng việc đoán đáp án, còn “không biết” không có điểm, nên thiếu chắc vẫn nói chắc. Cách kiểm là yêu cầu tên luật, số điều, tên hướng dẫn hoặc bài nghiên cứu rồi tự mở bản gốc chính thức tìm câu đó; không thấy thì coi như chưa nói. Đừng nhét kết luận vào câu hỏi: hỏi “luật quy định thế nào”, đừng hỏi “tôi chắc thắng phải không”. Méo miệng đột ngột, yếu một bên, đau đè ngực thì đừng hỏi AI trước; tại Trung Quốc gọi 120 ngay. Xem phần 13 mục 3 (méo miệng, yếu một tay) và phần 13 mục 7 (đau đè ngực). Không tiền thuê luật sư xem phần 7 mục 3 (xin trợ giúp pháp lý). Lợi ích nhỏ vì chỉ có chỉ số trung gian như nhận bệnh, chưa số giảm chết. Người hưởng lợi là bạn và gia đình.