AI chatbot semakin populer, tapi jangan andalkan untuk saran medis. Studi baru menunjukkan chatbot seringkali salah mendiagnosis dan memberikan rekomendasi pengobatan.
Peneliti menguji beberapa chatbot seperti ChatGPT-4o, Llama 3, dan Command R+. Hasilnya, mereka benar mendiagnosis dalam 94% kasus, tapi rekomendasi pengobatannya hanya tepat 56% saja.
Uji coba lain melibatkan 1.298 orang. Mereka diminta menggunakan chatbot untuk mencari tahu kondisi medis dan tindakan yang perlu diambil.
Hasilnya mengejutkan. Kelompok yang tidak menggunakan AI justru lebih akurat dalam mengidentifikasi kondisi medis, termasuk yang serius.
Peneliti menemukan beberapa masalah. Pengguna sering tidak memberikan informasi lengkap ke chatbot. Chatbot juga memberikan informasi yang menyesatkan atau salah.
Respon chatbot juga bisa sangat berbeda untuk pertanyaan serupa. Kadang, jawaban yang benar bercampur dengan jawaban yang salah.
Secara keseluruhan, orang yang tidak pakai LLM 1,76 kali lebih mungkin mendapatkan diagnosis yang benar. Ini menunjukkan keterbatasan chatbot dalam memberikan saran medis yang akurat.
Lalu, bagaimana dengan dokter? Sayangnya, tenaga medis juga menggunakan AI chatbot, yang berpotensi membahayakan pasien.
Organisasi keselamatan medis ECRI menempatkan penyalahgunaan AI chatbot di urutan pertama daftar bahaya teknologi kesehatan 2026.
ECRI menyebut dokter menggunakan AI untuk perawatan pasien. LLM bisa memberikan detail yang salah dengan percaya diri. Jadi, dokter mungkin tanpa sadar memasukkan saran AI tanpa meninjau ulang.
Bahkan dalam kasus ringan, konsultasi chatbot bisa berbahaya. Contohnya, chatbot memberikan saran yang tidak aman tentang penempatan elektroda.
Intinya, LLM chatbot belum siap dipercaya untuk memberikan saran medis. Jadi, lebih baik tetap konsultasi dengan dokter yang terpercaya.
Gunakan Dr. Google saja, tapi pastikan matikan hasil pencarian yang ditenagai AI.
