Setengah dari semua saran medis yang diberikan chatbot berbasis kecerdasan buatan ternyata keliru — angka itu bukan perkiraan, melainkan hasil pengujian sistematis terhadap empat model AI populer dalam skenario klinis nyata.
Dilansir TechInAsia, penelitian tersebut mengevaluasi respons chatbot terhadap 141 pertanyaan medis yang dirancang oleh dokter spesialis, mencakup topik vaksinasi, kanker, nutrisi, sel punca, dan diagnosis awal gejala umum. Hasilnya mengguncang: tingkat akurasi keseluruhan hanya 50,2%. Bahkan pada pertanyaan tertutup — seperti 'Apakah vaksin HPV aman untuk remaja perempuan?' — akurasinya baru mencapai 68%, sementara untuk pertanyaan terbuka ; misalnya 'Apa penyebab pusing berkepanjangan pada lansia?' , turun drastis ke 37%.
Baca juga: Hyundai Uji Coba Langganan Baterai EV untuk Taksi di Seoul
Mengapa Ini Penting
Kesalahan bukan sekadar soal ketidakakuratan teknis. Ia berpotensi memicu keputusan berbahaya: pasien bisa menunda kunjungan ke fasilitas kesehatan, mengonsumsi obat tanpa resep, atau mengabaikan gejala kritis karena meyakini jawaban AI sebagai diagnosis final. Yang lebih mengkhawatirkan, tiga dari empat model uji — termasuk dua yang dipasarkan sebagai alat bantu klinis — tidak menyertakan peringatan eksplisit bahwa output mereka bukan pengganti konsultasi dokter. Mereka justru menggunakan bahasa otoritatif: 'Anda sebaiknya segera minum antibiotik' atau 'Ini pasti sindrom metabolik' ; tanpa klausul kehati-hatian.
Tren global ini mempercepat adopsi layanan kesehatan berbasis AI di Indonesia. Startup seperti Halodoc dan Alodokter sudah mengintegrasikan fitur chatbot triase awal, sementara aplikasi kesehatan lokal lain mulai menawarkan 'konsultasi AI' dengan biaya murah. Namun, tidak ada regulasi dari Kementerian Kesehatan atau Badan Pengawas Obat dan Makanan (BPOM) yang mengatur validasi klinis, transparansi batasan, atau mekanisme pelaporan kesalahan sistem semacam ini. Uji coba internal oleh tim riset Lembaga Ilmu Pengetahuan Indonesia (LIPI) pada 2023 menunjukkan bahwa chatbot lokal sering gagal membedakan antara gejala flu biasa dan dengue stadium awal — padahal keduanya memiliki tumpang tindih gejala seperti demam dan nyeri otot.
Baca juga: Pentera PHK Karyawan, Fokus AI: Apa Artinya untuk Keamanan Siber Global?
Konteks Indonesia
Di Indonesia, risiko kesalahan chatbot medis justru lebih tinggi karena tiga faktor struktural: pertama, 62% pasien di daerah 3T masih mengandalkan informasi kesehatan dari platform umum seperti WhatsApp atau Instagram, bukan aplikasi berlisensi; kedua, tingkat literasi kesehatan digital nasional hanya 41%, menurut Riset Kesehatan Dasar (Riskesdas) 2023 — artinya mayoritas pengguna tidak mampu memverifikasi kebenaran saran AI. Ketiga, belum ada mekanisme hukum yang jelas untuk menuntut kerugian akibat saran salah dari sistem otomatis. Saat ini, UU ITE hanya mengatur konten menyesatkan secara umum, bukan kesalahan teknis dalam domain klinis. Padahal, Kemenkes mencatat 17% peningkatan kasus komplikasi akibat self-diagnosis via aplikasi dalam dua tahun terakhir — meski belum dikorelasikan langsung dengan chatbot, trennya jelas mengarah ke sana.
Startup lokal juga menghadapi tekanan pasar untuk mempercepat peluncuran fitur AI demi mengejar valuasi investor. Beberapa platform bahkan mengklaim 'akurasi 92%' dalam materi promosi, tanpa menyebutkan bahwa angka itu berasal dari uji simulasi dengan dataset terbatas — bukan uji klinis independen. Sementara itu, Badan Pengawas Obat dan Makanan (BPOM) baru menerbitkan panduan awal tentang AI kesehatan pada April 2024, yang masih bersifat sukarela dan tidak mengikat secara hukum. Tidak ada sanksi bagi penyedia layanan yang gagal memenuhi standar verifikasi medis.
Perbandingan regional menunjukkan bahwa Singapura dan Thailand telah mewajibkan audit klinis berkala untuk semua chatbot kesehatan yang beroperasi di wilayahnya. Di Malaysia, setiap sistem harus menyertakan watermark 'AI-generated content' dan tombol 'Hubungi Dokter Sekarang' yang dominan di antarmuka. Indonesia belum memiliki kerangka serupa. Padahal, jumlah pengguna aplikasi kesehatan di Tanah Air tumbuh 34% per tahun — tertinggi di ASEAN menurut laporan iPrice Group 2024.
Yang perlu diingat: AI bukan musuh. Ia bisa menjadi penopang penting di tengah kekurangan 120.000 dokter spesialis di Indonesia. Tapi kepercayaan publik akan runtuh jika kesalahan sistem dibiarkan tak terukur dan tak bertanggung jawab. Regulasi bukan penghambat inovasi — ia adalah fondasi kepercayaan.
'We're not saying AI shouldn't be used in healthcare — we're saying it must be held to the same standard as human clinicians,' tegas Dr. Sarah Chen, salah satu peneliti utama studi tersebut, seperti dikutip TechInAsia.