AI tidak mendiagnosis

Aturan kedua jalur ini melengkapi aturan pertama. Di klinik, layanan AI umum tidak pernah dipakai untuk empat hal: mendiagnosis (menebak penyakit dari gejala atau hasil pemeriksaan), melakukan triase (menentukan siapa yang harus didahulukan atau seberapa gawat keadaannya), merekomendasikan terapi (memilih obat, tindakan, atau rujukan), dan menentukan dosis. Termasuk di dalamnya menafsirkan hasil laboratorium, membaca foto luka atau ruam, dan menjawab pertanyaan pasien tentang gejalanya lewat pesan.

Alasannya bukan karena model selalu salah. Model bahasa besar (large language model, LLM) bekerja dengan menebak kelanjutan teks yang paling mungkin, seperti dijelaskan di pelajaran kenapa model mengarang. Ia tidak memeriksa pasien, tidak memegang riwayatnya, tidak tahu obat apa yang sedang diminum, dan tidak memikul tanggung jawab profesi. Saat dasarnya lemah, ia tetap menulis jawaban yang lancar dan yakin. Itulah halusinasi (hallucination): jawaban karangan yang dibawakan seperti fakta. Di kantor lain, jawaban karangan merepotkan; di klinik, jawaban karangan bisa mencelakai pasien.

Keputusan klinis di Indonesia diambil oleh tenaga medis dan tenaga kesehatan sesuai kompetensi dan kewenangannya, dengan standar yang berlaku di klinik itu. Klinik punya rujukan resmi untuk itu, misalnya panduan praktik klinis, formularium, dan prosedur rujukan, yang disusun dan diperiksa tenaga kesehatan. Jawaban dari layanan AI umum bukan salah satu rujukan itu, bahkan untuk pertanyaan yang terdengar umum seperti dosis lazim sebuah obat. Kalau klinikmu menyediakan alat khusus staf yang menjawab dari dokumen klinik yang sudah disetujui, misalnya formularium atau SOP klinis, ikuti aturan alat itu: jawabannya dicek ke dokumen sumber, hanya untuk staf, dan tidak pernah menjadi keputusan dosis atau terapi untuk pasien tertentu. Tenaga kesehatan yang memutuskan.

Untuk memutuskan dengan cepat, pakai satu pertanyaan uji: apakah jawaban AI akan memengaruhi apa yang dilakukan pada tubuh seorang pasien? Kalau ya, berhenti. Pertanyaan itu milik tenaga kesehatan.

Sebagian besar permintaan klinis bisa diubah menjadi tugas yang aman. "Obat apa untuk keluhan ini?" menjadi "buat templat balasan yang mengarahkan pasien ke perawat jaga". "Apakah pasien ini harus didahulukan?" menjadi "rapikan alur pendaftaran yang memuat kriteria darurat dari dokter penanggung jawab", dengan kriteria yang ditulis dokter, bukan oleh AI. "Jelaskan hasil lab ini" menjadi "buat lembar umum tentang cara klinik menyampaikan hasil pemeriksaan dan siapa yang menjelaskannya". Isi klinisnya selalu datang dari tenaga kesehatan; AI hanya membantu bentuk, bahasa, dan susunan. Begitulah manusia dalam kendali (human in the loop) berjalan di klinik: mesin membantu menulis, orang yang berwenang memutuskan.

Godaan terbesar datang saat klinik sibuk: antrean panjang, dokter sedang menangani pasien lain, dan seorang rekan berpikir AI bisa menjawab lebih cepat. Siapkan langkahmu sebelum saat itu tiba.

Pertama, hentikan dengan tenang dan sebut aturannya, bukan orangnya: "Di klinik kita, pertanyaan soal pasien tidak ke AI." Kedua, tawarkan jalan yang benar: hubungi perawat atau dokter jaga, atau ikuti prosedur rujukan dan kegawatdaruratan klinik. Ketiga, kalau data pasien sudah terlanjur ditempel, jangan disembunyikan; laporkan hari itu juga ke atasan dan orang yang ditunjuk untuk pelindungan data, seperti dijelaskan di pelajaran data yang tidak boleh masuk. Keempat, kalau pasien sendiri datang dengan jawaban dari AI, jangan berdebat; catat bahwa pasien ingin membahasnya dan arahkan ke tenaga kesehatan.