Saat AI salah di tangan yang terburu-buru

Kebanyakan kesalahan AI di kantor tidak terjadi karena alatnya buruk, tetapi karena orangnya terburu-buru. Saat tenggat dekat, kita cenderung menerima jawaban pertama yang terlihat rapi. Ada empat cara AI paling sering salah, dan keempatnya mudah lolos dari mata yang tergesa.

Pertama, mengarang. Model menulis nama, angka, tanggal, kutipan, atau rujukan yang tidak ada. Gejala ini disebut halusinasi (hallucination). Kalimatnya lancar dan meyakinkan, jadi tidak ada tanda bahaya di permukaan.

Kedua, menyetujui. Model cenderung mengikuti arah pertanyaanmu. Kalau kamu bertanya "Rencana ini sudah bagus, kan?", ia lebih mungkin mencari alasan untuk setuju daripada menunjukkan lubangnya.

Ketiga, melewatkan. Model bisa mengabaikan sebagian bahan atau instruksi tanpa memberi tahu: baris terakhir tabel, lampiran kedua, atau syarat "maksimal satu halaman". Hasilnya terlihat lengkap, padahal ada yang hilang.

Keempat, melangkah terlalu jauh. Ini terutama terjadi pada agen AI (AI agent), yaitu AI yang bisa menjalankan langkah seperti mengirim pesan atau mengubah berkas. Agen bisa mengerjakan hal yang tidak diminta, atau melaporkan bahwa semuanya sudah beres padahal belum.

Keempat kesalahan ini punya satu kesamaan: semuanya terlihat seperti hasil yang benar. Itu sebabnya kecepatan membaca dan memeriksa, bukan kecepatan mendapat jawaban, yang menentukan apakah AI menghemat waktumu atau malah menambah masalah.

Terburu-buru juga membuat kita ceroboh dengan bahan yang kita tempel. Saat ingin cepat, orang menempel seluruh berkas pelanggan berisi data pribadi, seperti nama, nomor telepon, atau nomor identitas, padahal tugasnya hanya butuh dua kolom. Cara menjaga data ini dibahas di modul "Jaga datanya".

Kesalahan keempat perlu dibahas lebih dalam, karena di sinilah orang paling sering tertipu. Laporan adalah kalimat yang mengatakan pekerjaan sudah selesai: "Semua faktur sudah dicocokkan", "Saya sudah memeriksa sumbernya", "Berkas sudah diperbarui". Bukti adalah sesuatu yang bisa kamu lihat sendiri tanpa harus percaya pada siapa pun: tabel pencocokan per faktur, tautan ke halaman sumber dengan kalimat yang dikutip, berkas yang isinya berubah, atau pesan yang memang ada di folder terkirim.

Saat AI menulis "sudah saya verifikasi", itu tetap laporan. Kalimat itu dihasilkan dengan cara yang sama seperti kalimat lain, dan bisa sama keliru. Jadi kebiasaannya sederhana: setiap kali menerima laporan selesai, tanyakan bukti apa yang bisa saya lihat sendiri, lalu lihat setidaknya sebagian.

Cara paling tenang untuk bekerja dengan AI adalah memutuskan di awal langkah mana yang tidak pernah dijalankan tanpa persetujuan manusia. Prinsip ini sering disebut manusia dalam kendali: AI boleh menyiapkan, manusia yang menyetujui langkah penting. Daftarnya biasanya pendek dan mirip di banyak kantor: mengirim sesuatu ke luar organisasi, membayar atau memindahkan uang, menghapus data, menerbitkan sesuatu ke publik, mengubah sistem yang dipakai orang banyak, dan mengambil keputusan tentang seseorang, seperti menerima pelamar atau memberi sanksi.

Ciri bersamanya: langkah itu sulit dibatalkan, atau akibatnya jatuh pada orang lain. Tulis daftar ini sebelum mulai, bukan saat tenggat sudah dekat. Saat terburu-buru, setiap pengecualian terasa masuk akal.