Kapan sebaiknya tidak mengotomasi

Otomasi artinya sebuah langkah berjalan sendiri tanpa kamu menekan tombol setiap kali: setiap email masuk dikategorikan, setiap formulir diringkas, setiap pagi laporan dibuat. Dengan AI, godaannya besar, karena hampir semua hal terasa bisa diotomasi. Sebelum memulai, nilai tugasnya dengan tiga pertanyaan:

1. Seberapa sering? Tugas yang terjadi puluhan kali sehari menghemat banyak waktu bila diotomasi. Tugas yang terjadi dua kali setahun jarang sepadan dengan usaha membangun dan merawat otomasinya.
2. Seberapa mahal bila salah? Salah memberi label folder pada email itu murah. Salah mengirim surat peringatan, salah menolak klaim, atau salah membayar vendor itu mahal, dan sering menyangkut orang.
3. Bisa dibatalkan atau tidak? Label yang salah bisa diganti. Email yang sudah terkirim, uang yang sudah keluar, dan data yang sudah terhapus tidak bisa ditarik kembali.

Tugas yang sering, murah bila salah, dan bisa dibatalkan adalah calon otomasi yang baik. Begitu salah satu jawabannya buruk, ubah polanya menjadi AI menyiapkan, manusia memutuskan: AI membuat draf, kategori, atau usulan; manusia memeriksa dan menekan tombol. Untuk keputusan yang berdampak signifikan pada orang, ada juga hak hukum mereka yang perlu diperhitungkan; itu dibahas di pelajaran keputusan otomatis dan hak orang.

Satu tanda tambahan: kalau aturannya penuh pengecualian ("biasanya begini, kecuali klien lama, kecuali bulan Desember, kecuali ada surat dari direksi"), otomasi akan sering salah di tempat yang paling tidak terlihat. Mulailah dengan bagian yang aturannya jelas saja.

Kalau sebuah alur tetap diotomasi, tempatkan manusia di beberapa titik yang tepat. Titik periksa di setiap langkah membuat orang lelah, lalu mulai menyetujui tanpa membaca. Titik periksa paling penting ada tepat sebelum efek yang tidak bisa ditarik: sebelum email ke luar terkirim, sebelum pembayaran disetujui, sebelum data dihapus, sebelum keputusan tentang orang dicatat. Titik lain yang berguna adalah antrean pengecualian, tempat kasus yang tidak cocok dengan aturan atau yang membuat AI ragu masuk untuk ditangani manusia, dan pemeriksaan sampel, misalnya membaca sepuluh hasil acak setiap minggu.

Kegagalan yang berisik cepat ketahuan karena ada pesan error (galat) atau orang yang protes. Yang berbahaya adalah kegagalan yang diam: otomasinya tetap jalan, tetapi hasilnya tidak sampai. Tandanya:

• Laporan selalu "berhasil", tetapi tidak ada yang memeriksa hasil akhirnya.
• Jumlah yang diproses tiba-tiba turun ke nol, atau tidak berubah selama berhari-hari.
• Tidak ada keluhan, karena orang yang seharusnya menerima hasilnya tidak menerima apa-apa.
• Hasilnya persis sama setiap hari, padahal datanya berubah.

Periksa keadaan akhir: apakah email itu sampai di kotak masuk penerima, apakah angka di sistem tujuan berubah. Laporan prosesnya bisa saja bilang sukses. Catat setiap langkah otomasi dalam log audit supaya kamu bisa menelusuri apa yang terjadi, dan pasang peringatan bila dalam sehari tidak ada yang diproses.

Semua ini makin penting saat yang diotomasi adalah agen AI (AI agent), yaitu AI yang boleh memakai alat dan memutuskan langkah berikutnya sendiri. Agen bisa menjalankan puluhan langkah dalam beberapa menit, jadi satu salah paham di langkah awal bisa berlipat sebelum ada yang melihat. Prinsip manusia dalam kendali di sini berarti tiga hal yang konkret: agen berhenti dan meminta persetujuan sebelum tindakan yang tidak bisa dibatalkan, setiap langkahnya tercatat sehingga bisa ditelusuri, dan orang yang menyetujui membaca apa yang akan terjadi sebelum menekan tombol setuju. Persetujuan yang diberikan tanpa membaca sama saja dengan tidak ada titik periksa.