Modul 8 · Kamu yang memutuskan
Manusia yang memutuskan
Intinya
AI boleh menyiapkan, manusia yang memutuskan, terutama soal orang, uang, hukum, dan kesehatan. Memutuskan berarti memeriksa sendiri sebelum menekan setuju. Catat apa yang dibuat AI dan apa yang kamu periksa.
Setelah pelajaran ini kamu bisa
- Menentukan keputusan mana yang harus diambil manusia
- Mencatat peran AI dalam sebuah keputusan supaya bisa dijelaskan
- Memeriksa usulan AI dengan sungguh-sungguh sebelum menyetujuinya
Istilah di pelajaran ini
Pahami
Sepanjang kursus ini kita terus kembali ke satu prinsip: manusia dalam kendali. AI boleh membaca, merangkum, menyusun draf, menghitung, dan mengusulkan. Keputusan tetap di tangan orang yang bisa dimintai pertanggungjawaban. Pertanyaannya: keputusan apa saja?
Keputusan berikut selalu diambil manusia:
- Tentang orang: menerima atau menolak pelamar, menilai kinerja, memberi sanksi, menentukan siapa mendapat bantuan atau layanan.
- Tentang uang: menyetujui pembayaran, memberi potongan harga, menolak klaim.
- Tentang hukum dan kesehatan: menafsirkan aturan untuk kasus nyata, menentukan tindakan medis.
- Yang tidak bisa ditarik: pernyataan publik, surat resmi, penghapusan data.
Di semua keputusan itu, AI boleh membantu menyiapkan bahan. Tetapi ada jebakan halus: begitu AI memberi usulan yang rapi dan yakin, kita cenderung menyetujuinya. Kecenderungan ini disebut bias otomasi, yaitu kebiasaan mempercayai saran mesin lebih dari bukti di depan mata. Bias ini membuat "manusia dalam kendali" berubah menjadi manusia yang hanya menekan tombol.
Memeriksa dengan sungguh-sungguh punya tanda yang jelas. Kamu membuka data aslinya; ringkasan AI saja tidak cukup. Kamu mencari setidaknya satu alasan yang menentang usulan itu. Kamu bisa menjelaskan keputusanmu kepada orang yang terdampak tanpa kalimat "karena sistem bilang begitu". Dan kamu sungguh-sungguh siap memutuskan berbeda dari usulan AI. Kalau dalam sebulan kamu tidak pernah sekali pun berbeda pendapat dengan AI, itu bukan tanda AI-nya sempurna; itu tanda pemeriksaanmu perlu dicek ulang.
Keputusan yang dibantu AI perlu bisa dijelaskan, oleh kamu sekarang dan oleh rekanmu enam bulan lagi. Untuk itu, catat peran AI secara singkat di tempat yang sama dengan catatan keputusannya. Cukup lima baris:
- Keputusan: apa yang diputuskan, oleh siapa, kapan.
- Bahan dari AI: apa yang dibuat AI (ringkasan, skor, draf, usulan) dan alat apa yang dipakai.
- Data sumber: data apa yang dibaca AI, dan apakah sudah disamarkan.
- Pemeriksaan manusia: apa yang kamu cek sendiri dan apa yang kamu ubah.
- Alasan: kenapa keputusannya begitu, dengan kata-katamu sendiri.
Catatan ini adalah bentuk sederhana log audit. Ia membantu saat ada pertanyaan, keberatan, atau kesalahan yang perlu ditelusuri. Hak orang untuk mengajukan keberatan atas keputusan otomatis dibahas di pelajaran berikutnya.
Hati-hati dengan isi catatannya sendiri. Jangan menyalin kata sandi, token akses (access token), atau data pribadi yang tidak perlu ke dalam log; tulis rujukan ke tempat data itu disimpan. Log yang berisi rahasia hanya memindahkan masalah ke tempat baru.
Prinsip yang sama berlaku ketika yang bekerja bukan chatbot, melainkan agen AI (AI agent) yang bisa memakai alat dan menjalankan beberapa langkah sendiri. Agen boleh mengumpulkan bahan, menyusun draf, bahkan menyiapkan tindakan, tetapi keputusan yang menyangkut orang, uang, hukum, atau kesehatan tetap berhenti di meja manusia. Rancang agen supaya ia menunggu persetujuan di titik itu, menunjukkan apa yang akan ia lakukan dan berdasarkan data apa, dan mencatat setiap langkahnya. Kalau sebuah agen tidak bisa menjelaskan apa yang akan ia lakukan sebelum melakukannya, ia belum siap diberi wewenang atas keputusan seperti itu.
Sebelum
Permintaan
Ini tiga ringkasan kandidat untuk posisi koordinator gudang. Siapa yang paling cocok? Saya akan langsung mengundangnya.
Hasilnya
Kandidat B paling cocok karena pengalamannya paling relevan dan kemampuan kepemimpinannya kuat. Saya sarankan langsung mengundang Kandidat B.
Sesudah
Permintaan
Saya perekrut untuk posisi koordinator gudang. Keputusan siapa yang diundang ada pada saya. Saya perlu bahan untuk memutuskan, bukan pilihan jadi. Kriteria dari deskripsi jabatan: (1) pengalaman mengelola stok minimal dua tahun, (2) pernah memimpin tim, (3) terbiasa dengan sistem pencatatan stok. Untuk setiap kandidat (kode C-1 sampai C-3, data sudah disamarkan), buat tabel: kriteria, bukti dari bahan kandidat dengan kutipan singkat, dan "tidak ada bukti" bila bahan tidak menyebutnya. Jangan memberi peringkat atau rekomendasi. [ringkasan C-1, C-2, C-3]
Hasilnya
C-1 | Stok 2 tahun: "mengelola stok gudang pusat sejak 2023" | Memimpin tim: tidak ada bukti | Sistem stok: "memakai aplikasi pencatatan stok harian" C-2 | Stok 2 tahun: "4 tahun sebagai staf persediaan" | Memimpin tim: "kepala regu 6 orang" | Sistem stok: tidak ada bukti C-3 | ... Catatan: bahan C-2 tidak menyebut sistem pencatatan; bisa ditanyakan saat wawancara.
Yang berubah
- Versi pertama memberi kesimpulan tanpa bukti yang bisa kamu periksa, dan mendorongmu langsung bertindak.
- Keputusan dipecah menjadi kriteria dengan kutipan, sehingga kamu sendiri yang menimbang.
- "Tidak ada bukti" bukan berarti "tidak punya": itu bahan pertanyaan wawancara, bukan alasan menolak.
Kesalahan umum
- Kesalahan
- Menyetujui usulan AI tentang orang dalam hitungan detik karena "AI-nya sudah membaca semua datanya".
- Kenapa merugikan
- Secara nama ada manusia yang memutuskan, tetapi isinya keputusan otomatis. Kesalahan AI lolos tanpa ada yang menangkap, orang yang terdampak tidak mendapat pertimbangan yang sungguh-sungguh, dan organisasi tidak bisa menjelaskan keputusannya bila ditanya.
- Lakukan ini
- Sebelum menyetujui: buka data aslinya, cari satu alasan yang menentang usulan, dan tulis alasan keputusanmu dengan kata-kata sendiri. Kalau tidak sempat melakukan itu, tunda keputusannya.
Coba
Kartu pilah
Siapa yang memutuskan?
Menyetujui potongan harga untuk pelanggan besar
Memberi nilai akhir kinerja karyawan
Memformat notulen rapat menjadi poin
Menerjemahkan pengumuman internal ke bahasa Inggris untuk dicek
Mengelompokkan masukan pelanggan menurut topik
Menentukan siapa yang lolos ke tahap wawancara
6 kartu lagi
Kamu menolak satu klaim penggantian biaya setelah AI menandainya "tidak sesuai kebijakan". Catatan mana yang paling berguna untuk ditelusuri nanti?
Bawa pulang
Sebelum menyetujui usulan AI
- Saya tahu apakah ini keputusan tentang orang, uang, hukum, atau kesehatan
- Saya sudah membuka data aslinya, selain membaca ringkasan AI
- Saya sudah mencari setidaknya satu alasan yang menentang usulan
- Saya bisa menjelaskan keputusan ini tanpa berkata "karena sistem bilang begitu"
- Peran AI dan pemeriksaan saya tercatat, tanpa rahasia atau data yang tidak perlu
Yang salah di tempat kami
Berkas rencana infrastruktur tidak di-commit
- Konteks
- Saat infrastruktur dikelola sebagai kode, alatnya menulis berkas rencana sebelum perubahan diterapkan. Berkas itu terasa seperti keluaran sementara.
- Yang biasanya salah
- Berkas rencana bisa memuat rahasia yang dimasukkan ke alat, seperti kata sandi dan token, dalam teks biasa. Kalau ikut di-commit, rahasia itu masuk ke riwayat git.
- Akibatnya bila dibiarkan
- Siapa pun yang bisa membaca repositori, sekarang atau nanti, bisa membaca rahasia itu. Menghapus berkasnya di commit berikutnya tidak menghapusnya dari riwayat.
- Akar masalah
- Pola abaikan git dibuat untuk berkas yang sudah dikenal, dan berkas keluaran alat jarang diperiksa isinya.
- Cara kami
- Berkas rencana masuk daftar abaikan git dan tidak pernah di-commit. Bila rahasia pernah masuk riwayat, kami mencabut dan merotasinya saat itu juga, lalu membersihkan riwayatnya.
- Aturan yang kami pegang
- Rahasia tidak pernah ditulis di berkas yang dilacak git, dan daftar abaikan mencakup semua keluaran alat infrastruktur.
PelajarannyaKeluaran alat bisa menyimpan rahasia yang kamu masukkan; periksa sebelum menyimpannya.
Artinya untuk kerjamuBerkas keluaran dan catatan bisa menyimpan kata sandi atau data pribadi yang pernah kamu masukkan. Periksa isinya sebelum menyimpan atau membagikannya.