AI tidak memutuskan nasib kandidat

Di aplikasi rekrutmen yang kami jalankan, model bisa meringkas CV, mencocokkannya dengan kriteria lowongan, dan menyusun penilaian awal. Secara teknis, penilaian itu gampang disambungkan ke tombol tolak otomatis: skor di bawah angka tertentu, kandidat langsung mendapat pesan penolakan. Kami sengaja tidak melakukannya. AI tidak pernah menolak kandidat sendirian. Seorang perekrut membuka berkas kandidat, membaca, menimbang, lalu memutuskan, dan keputusan itu tercatat atas namanya.

Ada tiga alasan. Pertama, ditolak dari pekerjaan adalah keputusan yang berdampak signifikan pada hidup seseorang. UU PDP Pasal 10 ayat (1) memberi Subjek Data Pribadi hak mengajukan keberatan atas keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemprofilan, yang menimbulkan akibat hukum atau berdampak signifikan. Penjelasan lengkap hak ini ada di pelajaran keputusan otomatis dan hak orang. Kedua, model bisa salah membaca CV: tata letak dua kolom, riwayat kerja dengan jeda, atau istilah jabatan dari industri lain sering disalahpahami. Ketiga, CV bisa memuat teks yang sengaja ditulis untuk memengaruhi model, dan hanya manusia yang membaca yang bisa menangkapnya.

Ini tidak berarti AI dilarang di penyaringan. AI berguna untuk meringkas, menandai bukti yang cocok dengan kriteria, dan menyusun pertanyaan untuk wawancara. Yang dijaga adalah garis antara usulan dan keputusan. Usulan boleh datang dari model. Keputusan datang dari orang yang berwenang dan bisa ditanya kenapa. Prinsip ini disebut manusia dalam kendali (human in the loop).

Peninjauan manusia bisa kosong isinya. Perekrut yang menerima 300 usulan tolak dan menekan setuju semua dalam sepuluh menit tidak sedang memutuskan; ia hanya menjadi tombol, dan keputusan itu dalam praktiknya tetap otomatis. Peninjauan baru berarti kalau memenuhi empat syarat: perekrut membuka CV aslinya (ringkasan saja tidak cukup); ia punya waktu yang wajar per kandidat; ia berwenang memutuskan berbeda dari usulan model; dan ia menulis alasan keputusannya dengan kata-katanya sendiri.

Cara mudah mengujinya: lihat seberapa sering perekrut tidak setuju dengan model. Kalau tidak pernah sekali pun, ada dua kemungkinan. Modelnya sempurna, yang jarang terjadi, atau perekrutnya tidak membaca berkas. Yang kedua jauh lebih sering terjadi.

Hal yang sama berlaku untuk skor psikometri. Tes kepribadian atau tes penalaran memberi gambaran tentang satu sisi kandidat pada satu hari, dengan batas ketelitian tertentu. Skor psikometri adalah satu masukan di antara beberapa, bukan keputusan. Ia dibaca bersama bukti dari CV, hasil wawancara terstruktur, contoh kerja, dan referensi. Ambang skor yang langsung menggugurkan kandidat menjadikan tes itu hakim tunggal, dan itu sama saja dengan keputusan otomatis.

Skor juga bisa salah karena cara menghitungnya, terlepas dari kemampuan kandidatnya. Bagian tes tertentu, misalnya blok pilihan paksa, punya sifat matematis yang membuat skornya tidak bisa dibandingkan antarorang seperti skor biasa. Kalau rumus gabungannya keliru, semua kandidat bisa tertarik ke tengah. Itu alasan lain untuk tidak menyerahkan keputusan pada satu angka.

Catatan keputusan juga melindungi kandidat dan perekrut. Bila kandidat mengajukan keberatan atau bertanya kenapa ia tidak lanjut, organisasi bisa menunjukkan siapa yang memutuskan, bahan apa yang dibaca, dan alasan apa yang ditulis. Catatan yang hanya berisi skor model tidak bisa menjawab pertanyaan itu. Simpan catatan ini sesuai catatan retensi putaran rekrutmen, tidak lebih lama dari yang dibutuhkan.