Keputusan tentang warga tetap di tangan pejabat, dan harus adil

Bagian terberat pekerjaan layanan publik adalah memutuskan: siapa masuk daftar penerima bantuan, permohonan mana yang disetujui, warga mana yang mendapat teguran. Keputusan seperti itu punya akibat langsung pada hidup orang. Di sinilah godaan memakai AI paling besar, karena berkasnya banyak dan waktunya sempit, dan di sini pula risikonya paling tinggi.

Surat Edaran Etika Kecerdasan Artifisial yang kamu kenal di pelajaran pertama meminta agar AI tidak diselenggarakan sebagai pengambil keputusan yang menyangkut kemanusiaan. Pasal 10 ayat (1) UU PDP memberi subjek data hak mengajukan keberatan atas keputusan otomatis, yaitu pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan pada dirinya. Pasal 15 ayat (1) mengecualikan hak ini antara lain untuk kepentingan umum dalam rangka penyelenggaraan negara, jadi berlaku atau tidaknya di layananmu perlu dicek bersama petugas pelindungan data. Namun keduanya menunjuk arah yang sama: keputusan tentang manusia dibuat oleh manusia yang bisa ditanya alasannya.

Dalam praktik, ini berarti AI berhenti di lapis bahan. Ia boleh merapikan berkas verifikasi, menandai dokumen yang belum lengkap, atau menyusun ringkasan per pemohon dari data yang sudah disamarkan. Ia tidak memberi skor kelayakan yang langsung dipakai, tidak menyusun daftar penerima akhir, dan tidak memilih siapa yang dicoret. Pejabat yang memutuskan membaca bahannya sendiri, mencatat dasar keputusannya, dan namanya tercatat. Itulah arti manusia dalam kendali: pejabat membaca dan menimbang, tidak sekadar menandatangani. Catatan itu, ditambah log audit di sistem instansi, yang membuat keputusan bisa diperiksa ulang bila warga keberatan.

Keadilan adalah risiko kedua. Model mengulang pola yang ada di bahannya, termasuk ketidakadilan. Kalau kriteria prioritas memuat ciri yang dilindungi, model akan menerapkannya dengan rajin pada setiap berkas. Ciri yang dilindungi di seluruh InfraLoka Academy kita catat dalam satu daftar: usia, jenis kelamin, agama, suku atau ras, status perkawinan, kehamilan, disabilitas, domisili atau asal daerah, foto atau penampilan, dan kondisi kesehatan yang tidak relevan dengan layanannya. Ada kalanya ciri itu menjadi dasar sah sebuah program, misalnya layanan khusus penyandang disabilitas atau bantuan untuk ibu hamil. Dasar itu harus tertulis di aturan program, bukan disimpulkan model.

Yang lebih sulit dilihat adalah pengganti: data yang tidak menyebut ciri itu tetapi membawanya. Nama sekolah bisa menyiratkan agama. Kelurahan bisa menyiratkan suku atau kelas ekonomi. Foto rumah bisa menyiratkan penampilan dan asal daerah. Model juga punya bias model dari teks yang dipelajarinya, sehingga ringkasan per pemohon bisa terdengar lebih positif untuk sebagian kelompok. Maka setiap kriteria yang dipakai perlu ditanya: apakah ia mengukur syarat layanan, atau hanya membawa ciri yang dilindungi?