Keputusan otomatis dan hak orang

Pasal 10 ayat (1) UU PDP menyatakan bahwa Subjek Data Pribadi berhak mengajukan keberatan atas tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemprofilan, yang menimbulkan akibat hukum atau berdampak signifikan pada Subjek Data Pribadi. Ada empat bagian yang perlu dibaca pelan-pelan:

• Subjek Data Pribadi: orang yang datanya diproses, misalnya pelamar, karyawan, pelanggan, atau penerima bantuan.
• Hanya didasarkan pada pemrosesan otomatis: keputusan diambil oleh sistem tanpa keterlibatan manusia yang berarti. Seseorang yang hanya meneruskan hasil sistem tanpa memeriksa tidak mengubah sifat otomatisnya.
• Pemprofilan: menilai sisi-sisi seseorang dari datanya, misalnya memperkirakan kinerja, keandalan, minat, atau perilakunya. Skor kecocokan pelamar yang dihitung AI adalah contoh pemprofilan.
• Akibat hukum atau dampak signifikan: misalnya lamaran ditolak, pinjaman tidak disetujui, bantuan tidak diberikan, kontrak tidak diperpanjang.

Undang-undang ini juga memuat pengecualian tertentu atas hak-hak Subjek Data Pribadi, jadi penerapannya pada kasus nyata perlu dicek ke ahlinya.

Perhatikan juga apa yang tidak dikatakan pasal ini. Pasal 10 ayat (1) berbicara tentang hak mengajukan keberatan. Ia tidak, dengan sendirinya, merumuskan hak untuk diberi tahu bahwa AI dipakai atau hak atas penjelasan cara kerja sistem. Hak atas informasi tentang identitas pihak yang memproses, dasar hukum, dan tujuan pemakaian data diatur di Pasal 5 (lihat pelajaran dasar UU PDP). Banyak organisasi memilih memberi tahu orang bahwa AI ikut membantu dan menjelaskan alasan keputusannya; itu praktik yang baik untuk kepercayaan, tetapi sebutlah sebagai kebijakanmu, bukan sebagai bunyi pasal ini.

Untuk tim yang memakai AI dalam keputusan tentang orang, ada dua pekerjaan rumah.

Pertama, jangan biarkan keputusan berdampak signifikan menjadi otomatis tanpa disadari. Pastikan ada manusia yang meninjau: membuka data, menimbang alasan, dan berwenang memutuskan berbeda dari sistem. Peninjauan yang hanya formalitas tidak cukup. Cara menilai tugas mana yang boleh berjalan otomatis ada di pelajaran kapan tidak mengotomasi.

Kedua, siapkan jalur keberatan sebelum dibutuhkan. Jalur yang baik punya enam bagian:

1. Cara mengajukan yang mudah dan disebut di pemberitahuan keputusan: alamat, formulir, atau nomor layanan resmi.
2. Tenggat jawaban yang jelas, misalnya dalam sepuluh hari kerja.
3. Peninjau manusia yang tidak terlibat dalam keputusan awal dan berwenang mengubahnya.
4. Peninjauan yang berarti: peninjau melihat data asli dan alasan orang yang berkeberatan, bukan sekadar menjalankan ulang model yang sama.
5. Catatan: keberatan, peninjauan, dan hasilnya dicatat.
6. Tanpa hukuman: orang tidak dirugikan karena mengajukan keberatan.

Selain itu, ingat Pasal 34: Pengendali Data Pribadi wajib melakukan penilaian dampak pelindungan data pribadi untuk pemrosesan berisiko tinggi, dan undang-undang menyebut pengambilan keputusan secara otomatis yang menimbulkan akibat hukum atau dampak signifikan sebagai salah satunya, bersama pemrosesan data spesifik, pemrosesan skala besar, serta evaluasi, penskoran, atau pemantauan yang sistematis. Rencana memakai AI untuk menyaring pelamar atau menilai karyawan hampir selalu masuk wilayah ini. Libatkan petugas pelindungan data sejak rancangan, bukan setelah fiturnya jalan.