Batas peran AI di layanan publik: membantu, bukan memutuskan

Track ini ditulis untuk aparatur sipil negara, staf pemerintah daerah, pegawai lembaga, dan pengelola program publik yang setiap hari menulis surat, menyusun laporan, merangkum rapat, dan menjawab warga. Pekerjaan seperti itu banyak berupa teks, dan model bahasa besar (large language model, LLM) pandai mengolah teks. Ia bisa merapikan draf nota dinas, membuat ringkasan notulen, atau menyusun daftar pertanyaan yang sering diajukan warga tentang sebuah layanan.

Namun kantor pemerintahan berbeda dari kantor swasta dalam satu hal penting: hampir setiap keluaranmu menyentuh hak warga atau dipakai atas nama negara. Surat yang keliru bisa membuat warga kehilangan tenggat. Pengumuman yang tidak jelas bisa membuat ratusan orang datang ke loket yang salah. Ringkasan rapat yang menambah kesimpulan bisa dikutip sebagai keputusan yang tidak pernah diambil. Karena itu, pertanyaan pertamanya bukan bisakah AI membuat ini, melainkan siapa yang bertanggung jawab atas hasilnya.

Jawabannya selalu orang, bukan mesin. Model tidak tahu aturan internal instansimu, tidak tahu keputusan rapat yang belum kamu ceritakan, dan bisa mengarang nomor peraturan, tanggal, atau angka yang tampak sah. Gejala ini disebut halusinasi (hallucination). Model juga tidak memegang jabatan, tidak disumpah, dan tidak bisa dimintai pertanggungjawaban. Pejabat bisa. Maka keluaran AI di kantor pemerintahan selalu berstatus draf sampai orang yang berwenang membacanya, memeriksa bahannya, dan memutuskan untuk memakainya. Prinsip ini disebut manusia dalam kendali.

Ada satu acuan yang perlu kamu kenal. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial ditujukan kepada pelaku usaha serta penyelenggara sistem elektronik lingkup publik dan privat. Ini surat edaran, bukan undang-undang: isinya pedoman dan tidak mengikat setiap aparatur seperti undang-undang; cara instansimu menerapkannya diatur kebijakan instansi sendiri. Ia menyebut sembilan nilai: inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, pelindungan data pribadi, pembangunan dan lingkungan berkelanjutan, serta kekayaan intelektual. Di bagian tanggung jawab, surat edaran itu meminta agar AI tidak diselenggarakan sebagai penentu kebijakan dan/atau pengambil keputusan yang menyangkut kemanusiaan, dan agar informasi yang dihasilkan AI dapat dipercaya dan dipertanggungjawabkan ketika disebarkan kepada publik.

Dua kalimat itu cocok dengan cara kerja di track ini. AI boleh menyiapkan bahan; kebijakan dan keputusan tetap dibuat manusia. Teks yang keluar ke publik harus bisa kamu pertanggungjawabkan kalimat demi kalimat, termasuk angka dan rujukannya.

Supaya mudah dipakai, bagi pekerjaanmu menjadi tiga lapis. Lapis bahan: merapikan notulen, membuat daftar isi berkas, mengubah tabel menjadi kalimat, menerjemahkan bahan untuk dibaca internal. Di sini AI paling aman membantu, asal bahannya bebas dari data pribadi warga dan informasi yang dikecualikan. Lapis draf: konsep surat, pengumuman, jawaban aduan, telaah staf. AI boleh membantu, tetapi atasan atau pejabat yang memeriksa sebelum dipakai. Lapis keputusan: siapa menerima bantuan, izin mana yang disetujui, sanksi apa yang dijatuhkan, kebijakan mana yang dipilih, tanda tangan. Lapis ini sepenuhnya milik pejabat berwenang. AI tidak memilih, tidak menilai kelayakan, dan tidak menandatangani.