Pasal yang dikarang: jangan pernah mengutip tanpa membuka teksnya

Di Level 1 kamu sudah belajar kenapa model mengarang: model bahasa besar (large language model, LLM) memprediksi teks yang paling mungkin, bukan mengambil teks dari sumber. Di pekerjaan hukum, gejala ini, yang biasa disebut halusinasi (hallucination), punya bentuk yang khas dan berbahaya, karena rujukan hukum punya pola yang mudah ditiru: "Pasal sekian ayat (sekian) huruf sekian", "Putusan Nomor sekian/Pdt.G/tahun/PN kota". Model sudah membaca ribuan rujukan seperti itu, jadi ia bisa menghasilkan rujukan baru yang bentuknya sempurna tetapi isinya tidak pernah ada.

Karangan di bidang hukum biasanya muncul dalam lima bentuk. Nomor pasal salah: isinya kira-kira benar, tetapi letaknya di pasal lain. Bunyi pasal campuran: kalimat yang menggabungkan dua ketentuan, atau ketentuan dari undang-undang lain. Pasal yang sudah berubah: bunyi lama yang sudah diubah, dicabut, atau dinyatakan tidak berlaku. Putusan fiktif: nomor, tanggal, dan pertimbangan pengadilan yang tidak pernah ada, atau nomor asli dengan isi yang salah. Kutipan pendapat ahli yang dikarang: nama penulis yang benar dengan kalimat yang tidak pernah ia tulis.

Bahayanya ada pada nada yakin. Jawaban yang menyebut nomor pasal tampak lebih dapat dipercaya daripada jawaban yang tidak menyebut apa pun. Padahal nomor itu bisa dikarang sama mudahnya dengan kalimat lain. Dari teks jawaban saja, kamu tidak bisa membedakan rujukan yang benar dari yang dikarang. Satu-satunya cara adalah membuka sumbernya.

Karena itu aturan di track ini sederhana dan tidak punya pengecualian: tidak ada rujukan hukum yang masuk ke dokumen apa pun, baik memo internal, draf kontrak, maupun surat, sebelum seseorang membuka teks resminya dan mencocokkan bunyinya. Teks resmi berarti peraturan dari basis data (database) peraturan pemerintah seperti JDIH, atau salinan putusan dari direktori resmi pengadilan, bukan ringkasan di blog atau ingatan model. Dan model tidak pernah menjadi pemeriksa bagi dirinya sendiri.

Supaya pemeriksaan ini bisa dilacak, beri setiap rujukan satu dari tiga status. Dicek, cocok: kamu membuka teks resmi versi yang berlaku untuk fakta dan tanggalnya, dan bunyinya sama. Dicek, berbeda: pasalnya ada, tetapi bunyi atau nomornya lain; tulis yang benar dan buang yang salah. Belum ditemukan: kamu tidak menemukannya di sumber resmi; rujukan ini tidak boleh dipakai sampai ditemukan, dan bila tidak pernah ditemukan, catat bahwa AI mengarangnya. Catat juga dari mana kamu membuka teksnya dan kapan, supaya advokat yang membaca memomu bisa mengulang pemeriksaan itu dalam satu menit.