AI sebagai penebak teks yang sangat terlatih

Model bahasa besar (large language model, LLM) adalah mesin di balik hampir semua asisten AI yang kamu pakai untuk menulis. Cara paling jujur untuk memahami model bahasa besar adalah sebagai penebak teks yang sangat terlatih. Selama pelatihan model, ia membaca teks dalam jumlah yang sangat besar: buku, artikel, halaman web, dokumen, percakapan. Dari bacaan itu ia tidak menghafal daftar fakta. Ia belajar pola: setelah kata-kata seperti ini, biasanya muncul kata-kata seperti itu.

Saat kamu mengetik pertanyaan, model tidak membuka lemari berisi jawaban yang benar. Ia membaca semua teks yang ada di depannya, lalu menulis jawaban sepotong demi sepotong. Di setiap langkah ia menimbang banyak kemungkinan potongan berikutnya, lalu memilih salah satu kelanjutan yang mungkin. Potongan itu ditambahkan ke teks, dan langkah berikutnya dimulai lagi. Begitu terus sampai jawabannya selesai. Potongan kecil ini disebut token (potongan kata yang dihitung dan dibaca model); pelajaran tentang token dan jendela konteks (context window) di modul ini membahasnya lebih jauh.

Perhatikan kata "salah satu". Model tidak selalu memilih kelanjutan yang paling mungkin. Ia memilih dari beberapa kelanjutan yang masuk akal, dan itu sebabnya jawaban untuk pertanyaan yang sama bisa berbeda. Pelajaran "Kenapa jawabannya berubah-ubah" menjelaskan hal ini.

Dari cara kerja ini muncul kekuatannya. Model sangat pandai meniru bentuk: surat resmi, ringkasan rapat, daftar langkah, nada yang ramah atau tegas, bahasa yang lebih sederhana. Semua itu adalah pola yang sangat sering ia lihat.

Dari cara kerja yang sama muncul kelemahannya. Nama orang, angka, tanggal, nomor pasal, dan judul buku juga hanya pola bagi model. Kalau dalam bacaannya hal itu jarang muncul, atau kalau pertanyaanmu menyangkut hal yang tidak pernah ia baca, ia tidak berhenti dan berkata "saya tidak tahu". Ia tetap menulis kelanjutan yang terdengar wajar. Hasilnya bisa berupa angka yang tampak tepat, kutipan yang terdengar resmi, atau rujukan yang bentuknya meyakinkan, padahal tidak ada dasarnya. Jawaban yang lancar dan percaya diri seperti ini disebut halusinasi (hallucination). Kelancaran adalah keahlian model; kebenaran adalah hal lain yang harus diperiksa terpisah.

Ada satu hal lagi yang membuat jawaban lancar berbahaya: nadanya hampir selalu sama yakinnya, entah jawabannya benar atau dikarang. Manusia yang ragu biasanya terdengar ragu. Model tidak begitu. Ia bisa menulis kalimat yang salah dengan susunan kata, ejaan, dan nada yang sama rapinya dengan kalimat yang benar. Jadi rapi, panjang, atau penuh istilah bukan tanda bahwa jawaban sudah dicek.

Karena itu model bahasa paling berguna untuk mengolah bahan yang kamu berikan: meringkas, menulis ulang, menyusun, mengubah bentuk, mencari pola dalam teks yang kamu tempel. Di situ bahannya ada di depan model, dan kamu bisa membandingkan hasilnya dengan bahan aslinya. Model paling berisiko saat diminta mengingat fakta spesifik tanpa sumber: angka, nama, tanggal, dan rujukan aturan. Contoh pasal cuti melahirkan, lengkap dengan syarat karangan dan aturan yang sudah usang, dibahas utuh di pelajaran Kenapa model mengarang.