Kenapa jawabannya berubah-ubah

Kamu menjalankan prompt (perintah atau instruksi yang kamu tulis untuk AI) yang sama dua kali dan mendapat dua jawaban yang berbeda. Itu bukan tanda rusak. Itu cara kerja model yang memang dirancang begitu.

Ingat bahwa model menulis jawaban sepotong demi sepotong. Tiap bagian kecil itu disebut token (potongan kata yang dihitung dan dibaca model). Di setiap langkah, ia tidak punya satu kelanjutan yang pasti, melainkan sebaran kemungkinan: kata ini cukup mungkin, kata itu sedikit kurang mungkin, kata lain jarang. Aplikasi lalu mengambil salah satunya secara acak, dengan peluang yang mengikuti sebaran itu. Proses ini disebut pengambilan sampel. Sekali pilihan awal berbeda, misalnya kalimat pertama dimulai dengan "Berikut" alih-alih "Tentu", seluruh sisa jawaban ikut berbelok ke jalur lain.

Seberapa lebar pilihan itu diatur oleh suhu (temperature). Suhu rendah membuat model lebih sering mengambil pilihan teratas, sehingga jawabannya lebih seragam dari satu putaran ke putaran berikutnya. Suhu tinggi memberi kesempatan lebih besar pada pilihan yang kurang umum, sehingga jawaban lebih beragam. Di aplikasi chat (percakapan dengan AI) biasa, suhu biasanya diatur oleh penyedianya dan tidak terlihat. Di layanan untuk pengembang, suhu adalah salah satu pengaturan yang bisa diubah.

Yang perlu kamu pegang: suhu mengatur keragaman, bukan kebenaran. Suhu rendah tidak membuat model lebih jujur atau lebih tahu. Kalau model tidak punya dasar untuk sebuah angka, suhu rendah hanya membuatnya mengulang angka karangan yang sama dengan lebih konsisten. Bahkan pada suhu paling rendah, sebagian layanan masih bisa memberi jawaban yang sedikit berbeda.

Suhu juga bukan satu-satunya penyebab jawaban berubah. Riwayat percakapan yang berbeda, memori yang disimpan aplikasi, berkas yang ikut terlampir, hasil pencarian yang berganti, dan model yang diperbarui penyedia semuanya bisa mengubah jawaban. Jadi satu jawaban bagus belum membuktikan prompt-mu andal. Cara menguji prompt penting pada 5-10 contoh nyata dibahas di pelajaran "Memperbaiki lewat putaran" pada modul Minta dengan jelas.

Keragaman ini tidak selalu musuh. Untuk tugas kreatif, seperti mencari judul, kalimat pembuka, atau sudut pandang baru, jawaban yang berbeda-beda itu berguna. Kamu bisa menjalankan prompt yang sama beberapa kali, atau meminta beberapa pilihan sekaligus, lalu memilih yang terbaik.

Untuk tugas yang harus konsisten, seperti memberi kategori pada keluhan pelanggan, mengisi kolom tabel, atau menilai dokumen dengan kriteria tetap, keragaman adalah risiko. Biasanya penyebab terbesarnya bukan suhu, melainkan permintaan yang terbuka untuk banyak tafsir. Kalau aturan pemilihannya jelas, pilihan yang masuk akal menyempit dan jawabannya ikut stabil, apa pun suhunya.