Kamus AI
Guardrail (pagar pengaman)
Batas yang dipasang di sekitar AI atau agen supaya kesalahannya tidak sampai merusak.
Guardrail (pagar pengaman) bisa berupa izin yang sempit, daftar izin alat, penanda data untuk teks dari luar, konfirmasi sebelum langkah yang tidak bisa dibatalkan, atau batas biaya. Pasang beberapa lapis, karena satu pagar bisa jebol. Pagar paling kuat ada di sistem, tidak di kalimat prompt.
Disebut juga: Guardrail, pagar, pagar pengaman, pagar berlapis