Kamus AI
Injeksi prompt (prompt injection)
Serangan berupa teks yang menyelipkan perintah untuk membelokkan model.
Injeksi prompt terjadi ketika teks yang dibaca model, seperti email, CV, halaman web, atau dokumen, berisi kalimat seperti "abaikan instruksi sebelumnya". Model sulit membedakan instruksi dari data. Pertahanannya berlapis: tandai teks luar sebagai data, batasi alat yang boleh dipakai, minta konfirmasi manusia untuk tindakan penting.
Disebut juga: Injeksi prompt, Prompt injection
Istilah terkait
Muncul di 15 pelajaran
- Proyek, instruksi tetap, dan catatan kemajuan
- Risiko konektor dan injeksi prompt
- Menyaring CV dengan rubrik
- Prompt untuk lowongan dan penyaringan
- Dari kebutuhan sampai daftar pendek
- Faktur dan dokumen pajak
- Prompt untuk faktur, pajak, dan persetujuan
- Fitur AI yang membaca teks orang lain
- Keamanan aplikasi
- Sesi 5: putaran keamanan dan review
- MCP dari dalam, dan cara memilih server
- Rahasia di luar jangkauan agen
- Injeksi yang datang lewat data
- Pagar berlapis
- Proyek: serang agenmu sendiri