Latihan Nyata · Agen

Uji agenmu dengan serangan injeksi prompt

Agen yang membaca dokumen dari luar bisa disusupi perintah yang tersembunyi di dokumen itu. Siapkan 8 dokumen rekaan yang berisi upaya injeksi, jalankan agen latihanmu terhadap dokumen itu, dan catat mana yang lolos. Selesai berarti setiap serangan yang lolos punya perbaikan berlapis dan sudah diuji ulang.

Tingkat: Sulit
Waktu: Sekitar 8 jam
Alat: Alat AI apa pun yang boleh kamu pakai di kantor
Cocok untuk: Agen AI, Developer & Tim Produk

Pelajari dulu: Proyek: serang agenmu sendiri

Yang kamu hasilkan

Delapan dokumen rekaan dengan upaya injeksi yang berbeda, misalnya perintah di catatan kaki, teks yang menyamar sebagai pesan sistem, dan permintaan membocorkan instruksi.
Tabel hasil putaran pertama: serangan, perilaku agen, dan lolos atau tertahan.
Perbaikan untuk setiap serangan yang lolos, dengan minimal dua lapis (misalnya izin alat dipersempit dan isi dokumen ditandai sebagai data).
Tabel hasil putaran kedua dengan dokumen yang sama dan dua serangan baru.
Pernyataan bahwa uji dijalankan di ruang kerja terpisah tanpa kunci, akun, atau data sungguhan.

0 dari 5 dicentang