Modul 5 · Jaga datanya
Pengaturan data dan memori di layanan AI
Intinya
Model tidak tahu pengaturan akunmu. Periksa sendiri: apakah percakapan dipakai untuk melatih model, berapa lama disimpan, dan apa yang diingat memori. Pakai akun kerja untuk pekerjaan, dan bersihkan memori secara berkala.
Setelah pelajaran ini kamu bisa
- Memeriksa pengaturan data di layanan AI: dipakai untuk pelatihan atau tidak, berapa lama disimpan
- Memeriksa dan menghapus isi memori secara berkala
- Membedakan akun pribadi dari akun kerja yang diatur organisasi
Istilah di pelajaran ini
Pahami
Hampir setiap layanan AI punya halaman pengaturan data, dan hampir tidak ada yang membukanya. Padahal tiga pengaturan di sana menentukan apa yang terjadi pada semua yang pernah kamu ketik.
1. Dipakai untuk pelatihan atau tidak. Pelatihan model artinya penyedia memakai kumpulan teks besar untuk membuat atau memperbaiki model. Di banyak layanan untuk perorangan, percakapanmu bisa ikut dipakai untuk melatih model berikutnya kecuali kamu mematikannya. Biasanya ada satu tombol dengan nama kira-kira "pakai data saya untuk meningkatkan model". Kalau menyala, apa pun yang kamu ketik bisa ikut menjadi bahan pelatihan.
2. Berapa lama disimpan. Riwayat chat (percakapan dengan AI) disimpan supaya kamu bisa kembali ke sana. Menghapus percakapan dari daftar belum tentu menghapusnya seketika dari server; banyak penyedia menyimpan salinan untuk beberapa waktu demi keamanan atau kewajiban hukum. Kebijakan privasi penyedia biasanya menyebut lamanya. Banyak layanan juga punya mode percakapan sementara yang tidak masuk riwayat dan tidak dipakai untuk pelatihan, berguna untuk pertanyaan yang tidak perlu kamu simpan.
3. Memori. Memori (memory) adalah fitur yang membuat aplikasi mengingat hal tentang kamu dari satu percakapan ke percakapan lain: peranmu, gayamu, proyekmu. Ini berbeda dari riwayat. Riwayat adalah arsip percakapan lama; memori adalah catatan ringkas yang ikut dibaca model di setiap percakapan baru. Memori menghemat waktu, tetapi apa pun yang tersimpan di sana ikut terbawa ke mana-mana, termasuk hal yang sensitif atau sudah tidak benar.
Satu hal yang sering mengejutkan: model itu sendiri tidak tahu pengaturan akunmu. Kalau kamu bertanya "apakah percakapan ini dipakai untuk pelatihan?", jawabannya hanya tebakan yang terdengar yakin. Jawaban yang benar ada di halaman pengaturan dan kebijakan privasi, bukan di kotak obrolan.
Akun kerja dan akun pribadi sering diperlakukan sangat berbeda oleh penyedia. Paket untuk organisasi biasanya datang dengan kontrak yang mengatur penggunaan data, dan pada banyak penyedia data akun kerja tidak dipakai untuk pelatihan secara bawaan. Tetapi "biasanya" bukan jaminan: baca syaratnya, atau tanyakan ke tim TI yang mengelola langganannya.
Masalah paling umum bukan pengaturan yang salah, melainkan akun yang salah. Seseorang memakai akun pribadi gratis di ponselnya untuk merapikan dokumen kantor, karena lebih cepat. Data kantor kemudian berada di bawah syarat akun pribadi, di luar kendali organisasi, dan tidak tercatat di mana pun. Aturannya sederhana: pekerjaan kantor di akun kerja yang disetujui; akun pribadi untuk urusan pribadi.
Untuk pekerjaan panjang, jangan menjadikan memori aplikasi sebagai tempat menyimpan kemajuan. Memori ringkas, bisa berubah, dan tidak kamu kendalikan sepenuhnya. Kemajuan yang penting ditulis di berkas catatan milikmu sendiri; caranya ada di pelajaran proyek dan instruksi tetap.
Langkah khusus OpenAI, cek versi terbaru.
Langkah khusus Anthropic, cek versi terbaru.
Sebelum
Permintaan
Apakah percakapan saya di sini dipakai untuk melatih model? Saya mau menempel data pelanggan.
Hasilnya
Tidak, percakapan Anda aman dan tidak digunakan untuk pelatihan. Silakan tempelkan datanya.
Sesudah
Permintaan
Saya perlu memeriksa apakah akun saya memakai percakapan untuk pelatihan model dan berapa lama percakapan disimpan. Saya tahu model tidak bisa melihat pengaturan akun saya. Di bawah ini saya tempel bagian kebijakan privasi penyedia layanan ini. [teks kebijakan privasi] Tunjukkan kalimat persis dari teks itu yang menjawab dua pertanyaan saya. Kalau teksnya tidak menjawab, katakan tidak menjawab. Lalu buat daftar tiga hal yang harus saya cek sendiri di halaman pengaturan.
Hasilnya
Kalimat yang relevan: "Kami dapat menggunakan konten Anda untuk meningkatkan layanan kecuali Anda menonaktifkannya di pengaturan." Soal lama penyimpanan, teks yang Anda tempel tidak menyebut jangka waktu. Yang perlu Anda cek sendiri: 1. Apakah tombol penggunaan data untuk pelatihan menyala. 2. Apakah memori aktif dan apa isinya. 3. Apakah akun ini akun kerja dengan kontrak organisasi atau akun pribadi.
Yang berubah
- Jawaban pertama terdengar yakin tetapi tidak berdasar: model tidak bisa melihat pengaturan akunmu.
- Tiga hal mengubah hasilnya: kebijakan ditempel sebagai bahan, kutipan persis diminta, dan jawaban "tidak disebut" diizinkan.
- Keputusan akhirnya tetap di halaman pengaturan, yang kamu buka sendiri.
Kesalahan umum
- Kesalahan
- Membiarkan memori menyimpan apa saja selama berbulan-bulan tanpa pernah dibuka.
- Kenapa merugikan
- Memori bisa berisi nama klien, detail kesehatan yang pernah kamu sebut sepintas, atau peran lama yang sudah tidak berlaku. Semua itu ikut dibaca di setiap percakapan baru, bisa muncul di jawaban untuk pekerjaan lain, dan bisa membuat jawaban melenceng tanpa kamu sadari sebabnya.
- Lakukan ini
- Jadwalkan pemeriksaan memori sebulan sekali. Hapus yang sensitif, yang salah, dan yang tidak relevan. Matikan memori untuk akun yang dipakai untuk banyak klien sekaligus.
Coba
Ini isi memori seorang staf HR. Simpan atau hapus? Tebak, lalu buka alasannya.
Simpan. Berguna dan tidak sensitif.
Hapus. Data pribadi pihak ketiga yang akan terbawa ke semua percakapan.
Hapus. Data kesehatanmu sendiri tidak perlu ada di memori alat kerja.
Hapus atau perbarui. Memori yang usang membuat jawaban melenceng.
Bawa pulang
Pemeriksaan bulanan
- Pengaturan pelatihan masih sesuai pilihan saya
- Memori sudah saya baca; yang sensitif, salah, dan usang saya hapus
- Percakapan lama yang berisi data kerja sudah saya hapus bila tidak dibutuhkan
- Pekerjaan kantor hanya di akun kerja
- Kemajuan pekerjaan panjang tercatat di berkas saya sendiri, bukan di memori
Yang salah di tempat kami
Berkas catatan yang menyelamatkan program
- Konteks
- Sebuah program kerja agen berisi belasan tugas berjalan berhari-hari dalam beberapa sesi.
- Yang terjadi
- Di tengah tugas, sesi berhenti karena batas penggunaan. Percakapan lama tidak bisa dilanjutkan dan konteksnya hilang.
- Dampaknya
- Hampir tidak ada. Sesi baru melanjutkan dari tugas yang tepat dalam beberapa menit.
- Akar masalah
- Ingatan agen hanya bertahan selama satu sesi. Tanpa catatan di luar sesi, pekerjaan harus ditebak ulang dari riwayat git.
- Yang kami lakukan
- Agen baru membaca berkas catatan kemajuan, melihat tugas terakhir yang sudah ditinjau, dan melanjutkan dari sana.
- Pengaman yang kami pasang
- Setiap program panjang punya berkas catatan: tugas, status, commit, dan keputusan pemilik. Agen menulisnya setiap kali satu langkah selesai.
PelajarannyaKalau sebuah pekerjaan lebih panjang dari satu sesi, ingatannya harus ditulis di luar sesi.
Artinya untuk kerjamuUntuk pekerjaan yang lebih panjang dari satu percakapan, tulis catatan kemajuan di berkasmu sendiri setiap kali satu langkah selesai.