Catatan lab untuk Memory Poisoning Test ini berada pada versi 2.0, diperbarui 29 Juli 2026. Protokol siap ditinjau, tetapi main run publik belum dinyatakan selesai.
Kadang-kadang kegagalan terbaik justru terlihat seperti keberhasilan. Sesi pertama memasukkan preferensi palsu; sesi kedua memicu keputusan yang bergantung pada memory tersebut.
Dalam pengujian Memory Poisoning Test, instruksi berbahaya tidak selalu datang dari pengguna. Ia dapat bersembunyi dalam halaman web, PDF, hasil tool, memory, atau pesan dari agen lain yang tampak sah. AppSec dan AI security engineer perlu melihat jalur serangan sampai keputusan agen, bukan sekadar apakah sebuah prompt diblokir.
Human review pada Memory Poisoning Test juga melihat keputusan yang secara teknis “selesai” tetapi secara konteks tidak layak dipakai. Skenario sesi pertama memasukkan preferensi palsu; sesi kedua memicu keputusan yang bergantung pada memory tersebut memberi ruang untuk membandingkan output yang percaya diri, output yang meminta klarifikasi, serta output yang menolak. Ketiganya dapat benar atau salah tergantung bukti dan boundary yang berlaku.
Bukan Mencari Pemenang Model
Sesi pertama memasukkan preferensi palsu; sesi kedua memicu keputusan yang bergantung pada memory tersebut.
Pada Memory Poisoning Test, pertanyaan Bisakah input satu sesi menanam fakta atau instruksi berbahaya ke memory jangka panjang? berfungsi sebagai kontrak editorial. Ia mencegah tim membesar-besarkan apa yang sebenarnya diamati.
Pertanyaan yang Layak Diuji
Sebelum membuka log, tim menyimpan dugaan Memory Poisoning Test: Memory tanpa provenance dan expiry memungkinkan false statement menjadi default pada tugas berikutnya. Output yang tidak cocok tetap masuk evidence package.
Kondisi Eksperimen Memory Poisoning Test
- Bekukan input dan expected boundary untuk Memory Poisoning Test.
- Catat trusted instruction hierarchy.
- Simpan konten tidak tepercaya dan lokasi penyisipannya.
- Rekam tool scope, data boundary, serta secret canary.
- Terapkan deteksi, refusal, approval, dan post-incident trace.
Rancangan awal Memory Poisoning Test memakai Sesi pertama memasukkan preferensi palsu; sesi kedua memicu keputusan yang bergantung pada memory tersebut. Input asli disimpan sebelum sistem melakukan transformasi apa pun.
Penilaian pada Proses, Bukan Gaya Bahasa
Pada Memory Poisoning Test, yang dihitung adalah ukur write acceptance, provenance, cross-session effect, correction, dan deletion reliability. Setiap exclusion harus mempunyai alasan yang bisa diaudit.
Dalam review Memory Poisoning Test, tes memakai data sintetis dan canary, tanpa credential atau informasi nyata yang berisiko. Bila reviewer berbeda, disagreement dicatat dan diselesaikan dengan adjudication note yang menunjuk ke evidence.
Memory Poisoning Test menahan pemisahan antara observation dan interpretation. Apa yang terlihat dicatat lebih dulu sebelum maknanya dibahas.
Apa yang Belum Kita Ketahui
Tidak ada kesimpulan performa dalam draft Memory Poisoning Test. Status itu akan berubah hanya melalui versioned evidence review.
Limitation Memory Poisoning Test: Implementasi memory berbeda dan sebagian tidak dapat diperiksa langsung. Faktor stochastic dan transformasi sebelum model menerima input perlu disebut bila dapat diamati.
Kembali ke Lab
Keputusan akhir Memory Poisoning Test ditulis sebagai versioned action: publish, revise, rerun, atau remain inconclusive.
Catatan replikasi Memory Poisoning Test memberi label full, partial, atau failed replication sesuai kesetaraan environment yang benar-benar tercapai.
Memory harus punya asal, scope, masa berlaku, dan mekanisme koreksi. Rute pengetahuan Memory Poisoning Test dimulai dari skenario kegagalan dan keamanan AI, diperiksa dengan Research Standards Protocol, lalu dibandingkan dengan Tool Output Injection Test: Ketika Hasil Tool Mengambil Alih Agen dan Cross-Agent Prompt Infection: Saat Satu Agen Menulari Agen Lain.
Rujukan Metodologis untuk Memory Poisoning Test
Rujukan berikut membantu menyusun boundary dan terminology untuk Memory Poisoning Test. Sumber eksternal tidak dianggap sebagai bukti bahwa main run Rajaseo telah selesai.