Attack  ·  Glosarium

AI memory poisoning

Merusak informasi yang disimpan oleh agen atau dokumen yang dibacanya — memorinya — sehingga keputusan masa depannya secara diam-diam terkorupsi seiring waktu, sering kali tanpa kesalahan yang terlihat. Ini sangat berbahaya bagi agen yang mengingat fakta-fakta dalam percakapan dan tugas yang berlangsung lama.
Karena memori yang teracuni membuat agen bertindak salah di kemudian hari, organisasi mungkin mengaitkan kegagalan tersebut dengan kesalahan biasa daripada serangan yang disengaja, menjadikannya risiko tata kelola dan integritas yang berjalan lambat.
Microsoft: Guarding AI Memory — Memory Poisoning Threats and Defenses
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →