Apa yang terjadi
Microsoft menerbitkan 'Guarding AI Memory' pada 22 Juni 2026 — posting berfokus Security Copilot yang menguraikan bagaimana pelaku ancaman dapat menargetkan penyimpanan memori AI (riwayat percakapan, konteks yang diambil, memori persisten) melalui injeksi prompt, injeksi tidak langsung melalui dokumen yang diambil, dan keracunan memori, bersama dengan arsitektur pertahanan Microsoft dan rekomendasi deteksi berbasis telemetri. Pendamping panduan investigasi AI Copilot M365 dan Azure AI tanggal 9 Juni.
Mengapa penting
Memori AI adalah permukaan serangan yang muncul dan kurang terlindungi: mengompromikan apa yang diingat AI dapat bertahan di seluruh sesi dan secara diam-diam mengubah perilaku agen dalam skala besar. Framing Microsoft menetapkan model ancaman yang diperlukan tim keamanan untuk penerapan agen AI persisten apa pun.
Cakupan penerapan
Arsitek keamanan yang menerapkan agen AI persisten (M365 Copilot, Azure AI Foundry, agen berbasis RAG apa pun) harus meninjau panduan ini segera dan memodelkan memori sebagai batas kepercayaan baru yang memerlukan kontrol setara dengan penyimpanan data sensitif lainnya.