무슨 일이 있었나
Microsoft는 2026년 6월 22일 'Guarding AI Memory'를 발표했습니다 — Security Copilot 중심의 게시물로, 위협 행위자가 프롬프트 인젝션, 검색된 문서를 통한 간접 인젝션, 메모리 중독을 통해 AI 메모리 저장소(대화 기록, 검색된 컨텍스트, 지속적 메모리)를 대상으로 할 수 있는 방법을 분석하고, Microsoft의 방어 아키텍처 및 원격 측정 기반 탐지 권장사항과 함께 제공합니다. 6월 9일 M365 Copilot 및 Azure AI를 위한 AI 조사 플레이북의 보완 자료입니다.
왜 중요한가
AI 메모리는 새로운, 방어되지 않는 공격 표면입니다: AI가 기억하는 것을 손상시키면 세션 전반에 걸쳐 지속될 수 있으며 대규모로 에이전트 행동을 조용히 변경할 수 있습니다. Microsoft의 구성은 모든 지속적 AI 에이전트 배포에 필요한 위협 모델을 확립합니다.
적용 범위
지속적 AI 에이전트(M365 Copilot, Azure AI Foundry, RAG 기반 에이전트)를 배포하는 보안 아키텍트는 이 지침을 즉시 검토하고 메모리를 다른 민감한 데이터 저장소와 동등한 제어가 필요한 새로운 신뢰 경계로 모델링해야 합니다.