Persistent memory as an attack surface

AI 어시스턴트는 세션 간에 상태를 유지함으로써 유용성을 유지합니다 — 일부 시스템은 긴 대화를 요약으로 압축하고, 다른 시스템은 의미론적 캐시를 공유하여 유사한 질문에 빠른 답변을 제공합니다. 둘 다 공격 표면입니다: 공격자는 컨텍스트 압축 중에 저장되는 내용에 악성 콘텐츠를 끼워넣거나, 공유 캐시를 오염시켜 이후 세션에서 공격자가 더 이상 존재하지 않더라도 변조된 동작이 상속되게 할 수 있습니다.