Persistent memory as an attack surface

AIアシスタントはセッションをまたいで状態を保持することで有用性を維持する——一部のシステムは長い会話を要約に圧縮し、他のシステムはセマンティックキャッシュを共有して類似の質問に高速回答を提供する。どちらも攻撃対象となる：攻撃者はコンテキスト圧縮中に保存される内容に悪意のあるコンテンツを紛れ込ませたり、共有キャッシュを汚染したりできるため、攻撃者がもう存在しなくても、後のセッションが改ざんされた振る舞いを継承することになる。