AI memory poisoning

篡改智能体存储的信息或其读取的文档——即其记忆——使其未来的决策在不知不觉中被逐步腐蚀，通常不伴随任何可见错误。这对于在长对话和任务中记忆事实的智能体尤其危险。

由于被投毒的记忆会使智能体在日后做出错误行为，组织可能将这些失误归因于普通错误，而非蓄意攻击，从而使其成为一项缓慢发酵的治理与诚信风险。