漏洞  ·  2026-11-22

ACaM:描述-代码不一致/代理AI工具表面中的“能力洗白”攻击类别

漏洞Medium 影响Global
该论文形式化了描述-代码不一致(DCI)及由此产生的“能力洗白”威胁类别,并提出ACaM,一种从代码派生工具能力的神经符号方法,使洗白的能力无法隐藏在良性描述之后。它重建了跨多个工具调用的威胁链,并确认了未修改的真实代理中的10条漏洞路径,附有PoC。
为代理系统定义了一个真实、可利用的攻击类别,其中代理被告知安全的工具可以外泄或行动——与MCP服务器和代理工具供应链审查直接相关。
代理信任工具描述作为其行为的代理,但没有任何机制强制描述与实现一致。工具可以静默包含危险行为(例如读取凭据文件并将其放入HTTP头中),每当代理为了其声明的良性目的调用它时就会运行——无论是出于偶然漂移还是供应链入侵。
代理和MCP工具表面普遍——自然语言描述与其实现不匹配的工具(能力洗白);分析了43个代理
无特定补丁;通过从代码验证工具能力(静态分析/能力建模)而非工具描述,在设计时和运行时进行缓解。
arXiv 2611.23507 — ACaM: Automated Capability Modeling for Agentic AI Security
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →