Attack  ·  术语库

Compositional exploit (autonomous coding agents)

将多个单独看似微小的弱点串联起来的攻击,使得它们结合在一起后,能让恶意行为者接管自主编码代理。每项检查或审计日志单独来看似乎都没问题,但这串小缺口却击败了审计人员用来审查代理行为的模型。
由于没有单个缺陷看起来严重,标准审计和代理安全审查可能会将代理认证为安全的,而实际上它完全可控——因此,审查本身反而提供了虚假的信心。
MITRE ATLAS
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →