Defense  ·  术语库

Automated red-teaming (agentic red-teaming)

使用AI代理自动探测AI系统的弱点和可利用行为,而非仅依赖人工测试员。前沿实验室和供应商现在披露,自动化红队代理的表现已超越人类,并能驱动实际漏洞利用的执行。
随着攻击者自身也利用AI实现自动化,防御方需要能够以AI的速度发现和测试弱点的AI——自动化红队现在胜过人工测试员这一事实,既是一项新兴能力,也是对进攻方行动速度之快的警示。
Anthropic automated red-teaming (Anvil)
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →