Concept  ·  术语库

Excessive agency (AI agents)

授予AI代理比任务实际所需更多的自由、权限或工具访问权。由于提示注入或恶意工具输出可能引导代理使用这些强大工具,过度授权的代理会将一个小把戏变成严重的安全漏洞。
专家们一直将过度代理权列为最重大的AI风险之一;仅授予代理完成任务所需最低权限的原则,是最有效的预防性控制措施。
OWASP LLM Top 10 2025 — LLM06: Excessive AgencyCSA AI Agent Lethal TrifectaOWASP GenAI LLM Top 10 — LLM06 Excessive Agency
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →