Defense  ·  术语库

Agent policy gate (tool-call authorization point)

专用控制组件,实时决定AI代理想要执行的特定工具调用是否被允许——这是对代理每个动作的安全检查点。它根据策略评估每次调用,并阻止任何不被允许的操作,还可能对请求来源进行密码学验证。此类门控在验证请求或签名方面的弱点,可能导致未经授权的操作得以绕过。
这是“护栏”背后的强制执行力量;策略门控失效意味着代理承诺的约束(例如“不能取消订单”)实际上并不真实。
OWASP GenAI Security Project
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →