Defense  ·  术语库

Runtime agent kill switch

一种技术控制手段,使操作员能够在AI代理——或某个具体工具调用——做出危险行为的瞬间立即将其停止,即使代理自身的底层系统已被攻破。与要求有人工断电开关的治理规定不同,这是一种已实现的机制,可在运行时部署,既能覆盖受管代理,也能覆盖影子(未注册)代理。
当代理偏离脚本时,欺骗或意外会在几秒内升级;一个有效的紧急停止开关,正是将“我们有政策”转变为“我们真能停下来”的关键。
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →