Defense  ·  术语库

Least agency (principle)

一项设计原则,即AI代理应该被赋予绝对最少的行动能力——以及最少的工具、权限和影响范围——来完成其特定任务,仅此而已。它将熟悉的"最小权限"概念从人类用户账户扩展到自主代理实际被允许执行的操作的更广泛概念。
具有超过所需自主权的代理在被操纵或故障时造成的损害最大;强制实施最小代理限制可以限制任何单个被破坏或混淆的AI代理的影响范围。
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →