Defense  ·  用語集

Least agency (principle)

AI エージェントに与えるべき行動能力は絶対的な最小限度に留め、その特定の仕事を遂行するために必要な最少限のツール、権限、およびリーチのみを与えるべきという設計原則。人間ユーザーアカウントから馴染み深い「最小権限」の概念を、自律エージェントが実際に許可される行動のより広い概念へと拡張したもの。
必要以上の自律性を持つエージェントは、操作されたり誤動作したりする場合に最大のダメージの源となり、最小限のエージェンシーを強制することで、単一の侵害されたまたは混乱した AI エージェントの被害範囲を制限できる。
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →