Excessive agency (AI agents)

AIエージェントに、タスクに実際に必要以上の自由度、権限、またはツールアクセスを付与すること。プロンプトインジェクションや悪意のあるツール出力がエージェントをその強力なツールへ誘導できるため、過剰な権限を持つエージェントは、小さなトリックを深刻な侵害に変えてしまいます。

専門家は一貫して、過剰なエージェンシーをAIリスクの最上位にランク付けしています。エージェントに必要な最小限の権限のみを与えるという原則は、最も効果的な予防的対策です。