何が起きたか
BoxはAI Studioで構築されたカスタムエージェント向けにAgent Guardrailsを導入しました:管理者はAdmin Console > Box AI > Securityからエンタープライズ全体のデフォルト制約を設定でき、ビルダーはエージェントごとに上書きできます。現在ガード可能なアクションは、Upload file、Upload file version、Create Box Noteで、それぞれターゲット基準(制限なし、Shield分類許可リスト、または外部アクセス可能アイテムでの許可なしを含む拒否リスト)があります。
なぜ重要か
これはコンテンツセキュリティポリシー(Shield分類ラベル)をAIエージェントアクションに拡張し、管理者に安全なデフォルトベースラインを提供し、エージェントがファイルでできることを制限できるようにします。主流コンテンツプラットフォームでのエージェント型データアクションを統治する上での段階的かつ実際のステップです。
適用範囲
Box AI顧客:分類ベースのエージェントガードレールを設定して、外部アクセス可能またはConfidentialコンテンツをエージェントが移動するのを防ぐ。Shield Classification Labelsの事前設定が必要です。