定義
AIモデルと外部世界の間に位置するソフトウェアレイヤー — AIエージェントが見ることができるデータ、使用できるツール、実行が許可されているアクション を決定します。国家サイバーセキュリティ機関は、基盤となるモデルではなく、このレイヤーを、セキュリティ制御を適用する必要がある主要な場所として扱うようになりました。
なぜ重要か
攻撃者と規制当局の両方が、「モデルは安全か」から「ハーネスは安全か」へと焦点をシフトさせています — 制御が不十分なハーネスは、AI自体が意図したとおりに動作する場合でも、エージェントが破壊的な現実の行動を実行できるようにする可能性があります。