定義
高度な（いわゆる「超知能」）AIによって引き起こされる被害の検知、封じ込め、報告のプロセス。これには、誤作動する自律エージェントが被害を及ぼす前に停止させることも含まれます。従来のインシデントレスポンスのプレイブックは、エンドポイントに人間がいることを前提としており、独自に行動するエージェントを確実に停止させることはできません。
なぜ重要か
規制当局は、取り消し可能な権限とキルメカニズムを求めています。制御不能なエージェントは、人間が介入するよりも速く被害を引き起こす可能性があり、現在の封じ込めガイダンスではそれをカバーしていないからです。