Defense  ·  用語集

Runtime agent kill switch

オペレーターが、実行中のAIエージェント(または特定のツール呼び出し)を、危険な動作をした瞬間に即座に停止できる技術的制御手段。エージェント自身の内部機構が侵害されていても機能する。人間によるオフスイッチを要求するガバナンス上の義務とは異なり、これは実装されたメカニズムであり、ランタイムで展開可能で、管理対象エージェントだけでなくシャドウ(未登録)エージェントもカバーできる。
エージェントがスクリプトから逸脱した場合、欺瞞や事故は数秒で拡大する。機能するキルスイッチこそが、「ポリシーがある」を「実際に停止できる」に変えるものだ。
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →