定義
AIエージェントの実行パス内に直接位置し、エージェントがリスクのあるアクション実行を試みた瞬間にそれを一時停止またはブロックできるセキュリティコントロール。リアルタイムの遮断装置のようなもので、事後にログをレビューするのとは異なります。事前にアクセスを決定するパーミッションシステムとは別のものです。
なぜ重要か
AIエージェントは人間がレビューするよりも速く動作するため、悪いアクションを発生中に停止できるコントロールを持つこと——単に後でフラグを立てるだけでなく——は実害を防ぐために極めて重要です。