定義
隠れた指示により、AIエージェントが既に実行を認可されたコマンドに追加の隠れたオプションやフラグを加えることで、危険な方法でその動作を変更する攻撃。明らかに危険なコマンドだけをチェックする、危険なオプションの組み合わせをチェックしないフィルターを通じて、より強力なコマンドを密かに通す方法である。
なぜ重要か
多くのAI-to-インフラストラクチャツールが依存する「安全なコマンド許可リスト」スタイルのガードレールを破り、表面レベルのフィルタリングが侵害されたエージェントによるKubernetesクラスターのような重要なシステムの乗っ取りを防ぐには不十分であることを示している。