Attack  ·  用語集

Workflow Identity Hijacking

AI搭載のワークフローが、AIモデル自体を操作または「ジェイルブレイク」することなく、認証されていない入力によって高権限アクションを実行するよう騙される設計上の欠陥。ワークフローが信頼と権限をどのように割り当てるかを悪用するもので、モデルの判断ではない。
この攻撃はモデルをまったく迂回するため、操作されたプロンプトまたは悪意のある命令をキャッチするために構築された防御はまったく適用されず、取締役会が閉じるための新しいコントロールが必要なガバナンスギャップが残される。
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →