Parameter poisoning

間接的なプロンプトインジェクション攻撃であり、悪意ある入力がツール呼び出しに渡される引数だけを静かに破損させ、正規のアクションがまだ実行されているように見えるものです。アクション自体は正常に見えるため、アクションレベルの安全チェックはそれを見逃します。パラメータだけが間違っているのです。

この攻撃は実際にデプロイされたエージェントに対して約93%の確率で成功し、十分に防御されたエージェントでも、異常に気づかれることなく有害なアクションに誘導され得ることを意味します。