何が起きたか
vLLM 0.10.1から0.31.0より前のバージョンでは、OpenAI互換のPythonフロントエンドが、リクエスト制御のmm_processor_kwargs.max_patches値をサーバー側の上限なしでHugging FaceプロセッサーにCohere2 Visionモデル用に転送します。前処理作業は値とともに二次関数的に増大し、クライアントが小さなLRUキャッシュを回避するために値を変更できるため、リモートクライアントは前処理ワーカーを枯渇させ、他のクライアントへのサービスを拒否する小さな画像チャット完了リクエストを送信できます。
なぜ重要か
これは広く展開されているモデルサービングエンジン（デフォルトのvLLMサーバーはAPIキーを必要としない）に対する認証不要のリモートリソース枯渇ベクトルであり、Cohere2 Visionを提供するデプロイで実際にサービス拒否を可能にします。これは、サーバー側の制限なしにリクエスト制御された計算予算を信頼するというAIサービングの落とし穴を代表しています。
攻撃経路
リモートの認証不要の画像チャット完了リクエストで、大きな変動するmm_processor_kwargs.max_patches値を送信し、ワーカーを枯渇させる二次的な前処理作業を引き起こす。
影響を受けるシステム
vLLM 0.10.1 – 0.30.x (Cohere2 Visionマルチモーダル前処理パス)
緩和策
vLLM 0.31.0+にアップグレード；Cohere2 Visionモデルを提供する場合はAPI認証とレート/パラメータ制限を追加；大きなmax_patches値を持つ異常な画像リクエストをログに記録しレビュー。