何が起きたか
vLLM のストラクチャド出力機能はユーザー提供の正規表現をタイムアウトなしで制約付きデコーディング文法にコンパイルするため、作成された正規表現は文法コンパイラをハング状態にして無期限にサーバーリソースを消費でき、共有 vLLM インスタンス上の他のすべてのリクエストを拒否できます。
なぜ重要か
vLLM は多くの組織の本番 LLM 推論を支えています。コア ストラクチャド出力機能に対するリモート認証不要 DoS は、多くのダウンストリーム AI アプリケーションを提供する複数テナント推論クラスタを一度に停止させる可能性があります。
攻撃経路
structured_outputs.regex API パラメータはユーザー提供の正規表現文字列を、コンパイルタイムアウトなく文法コンパイラバックエンド (xgrammar など) に直接渡すため、リモート認証不要の呼び出し元は、コンパイラをハング状態にして共有推論サーバーへのサービスを拒否する破滅的バックトラッキング正規表現を送信できます。
影響を受けるシステム
vLLM 推論/サービング エンジン、バージョン 0.24.0 より前
緩和策
vLLM >= 0.24.0 にアップグレードしてください。これはストラクチャド出力正規表現処理にコンパイルタイムアウトを追加します。