vLLM — embeddings/poolingエンドポイント内の負のトークンIDによる認証なしエンジンクラッシュ（GPU コンテキストポイズニング）

vLLMのembeddings/pooling APIに負のトークンIDで細工されたリクエストを送信すると、致命的なCUDAアサーションがトリガーされ、共有GPUコンテキストが汚染され、その推論インスタンス上の他のすべてのリクエストへのサービスが拒否されます。

これは広く展開されている推論エンジンのマルチテナントGPUコンテキストに対する、簡単に悪用可能な単一リクエストの認証なしDoSです。1つの悪意のあるリクエストにより、オペレーターがプロセスを再起動するまで、同じ場所にある全てのユーザー/テナントのサービスが低下します。これは共有vLLMデプロイメント向けの重大な可用性リスクです。

vLLMは/v1/embeddingsおよび/poolingエンドポイントに送信されたトークンIDの下限境界を検証しません。負のトークンIDを含む単一のリクエストにより、GPUデバイス側のアサーションがトリガーされ、GPUコンテキストが汚染されます。その結果、プロセスが再起動されるまで、そのエンジン上の後続のすべてのリクエストが失敗します。

vLLM 0.28.0より前

GitHub Security Advisory GHSA-25q3-v2hm-8vpfに従ってvLLM 0.28.0以降にアップグレードしてください。