vLLM Rust gRPCフロントエンドがlogprob_token_ids制限をバイパスし、EngineCoreの終了を引き起こす

vLLM Rust gRPCフロントエンドはlogprob_token_idsの制限を強制しないため、呼び出し側はoutput_logprobsを有効にし、許可された数を超える出力logprob_token_idsを含むGenerateまたはGenerateStreamリクエストを送信でき、リソースを消耗させるかEngineCoreを終了させる可能性があります。

リモートの呼び出し側がエンジンを終了させ、同一テナントのサービス提供を妨害することを許可します（CVSS 5.9、CWE-667）。

output_logprobsを有効にし、128を超える出力logprob_token_idsを含むGenerate/GenerateStreamリクエストを送信します。

vLLM >= 0.22.0、< 0.24.0（Rust gRPCフロントエンド）。

vLLM 0.24.0にアップグレードしてください。