何が起きたか
vLLM Rust gRPCのGenerate/GenerateStreamサービスは、プロンプトのtoken_idsをモデル語彙に対して検証せずにEngineCoreに転送します。語彙外のプロンプトtoken_idsを含むリクエストは、致命的な埋め込みルックアップを引き起こし、エンジンをクラッシュさせる可能性があります。
なぜ重要か
単一の不正なリクエストで共有エンジンがクラッシュし、他のクライアントへのサービス提供が拒否される可能性があります(CVSS 5.9、CWE-20)。
攻撃経路
語彙外のプロンプトtoken_idsを含むリクエストを送信して、致命的な埋め込みルックアップを引き起こし、エンジンをクラッシュさせます。
影響を受けるシステム
vLLM >= 0.22.0、< 0.24.0(Rust gRPC Generate/GenerateStream)。
緩和策
vLLM 0.24.0にアップグレードしてください。