事件经过
当 vLLM 使用 --skip-tokenizer-init 提供服务时,单个未认证请求携带越界提示令牌 ID 会导致共享 EngineCore(以及 API 服务器进程)崩溃。针对先前公告(GHSA-25q3-v2hm-8vpf)添加的词汇表范围验证位于 InputProcessor._validate_model_input 中,但受“tokenizer is not None”条件限制;在这种预分词/令牌进令牌出/RL 模式下没有分词器,因此检查被跳过。/v1/completions 的 prompt 字段仅从下界约束 ID(ge=0),因此较大的正数 ID 能通过验证,到达嵌入层作为索引,并在模型前向传播中引发异常;EngineCore 将其视为致命错误并关闭整个引擎。已在 vLLM main 分支 HEAD dc89fdfb0e 处验证。
影响分析
vLLM 是广泛部署的开源推理引擎。在 --skip-tokenizer-init 模式下运行(常见于预分词/RL 服务负载),一个匿名请求会永久终止所有租户的共享引擎,直到手动重启——这是对模型服务端点的简单未认证拒绝服务攻击。OpenAI 兼容服务器默认无认证,因此整个多租户服务层暴露。
攻击途径
未认证 POST /v1/completions 携带较大的越界提示令牌 ID → 词汇表检查被跳过 → 嵌入索引越界 → 共享 EngineCore 中的致命异常 → 对所有租户的永久拒绝服务。
受影响系统
vLLM 0.28.0 至 0.33.0 之前版本(使用 --skip-tokenizer-init)
缓解措施
升级到 vLLM 0.33.0 或更高版本(修复 #62911 在存在提示 ID 时应用词汇表范围检查,而不仅限于存在分词器时)。