vLLM — Tritonのbincountカーネルにおけるマルチモーダル音声トークンインデックスの境界外アクセスによるメモリ破損

vLLMのマルチモーダル音声処理用Tritonカーネルの無制限配列インデックスにより、細工されたトークン値を経由した境界外メモリアクセスが可能になります。

個別の深刻度は低いですが、エンジンの広範なデプロイを考慮すると、vLLMのマルチモーダル音声処理パスの正確なカタログ化された欠陥を表しており、追跡する価値があります。

プロンプトトークンIDは、語彙サイズに対する境界チェックなしにTriton _bincount_kernelのペナルティプロンプト存在ビットセットにインデックスを付けます。攻撃者は語彙サイズに等しいトークンを含むマルチモーダル音声リクエストを送信してメモリ破損をトリガーできます。

vLLM 0.29.0以前

vLLMをこの問題に対応したバージョンにアップグレードしてください。