Kerentanan  ·  2026-11-22

vLLM /v1/systemone chat-template trust bypass lets an API caller override the operator-pinned system template

KerentananMedium dampakGlobal
Endpoint structured-decisions meneruskan chat_template_kwargs tingkat permintaan ke renderer HuggingFace bersama tanpa memanggil gerbang validasi kepercayaan yang digunakan jalur chat dan responses. Pelapor (peneliti BAAI) menunjukkan bahwa pemanggil API dapat menyediakan template chat bahkan ketika server melarang template yang disediakan permintaan; vLLM menilainya CVSS 6.5 dan memperbaikinya di 0.34.0.
Dalam deployment vLLM, pemanggil API yang berwenang tetapi tidak tepercaya dapat menimpa prompt sistem yang ditetapkan operator dan menyuntikkan token khusus / batas giliran, memungkinkan manipulasi model bergaya prompt injection yang seharusnya diblokir oleh validasi tingkat pesan dan gerbang kepercayaan.
Pemanggil dengan kunci API valid mencapai POST /v1/systemone (jalur structured-decisions) dan menyediakan chat_template_kwargs tingkat permintaan; karena jalur renderer preprocess_chat() bersama tidak memanggil validate_chat_template(), template tersebut melewati gerbang --trust-request-chat-template, memungkinkan pemanggil mengganti blok sistem yang ditetapkan operator dan menyuntikkan token khusus atau batas giliran yang akan ditolak oleh validasi tingkat pesan.
vLLM (pip) >=0.32.0rc0 <=0.33.0
Tingkatkan ke vLLM 0.34.0 atau yang lebih baru (menerapkan pemeriksaan kepercayaan template ke permintaan structured-decisions, PR #64503). Dirujuk oleh GHSA-xgh8-qwjh-q853; tidak ada CVE yang ditetapkan.
i10x — GHSA-xgh8-qwjh-q853: vLLM chat template bypassAI Security Index — verified vLLM advisory
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →