AI inference serving infrastructure

承载已训练AI模型并按需为用户运行这些模型的服务器和软件（如vLLM、SGLang或GPUStack）。如果攻击者攻破此层，他们可以运行自己的代码、读取其他租户的数据或关闭服务。它相当于AI的数据中心——即模型实际执行的地方。

这是真实模型运行的地方，因此这里的入侵往往最具破坏性且最难检测，而这些平台现已出现在国家“已知被利用”漏洞清单上。