定義
訓練済みAIモデルをホストし、ユーザーの要求に応じて実行するサーバーおよびソフトウェア（vLLM、SGLang、GPUStackなど）。攻撃者がこのレイヤーを侵害した場合、自身のコードを実行したり、他のテナントのデータを読み取ったり、サービスを停止させたりすることができる。これはAIにおけるデータセンターに相当し、モデルが実際に実行される場所である。
なぜ重要か
ここでは実際のモデルが動作するため、この層への侵入はしばしば最も被害が大きく、検出も困難である。そしてこれらのプラットフォームは現在、国家の「既知の悪用」リストに掲載されつつある。