Server-Side Template Injection (SSTI) in AI Pipelines

一个缺陷是指AI工具通过填充可重用的"模板"来构建文档或响应,而攻击者偷偷注入特殊代码来替代普通文本——欺骗模板引擎在服务器上运行该代码。在AI提示-模板系统中,这可能会给攻击者完全控制运行模型的机器。

提示模板在许多AI应用程序中被共享和重用,因此一个有缺陷的模板格式可能会暴露基于它构建的每个产品——这是一个最高严重性缺陷类别,监管机构和审计员将开始直接向供应商询问。