Multimodal Input Attack Surface

一个AI系统因为接受不仅仅是文本的输入——例如图像、音频或视频——而可能遭到攻击的额外方式。每种格式都需要自己的处理代码,其中可能包含自己的漏洞。攻击者可以利用这些额外格式的解码方式来使系统崩溃、耗尽资源或隐入恶意内容。

随着AI产品竞相添加语音和图像功能以保持竞争力,每种新的输入类型都在悄然扩大安全团队必须防守的范围,通常比防御措施跟上的速度更快——正如在广泛部署的推理引擎中反复出现的音频/视频解码漏洞所示。