Defense  ·  术语库

AI runtime firewall

一个位于用户(或其他 AI 代理)与生产环境中的 AI 模型之间的安全控制层,实时检查每一个输入的提示词和输出的响应。就像传统网络防火墙可以阻止危险流量一样,AI 运行时防火墙可以实时检测和阻止提示词注入攻击、敏感数据泄露、策略违规和异常代理行为。
静态安全审查和部署前测试无法在运行时捕获所有攻击——AI 运行时防火墙是弥补这一空缺的实时防御层。主要安全供应商(Palo Alto Networks、F5、Fortinet)都推出了专门的 AI 运行时防火墙产品,表明这现在被视为一项基本的企业安全要求。
参考资料
NIST AI RMF — Govern, Map, Measure, Manage
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →