事件经过
NeMo Guardrails 0.25.0(于 2026 年 11 月 19 日发布)新增了显式的工具调用和工具结果检查,带有结构化的 tool_violations;一个钩子服务器,通过配置的 Claude Code 和 Codex 钩子以及 NeMo Relay 插件(带有工具/参数允许列表和阻止列表)运行工具使用前检查;以及一个实验性的 NeMo Guardrails Gateway,在现有模型 API(缓冲和流式 OpenAI Chat Completions/Responses 以及选定的 LiteLLM 方言)周围应用输入/输出检查。它还新增了 LLM 判断的按工具安全性、用于按工具参数/结果检查的 CEL 表达式、基于语言的输入过滤,并恢复了 Zscaler AI Guard 审核。
影响分析
这将一个开源护栏框架从提示/输出过滤扩展到代理层——在执行前拦截并判断代理工具调用和结果,覆盖三大主要编码代理运行时,并提供包装现有模型 API 的网关。这直接应对了代理工具滥用和供应链风险,这是当前新兴的主导威胁面。
适用范围
构建或运营代理 AI(Claude Code、Codex、NeMo Relay)的平台/安全团队,需要执行前工具门控和模型 API 包装。现在评估工具调用护栏和网关;注意实验性网关每个配置文件仅限一个用户文本输入和一个助手文本输出。