解决方案  ·  2026-07-02

NVIDIA NeMo 防护栏 v0.23.0——用于流式和非流式的 IORails 工具调用、工具结果的本地防护栏验证

解决方案Medium 影响Global
NVIDIA NeMo 防护栏 v0.23.0 于2026年7月1日发布,将 IORails 工具调用扩展到涵盖流式和非流式请求。新功能包括验证模型发出的工具调用和应用返回的工具结果的本地防护栏——意味着防护栏现在可以检查完整的工具调用周期,而不仅仅是提示/响应对。可观测性改进也在此版本中发布。
工具调用验证弥补了大语言模型防护栏覆盖中最重大的缺口:之前的版本可以过滤提示和输出,但无法检查模型的工具使用决策或工具的返回值是否安全或符合策略。这与 MCP 连接的智能体直接相关,工具结果可能携带注入的有效负载。
在具有工具使用的智能体管道中使用 NeMo 防护栏的团队应立即升级到 v0.23.0,获得验证的工具调用检查;对于工具结果持续流动的流式智能体部署尤为重要。
来源
GitHub — NVIDIA/NeMo-Guardrails v0.23.0 Release
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →