解决方案  ·  2026-07-15

蚂蚁集团开源 SingGuard-NSFA——针对自主 AI 代理的专用护栏模型

解决方案Medium 影响Global
蚂蚁集团 AI 安全实验室开源(2026 年 7 月 12-13 日)SingGuard-NSFA,一个护栏模型家族(0.8B-9B 参数),可在 185 个威胁场景/7 个类别中分类代理特定风险,在约 100K 样本和 133 种语言中评估,实现约 50ms 的实时检测延迟;在 GitHub/Hugging Face 上与更广泛的多模态 SingGuard 护栏模型一起发布。
一个罕见的生产级、小足迹(设备上/本地部署能力)开源护栏,专门为代理威胁(目标劫持、工具滥用、权限滥用)分类,而不是通用内容审核,为 OSS 代理安全生态系统提供了可信的低延迟拦截层。
构建或保护自主代理框架的团队(特别是需要本地部署的受监管行业)应将 SingGuard-NSFA 评估为护栏层。
Business Wire / Ant GroupGitHub
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →