解决方案  ·  2026-10-18

NVIDIA garak v0.17.1新增hit@k攻击成功率指标

解决方案Low 影响Global
garak v0.17.1(10月16日)新增hit@k攻击成功率指标,在终端输出和report.json的最终摘要条目中按探针/检测器组合展示。
为使用广泛部署的garak红队框架的团队提供了针对越狱/提示注入探针的概率性成功率度量(而非二元通过/失败)——有助于比较检测器和调整防御。
已在garak上的ML安全和LLM红队工程师应升级并在评估仪表板中采用hit@k。
NVIDIA/garak v0.17.1 release
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →