事件经过
2026年11月9日(通过元文章:published_time和CSRC日期确认),NIST发布了特别出版物2400-102e2026《对抗性机器学习:攻击与缓解的分类体系和术语》的初始公开草案。该文件基于历史性的NIST AI 100-2系列,建立了对抗性机器学习(AML)攻击与缓解的分类体系,并为此领域提供了标准化术语。本版本将范围扩展至针对代理式超级智能(SI)系统的攻击及其缓解措施(第4节),并以新的“代理式SI攻击分类索引”更新了“SI攻击分类索引”,以实现细粒度引用。作者包括Apostol Vassilev(NIST)、Alina Oprea(东北大学)、Alie Fordyce(ElevenLabs)、Xander Davies(英国AI安全研究所)、Maia Hamin(NIST)。公众评议期开放至2026年12月18日。
影响分析
这是针对代理式/SI系统的对抗性机器学习攻击的权威通用语言参考,旨在为评估和管理SI系统安全的其他标准和未来实践指南提供依据。它直接扩展了支撑NIST AI RMF实施的AI 100-2体系,预计将被部署代理式AI的企业、红队和合格评定项目所引用。代理式SI的重点与当前自主代理安全风险浪潮相一致。
建议行动
请审阅草案并于2026年12月18日前提交评议意见,尤其是关于新的代理式SI攻击分类、缓解有效性以及需要标准化的术语。将您自身的SI/代理式AI威胁模型和控制目录映射到该分类体系。