事件经过
MIT未来科技(隶属于MIT斯隆管理学院和CSAIL),与昆士兰大学以及包括IBM研究院、斯坦福大学、MIRI和联合国大学在内的40多位合作者,发布了AI风险缓解库——这是一份对47个AI治理和风险管理框架的系统性综述,编目了2,206项拟议的AI保障措施,每项措施都标注了其应对的风险、执行主体、生命周期阶段以及降低风险的方式。只有55%的缓解措施直接针对AI系统;其余措施针对组织流程、治理结构、公共政策和更广泛的社会系统。责任分布在开发者(约41%)、部署组织(约33%)和治理参与者(约18%)之间。关键覆盖缺口集中在人类对日益自主的智能体的监督、社会对AI中断的韧性与恢复能力,以及计算资源管理——每项在记录在案的缓解措施中占比不足2%——而组织问责制是最大的类别,占13.4%。一个由272位专家组成的德尔菲小组评估认为,竞争动态和权力集中是到2030年最可能造成严重或灾难性伤害的五大风险之一,但只有15条缓解记录针对这些风险。该团队引入了PRIMER,一个八项报告清单(缓解措施、应对风险、实施者、时间节点、方法),并指出只有3.4%的记录使用了一致的命名。
影响分析
这是最全面的公开地图,展示了组织实际上可以针对AI风险采取哪些措施,以及哪些地方的覆盖最薄弱——可直接用于设计AI风险登记册和保障计划,而非重复通用的治理建议。
建议行动
将PRIMER报告清单映射到你的AI风险分类体系,并审查你现有的风险登记册,以检查覆盖不足的类别(智能体监督、韧性和计算治理)。