事件经过
兰德公司人工智能、安全与技术中心绘制了完整的生物武器开发路径——从构想到武器化——并评估了人工智能如何降低了创建生物武器的技术、运营和动机壁垒。该报告提出了一项基于九项干预措施的纵深防御战略,跨越三个类别:三项限制获取危险信息和人工智能工具(开源模型的保障措施、敏感人工智能系统的托管访问计划),一项扩大生物前体的筛查,三项针对威慑的措施(早期预警、归因、快速疫情响应),以及两项专注于通过实时监测和跨组织预警信息共享来检测滥用。首席作者Steph Guerra表示:"当今的保障措施分散在公司、政府和国家之间,设计目的不是为了协同工作"——该报告主张需要建立分层的、相互强化的保障措施,因为没有单一的干预措施能够阻止一个意志坚定、资源充足的行为体。报告进一步发现,如果美国单独采取行动,若干缓解措施会失效,这使得国际协调和政府-产业合作至关重要。
影响分析
这为董事会、国家安全政策制定者和人工智能实验室安全团队提供了一个结构化框架,用于评估和优先处理生物安全投资以应对人工智能支持的生物武器风险,而不是依赖于对付复杂行为体时会失败的临时措施或单点保障。
建议行动
根据兰德公司的九项缓解框架,将现有的人工智能生物安全保障措施(模型访问控制、前体筛查、监测)进行对标,以识别覆盖差距以及与政府和产业合作伙伴的协调需求。