战略报告  ·  2026-08-12

关于大型语言模型代理在用于核酸合成筛选规避的生物工具使用上的测试

战略报告High 影响Global
RAND人工智能、安全和技术中心发布了一份新的研究报告,评估大型语言模型(LLM)代理是否可以利用生物工具(BTs)重新设计肽和蛋白质,以规避核酸合成筛选——一项关键的生物安全保障措施。作者发现"LLM代理展示了利用BTs进行核酸合成筛选规避的新兴能力,尽管成功并不一致,模型保障措施经常限制了对闭源系统的测试"。这是一份经过同行评审的RAND研究报告(发布于2026年8月11日),基于RAND正在进行的生物安全威胁建模工作流,是对2026年6月初步评估"LLM代理能否选择并使用生物工具?"的后续研究。该报告评估了一个特定的威胁模型——代理滥用降低危险生物设计的专业知识壁垒——而不是一般的能力基准测试。
这是一个直接的实证信号,表明代理AI系统正在开始展示与规避生物安全筛选基础设施相关的能力,为前沿实验室保障设计、国家生物安全政策和双用途研究监督决策提供信息。
前沿实验室和生物安全政策团队应该审查闭源保障措施对代理滥用的有效性,并向风险委员会通报核酸合成筛选的漏洞。
RAND Corporation — Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening EvasionRAND direct PDF
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →