战略报告  ·  2026-06-18

为AI赋能的生物设计工具建立可验证的审计追踪:生物设计日志可验证性提案

战略报告Medium 影响Global
由RAND公司AI、安全和技术中心于2026年6月15日发布的本论文指出了一个关键的治理漏洞:AI加速蛋白质设计工具(AlphaFold、RoseTTAFold、扩散模型)能够以监管机构无法验证其意图的速度创建新颖的生物序列。合成供应商目前无法确定上传的序列是安全设计还是为了造成伤害而设计,因为现有文档(PDF、笔记本)是可变且工具特定的。作者提出了一个跨工具、防篡改的审计追踪架构,将W3C PROV-O结构化溯源记录与硬件绑定的密码签名(哈希链、可信执行环境、类似于in-toto和Sigstore的仅附加透明度日志)相结合,在任何AI生物平台上提供可重现性、不可否认性和防篡改证据。至关重要的是,本论文得出的结论是部署的主要障碍不是技术性的,而是治理结构性的:缺乏共享基础设施治理、跨研究社区的合规负担不均,以及机构处理审计记录的能力不足。建议包括在进一步技术投资之前委托进行治理设计过程、通过合成供应商联盟试点自愿审计追踪提交,以及让AI生物工具开发商早期参与协议规范制定。
随着前沿AI模型将生物设计从数月加速到数天,无法验证新颖序列是否被安全设计还是为了造成伤害而设计这一问题,对于生命科学、防御和受管制研究领域的董事会、首席信息安全官和政策领导者来说是一个实质性的生物安全和责任风险,必须现在就理解——在自愿基准硬化为采购或监管要求之前。
转交首席科学官和生物安全/双用途研究委员会,评估当前DNA合成筛选和文档编制做法是否符合所提议的溯源和防篡改证据标准;开始与合成供应商合作伙伴就自愿审计追踪试点进行对话。
来源
RAND Landing Page — Verifiable Audit Trails for AI-Enabled Biological Design ToolsRAND Direct PDF — Verifiable Audit Trails for AI-Enabled Biological Design Tools
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →