事件经过
这是首份英美政府联合技术评估,量化了美中前沿人工智能网络能力差距,并披露了一个已发布的中国模型的安全防护栏失败阻止攻击性网络操作尝试——与首席信息安全官评估双用途模型风险以及政策制定者权衡出口管制和开源权重政策直接相关。
影响分析
向安全领导层介绍开源权重网络能力差距,并更新AI在环中的威胁模型,以考虑具有宽松安全防护措施并尝试进行攻击性网络任务的模型。
建议行动
Brief security leadership on the open-weight cyber capability gap and update AI-in-the-loop threat models to account for models with permissive safeguards attempting offensive cyber tasks.