漏洞  ·  2026-10-16

Anthropic Frontier红队:小型开放权重模型展示自我复制能力——物联网'AI蠕虫'/自主复制与适应里程碑

漏洞Medium 影响Global
Anthropic的Frontier红队(Zhou & Freeman)于2026-10-12发布了'AI模型可能无需数据中心即可自我复制',讨论持续至2026-10-15(SecurityWeek/Technology.org报道)。他们运行Gemma4-26B-A4B分布在15个便宜的Android TV盒子(每个约55美元)上,速度为0.39 tok/s,并评估了完整的复制链:GLM-5.2分布在8个模拟Android节点上,在5次试验中4次成功;较小的模型完成各步骤但出现组合错误。评估保持网络利用步骤简单(ADB无认证),因此是上限,但趋势线表明到2026年底小型模型将匹配端到端能力。
这是供应商自身对危险能力的评估,将AI蠕虫文章(此前是理论性的或需要数据中心GPU)带入经济型、安全性差的边缘/物联网设备群的现实近期——一个没有中央终止开关的去中心化复制器,能够适应不熟悉的设备,其负载包括模型权重本身。对于防御者,它重新定义了对任何可托管推理的网络可达设备暴露未认证管理/ADB/调试接口(MCP、SSH、设备调试端口)的风险,并推动与经典蠕虫防御相同的网络分段和凭据卫生纪律,但针对的是具备AI能力的端点。
无利用——该研究展示了基于权重的AI蠕虫的能力链:扫描目标、获得执行(评估中简化为未认证的ADB调试端口)、在不熟悉硬件上建立推理、并从新主机继续传播。30B及以下的模型已完成许多步骤;GLM-5.2在5次试验中4次在8个模拟Android节点上完成端到端复制,Qwen3.5-9B在9种不熟悉硬件类型中的8种上运行了推理。
开放权重模型 <=30B(Qwen3.5-9B、GLM-5.2、Gemma4-26B-A4B)在自我复制/ARA(自主复制与适应)链中的能力评估;无特定产品版本受影响
无补丁——anthropic.com/research/self-replicating-ai(2026-10-12)的披露建议防御者通过网络监控、对受损设备的ISP隔离、安全的默认设备配置以及企业方面:具有定义权限和记录操作的代理来准备。将开放权重模型托管和MCP/代理对未认证服务的访问视为蠕虫传播面。
Anthropic Frontier Red Team — Self-replicating AISecurityWeek coverage
在实时动态中查看 浏览更多 AI 安全与治理相关发现 — 每日清晨更新。
打开动态 →