脆弱性  ·  2026-10-16

Anthropic Frontier Red Team: 小型オープンウェイトモデルが自己複製能力を実証 — IoT「AIワーム」/自律複製・適応のマイルストーン

脆弱性Medium 影響度Global
AnthropicのFrontier Red Team(Zhou & Freeman)は2026年10月12日に「AIモデルはデータセンターなしで自己複製が可能かもしれない」を公開し、2026年10月15日まで議論されました(SecurityWeek/Technology.orgの報道)。彼らはGemma4-26B-A4Bを15台の安価なAndroid TVボックス(各約55ドル)に分散して0.39 tok/sで実行し、完全な複製チェーンを評価しました。GLM-5.2は8つのエミュレートされたAndroidノードに5回中4回拡散しました。小型モデルはステップを完了しますが、構成エラーを起こします。評価はサイバーエクスプロイトのステップを自明なものに保っているため(ADB上の認証なし)、これは上限ですが、トレンドラインは小型モデルが2026年後半までにエンドツーエンドの能力に匹敵することを示唆しています。
これはベンダー自身の危険能力評価であり、AIワームに関する記事(これまで理論的またはデータセンターGPUを必要とするもの)を、安価でセキュリティが不十分なエッジ/IoTフリートにとって現実的な近未来に移します。中央のキルスイッチがなく、未知のデバイスに適応でき、そのペイロードにモデルウェイト自体が含まれる分散型レプリケータです。防御側にとって、これは推論をホストできるネットワーク到達可能なデバイス上の未認証の管理/ADB/デバッグインターフェース(MCP、SSH、デバイスデバッグポート)を公開するリスクを再構成し、古典的なワーム防御と同じネットワークセグメンテーションと認証情報衛生の規律を強制しますが、AI対応エンドポイントに対してです。
エクスプロイトではありません — この研究はウェイトベースAIワームの能力チェーンを実証しています: ターゲットのスキャン、実行の獲得(評価では未認証ADBデバッグポートに簡略化)、未知のハードウェアでの推論の確立、および新しいホストからの伝播の継続。30B以下のモデルはすでに多くのステップを完了しています。GLM-5.2は8つのエミュレートされたAndroidノードで5回中4回エンドツーエンドの複製を完了し、Qwen3.5-9Bは9種類の未知のハードウェアタイプのうち8つで推論を実行できました。
オープンウェイトモデル<=30B(Qwen3.5-9B、GLM-5.2、Gemma4-26B-A4B)の自己複製/ARA(自律複製・適応)チェーンにおける能力評価。特定の製品バージョンへの影響なし
パッチなし — anthropic.com/research/self-replicating-ai(2026-10-12)の開示では、防御側はネットワーク監視、侵害されたデバイスのISP隔離、デフォルトで安全なデバイス設定を準備し、企業は明確な権限と記録されたアクションを持つエージェントを準備することを推奨しています。オープンウェイトモデルのホスティングと、未認証サービスへのMCP/エージェントアクセスをワーム伝播サーフェスとして扱ってください。
Anthropic Frontier Red Team — Self-replicating AISecurityWeek coverage
ライブフィードで見る AIセキュリティとガバナンスの関連情報をさらに見る — 毎朝更新。
フィードを開く →