脆弱性  ·  2026-11-20

Anthropic自動レッドチーミング(Anvil):フロンティアラボの開示により、自動レッドチーミングエージェントが人間を上回り、エクスプロイト実行を駆動できることが判明

脆弱性Medium 影響度Global
Anthropicは2026年11月12日に、内部の自動レッドチーミングシステムAnvilが、バイオ、サイバーセキュリティ、蒸留防御の各分野で人間のレッドチーマーを上回り、保護されたモデルを操作して評価サンドボックス内でエクスプロイトを実行させることができるという調査結果を発表しました。人間のレッドチーマーが8問中1問で高深刻度のバイオ分類器ジェイルブレイクを見つけるのに7週間で430時間を要したのに対し、Anvilは最高の人間のジェイルブレイクに匹敵するかそれを上回り、人間が決して見つけない攻撃戦略を発見すると述べています。
これはAI防御者にとって重要な危険能力評価の開示です。自動エージェント型レッドチーミングがどこまで進んだかを定量化し、フロンティアラボのモデルが完全なエクスプロイト実行に誘導されることを示しています。また、同等の能力がまもなく防御が弱いモデルに対して攻撃者に利用可能になると予測しており、AIシステムの脅威モデリングのあり方を変える必要があります。
Anvilは、防御を無効にしたフロンティアClaudeを基盤とするAnthropicの自動レッドチーミングシステムであり、専門の人間のレッドチーマーよりも強力で信頼性の高いジェイルブレイクを見つけ出し、保護されたモデルを操作してエクスプロイトを実行させ、評価サンドボックス内で任意のコード実行を達成できます。すべてのバイオバグバウンティ分類器で最高の人間のジェイルブレイクに匹敵するかそれを上回り、数週間ではなく24〜48時間でそれらを見つけます。
Anthropic Claudeの防御機能とAnvil自動レッドチーミングシステム(フロンティア内部Claudeモデル)
自動レッドチーミングを採用して、展開前に防御を検証してください。引き上げられた攻撃者能力(モデルが強力になるにつれて手法も向上する)を、防御は人間のレッドチーマーだけでなく自動化された敵に対して評価されなければならないというシグナルとして扱ってください。
Anthropic — Strengthening our safeguards with frontier automated red-teaming
ライブフィードで見る AIセキュリティとガバナンスの関連情報をさらに見る — 毎朝更新。
フィードを開く →