何が起きたか
Anthropicのフロンティアレッドチームは、戦術的インテリジェンスターゲティング（例えば、断片的な情報から人を探すこと）および従来型兵器開発（例えば、移動目標を攻撃するドローンを設計すること）におけるAI能力を測定する新しい評価を発表しました。見出しの知見は、「軍事とインテリジェンス分野の一部のタスクについて、モデルは歴史的には希少で非常に訓練された人間の専門家のセットだけができることを実行できる可能性がある」ということです。ソーシャルメディアのID相関シナリオ（WhatsApp、Telegram、Instagram、Facebook）全体で200の シミュレーションされたタスクのパイプラインを使用して、チームはフロンティアモデルが「見つける、固定する、追跡する、目標にする」キルチェーンタスクで一貫した進歩を遂行していることを発見しました。PRC開発者からのオープンウェイトモデルはフロンティアの後ろでテストされましたが、「敵を識別および目標とし、兵器性能を向上させる能力に関する懸念」を示しました。Anthropicはこれが不正使用をブロックするための新しいプラットフォーム上の分類器を促したと述べています。
なぜ重要か
防御およびインテリジェンス隣接のエンタープライズおよび政策立案者は、どの軍事/インテリジェンスタスクが希少な人間の専門知識を必要とするかについての仮定を再調整する必要があります対。現在のフロンティアおよび第2層のオープンウェイトモデルが近似できるもの。
必要な対応
プラットフォームセーフガードとエクスポートコントロールの姿勢を評価する際に、AI対応ターゲティングおよび兵器開発タスクの変化する能力フロアについて、国家安全保障および防御セクターのクライアントにブリーフしてください。