何が起きたか
トランプ政権は、Anthropicの Mythos モデルがソフトウェア脆弱性を自律的に発見する能力についてJDバンス副大統領が懸念を示したことを受けて、FDA医薬品承認プロセスと同様の先進AIモデルの強制的な公開前安全テストを模索しているところです。国家経済会議のケビン・ハセット委員長は、AI システムが「安全が証明された後に公開される」ことを確保することが目標であると述べており、特に破壊ツールを欠いた地方自治体によって管理される重要インフラをターゲットとするモデルについて懸念されています。
なぜ重要か
これはEncodeアドボカシーグループによると、以前は「安全性」と「AI」を同じ文で結びつけることを避けていた政権による重要な政策転換を示しています。制約なしでのAIイノベーション推進から事前公開要件の拘束力のある考慮への転換は、モデル配置のタイムライン、コンプライアンスコスト、および最先端ラボの競争環境に影響します。地方自治体のインフラ脆弱性への焦点は、AI駆動型エクスプロイト開発がリソース不足のターゲットに対する悪用時間をゼロに向けて圧縮できることを認めているため、運用的に関連性があります。
必要な対応
提案されたテストフレームワークの詳細について、審査をトリガーするモデル機能、評価を実施する主体、タイムライン、および体制が米国開発モデルのみに適用されるのか、または配置された外国システムもカバーするのかを含めて、ホワイトハウスの発表を監視してください。組織のAI使用事例が重要インフラまたは自律脆弱性研究に関連しているかどうかを評価し、規制当局からの問い合わせが続く場合に備えて、安全制御、監視、およびヒューマンインザループガバナンスの証拠を準備してください。