規制  ·  2026-11-21

California releases recommendations for mandatory AI safety standards, third-party oversight, emergency shutdown authority and RSI caps

規制High 影響度United States
2026年11月18日、ギャビン・ニューサム知事は、彼の行政命令および政府運営局の下で招集された専門家グループによって作成された、カリフォルニア州のAI安全枠組みを強化するための勧告を発表した。勧告は以下を提案している:州が設定するすべてのAI開発者向けのベースライン安全基準(モデルトレーニング、開発、展開全体にわたる独立した安全性テスト・検証を含む);安全性インシデント報告の拡大および検証済みリスク封じ込め・シャットダウンプロトコル(州に即時の緊急シャットダウンを命じる権限を与える);および再帰的自己改善(RSI)の開発・使用を制限する権限である。知事はまた、州機関にSB 813(独立検証機関)およびAB 1405(AI監査人の州登録)を迅速に進めるよう命じた。
これは、自主的な連邦政府のアプローチを超えて、法的拘束力を持ち政府が執行するAI安全体制(強制的な監視、州のシャットダウン権限、RSI制限)に向けた権威ある州の行動である。これは、カリフォルニア州でフロンティアモデルをトレーニングまたは展開する、あるいはカリフォルニア州にサービスを提供するあらゆる組織のコンプライアンスを形成し、他の州が追随する可能性のあるテンプレートを提供する。独立評価、インシデント報告、シャットダウンプロトコルは、具体的なエンジニアリングおよびガバナンスの義務を生み出す。
カリフォルニア州で事業を展開するフロンティアモデル開発者は、強制的な独立安全性テスト、インシデント報告チャネル、文書化されたリスク封じ込め・シャットダウンプロトコル、およびRSI上限に備えるべきである。CDO/GCは、関連法が迅速に進められているため、今すぐモデルライフサイクルガバナンスをこれらの要件にマッピングすべきである。
Office of Governor Gavin NewsomCalifornia Government Operations Agency — report (PDF)
ライブフィードで見る AIセキュリティとガバナンスの関連情報をさらに見る — 毎朝更新。
フィードを開く →