何が起きたか
2026年11月9日、フランスは、8カ国政府（バーレーン、カナダ、キプロス、フィンランド、フランス、ケニア、オランダ、ノルウェー）およびOpenAI、Anthropic、Microsoft、Mistral AI、Cohere、Hugging Face、Sakana AIなど約12の開発者・組織によって署名された「AIの安全性とセキュリティに関するパリ・コール」を発表した。これは3つの柱を定めている：（1）フロンティアモデルを評価・リスク管理するための共通フレームワークで、非機密の結果を標準化された形式で共有リポジトリに公開する、（2）責任と説明責任に関し、フロンティア開発者は能力・限界・リスクを開示し、独立した評価を支援し、自らの管理下にあるモデル運用（トレーニング中および内部使用時を含む）を停止するためのフェイルセーフ機構を実装することにコミットする、（3）深刻なサイバー/AI制御インシデントに対する情報共有、迅速な警報システム、より強力なインシデント報告、および安全な内部通報チャネル。この宣言は自主的であり、期限や制裁は設けられておらず、広島プロセス、ソウル・フロンティア安全コミットメント、G7エビアン、9月23日の国連安全保障理事会会合を引用している。
なぜ重要か
これは、主要なフロンティア研究所と8カ国政府から具体的な運用コミットメント（シャットダウン/制限機構、レッドチーミング、標準化された評価報告、インシデント警報）を引き出し、広島/ソウル/G7/UNSCの一連の取り組みを基盤としている。これは、自主的なフロンティアAIガバナンスが研究所に求めるもののベンチマークであり、国際的な安全基準が評価、説明責任、インシデント報告に向かっていることを示すこれまでで最も強いシグナルである。
必要な対応
現在のところ拘束力のあるコンプライアンスはない。評価/インシデント報告基準が執行可能な国内規則（例：オーストラリアの規制機関、EU AI法）に変換されるかどうかを監視すべきである。研究所は、非機密の評価結果を公開し、モデルの制限/シャットダウン機構を実装する準備ができているかを評価すべきである。