何が起きたか
Future of Life Instituteの半年ごとのAI Safety Indexは、9つの主要なAI企業（Anthropic、OpenAI、Google DeepMind、Meta、Z.ai、Alibaba Cloud、xAI、DeepSeek、Mistral）を6つの領域——Risk Assessment、Current Harms、Safety Frameworks、Existential Safety、Governance & Accountability、Information Sharing——にわたって評価し、独立した専門家レビューパネルと米国のGPAスタイルの成績評価システム（A+からF）を使用している。Anthropicは再び最高の全体的成績（C+、2.66）を獲得し、xAI、DeepSeek、Mistral（ヨーロッパ最大のAI企業）の3社は明らかな不合格を受け、報告書は「不十分な安全は地域的な問題ではなく、グローバルな問題である」と指摘している。方法論は企業調査、公開されている安全フレームワーク、および第三者ベンチマーク（Stanford HELM、TrustLLM、CAIS）に基づいており、報告書はAnthropicを含む複数の主要ラボ、OpenAI、Google DeepMind、Metaが以前の一時停止/レッドラインのコミットメントを「弱化または無効化」したことを指摘し、レビュアーはこれを業界全体の安全フレームワークを損なう「ゴールポストの移動」と呼んでいる。Existential Safetyは業界全体で最も弱い領域として特定されており、どの企業もC-を超えるスコアを獲得していない。
なぜ重要か
AIベンダーリスク、調達、またはパートナーシップ決定を評価しているボードおよびCISOは、企業間の比較可能な安全スコアカードを独立して持つようになり、具体的な逐語的な調査結果がある：安全コミットメントは業界リーダーの間でも侵食されており、どの企業も存在的/カタストロフィックリスク領域に適切に対処していない。
必要な対応
現在および将来のAIベンダー関係をIndexの企業ごとの成績に照らし合わせ、特にExistential SafetyおよびGovernance領域でD以下の成績を受けているラボへの依存を明確にフラグを立てる。