무슨 일이 있었나
Future of Life Institute의 반기별 AI Safety Index는 9개의 주요 AI 기업(Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, Alibaba Cloud, xAI, DeepSeek, Mistral)을 6개 영역(Risk Assessment, Current Harms, Safety Frameworks, Existential Safety, Governance & Accountability, Information Sharing)에 걸쳐 독립적인 전문가 검토 패널과 미국 GPA 방식의 등급 체계(A+에서 F까지)를 사용하여 평가합니다. Anthropic은 다시 한 번 최고 종합 등급(C+, 2.66)을 획득한 반면, xAI, DeepSeek, Mistral(유럽의 최고 AI 기업) 3개 기업은 명백한 불합격 등급을 받으며, 보고서는 '부적절한 안전성이 지역적 문제가 아니라 전 지구적 문제'라고 지적합니다. 이 방법론은 기업 설문조사, 공개된 안전 프레임워크, 제3자 벤치마크(Stanford HELM, TrustLLM, CAIS)를 기반으로 하며, 보고서는 또한 Anthropic, OpenAI, Google DeepMind, Meta를 포함한 여러 주요 랩이 이전의 일시 중지/레드라인 약속을 '약화시키거나 무효화'했음을 지적하며, 검토자들은 이를 업계 전반의 안전 프레임워크를 훼손하는 '움직이는 목표선'이라고 부릅니다. Existential Safety는 업계 전반에서 가장 약한 영역으로 식별되며, 어떤 기업도 C-를 초과하는 점수를 받지 못합니다.
왜 중요한가
AI 벤더 위험, 조달 또는 파트너십 결정을 평가하는 이사회와 CISO는 이제 구체적인 축약식 발견사항이 있는 독립적인 기업 간 비교 안전 점수표를 보유하고 있습니다: 안전 약속은 업계 리더들 사이에서도 약화되고 있으며, 어떤 기업도 실존적/대재앙적 위험 영역을 적절히 해결하지 못합니다.
필요한 조치
현재 및 예상되는 AI 벤더 관계를 Index의 기업별 등급에 대비하여 매핑하고, Existential Safety 및 Governance 영역에서 D 이하 등급을 받은 랩에 대한 모든 의존성을 구체적으로 표시합니다.