Apa yang terjadi
Indeks Keselamatan AI semi-tahunan Future of Life Institute menilai sembilan perusahaan AI terkemuka (Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, Alibaba Cloud, xAI, DeepSeek, Mistral) di enam domain — Penilaian Risiko, Kerugian Saat Ini, Kerangka Kerja Keselamatan, Keselamatan Eksistensial, Tata Kelola & Akuntabilitas, dan Berbagi Informasi — menggunakan panel ulasan ahli independen dan sistem penilaian gaya GPA AS (A+ hingga F). Anthropic sekali lagi memperoleh nilai keseluruhan tertinggi (C+, 2.66), sementara tiga perusahaan — xAI, DeepSeek, dan Mistral (perusahaan AI terkemuka Eropa) — menerima nilai gagal mutlak, dengan laporan mencatat 'keselamatan yang tidak memadai adalah masalah global, bukan masalah regional.' Metodologi ini didasarkan pada survei perusahaan, kerangka kerja keselamatan yang dipublikasikan, dan tolok ukur pihak ketiga (Stanford HELM, TrustLLM, CAIS); laporan juga menunjukkan bahwa beberapa lab terkemuka — termasuk Anthropic, OpenAI, Google DeepMind, dan Meta — telah 'melemahkan atau membatalkan' komitmen jeda/redline sebelumnya, yang disebut oleh pengulas sebagai 'tujuan yang bergerak' yang merusak kerangka kerja keselamatan di seluruh industri. Keselamatan Eksistensial diidentifikasi sebagai domain terlemah di seluruh industri, dengan tidak ada perusahaan yang mencetak di atas C-.
Mengapa penting
Dewan dan CISO yang mengevaluasi risiko vendor AI, keputusan pengadaan, atau kemitraan sekarang memiliki kartu skor keselamatan perbandingan lintas perusahaan independen dengan temuan verbatim spesifik: komitmen keselamatan terus terkikis bahkan di antara para pemimpin industri, dan tidak ada perusahaan yang secara memadai mengatasi domain risiko eksistensial/katastropik.
Tindakan yang diperlukan
Petakan hubungan vendor AI saat ini dan prospektif terhadap nilai per perusahaan Indeks dan secara khusus tandai ketergantungan apa pun pada lab yang dinilai D atau di bawah dalam domain Keselamatan Eksistensial dan Tata Kelola.