Apa yang terjadi
Frontier Model Forum menerbitkan kerangka kerja bersama baru (Versi 1.0, terbuka untuk masukan publik hingga 21 Desember 2026) untuk menilai jailbreak yang berhasil terhadap model frontier. Mereka mencatat bahwa "tidak ada pendekatan bersama untuk melakukan penilaian ini, sehingga lebih sulit membandingkan temuan dan mengidentifikasi jenis jailbreak yang membutuhkan perhatian lebih." Kerangka ini menilai satu jailbreak dalam empat kategori — peningkatan kapabilitas, cakupan kapabilitas, kemudahan penerapan, dan kemudahan penemuan — menggunakan tingkat ordinal logaritmik yang didefinisikan secara konseptual (bahasa sederhana) dan operasional (tes ahli konkret). Ruang lingkupnya difokuskan pada "risiko frontier," sengaja mengukur kerugian relatif daripada absolut, dan dirancang untuk membuat temuan dapat dibandingkan antar tim dan organisasi.
Mengapa penting
Ini menetapkan bahasa pengukuran netral-vendor pertama untuk risiko jailbreak agenik/siber, yang dapat diadopsi sekarang oleh tim keamanan dan keselamatan garis depan dan akan membentuk bagaimana insiden siber frontier dikomunikasikan kepada dewan dan regulator.
Tindakan yang diperlukan
Petakan kerangka penilaian jailbreak FMF ke program evaluasi keamanan AI Anda dan kirimkan masukan sebelum jendela komentar publik ditutup pada bulan Desember.