Frontier AI Risk Governance

Ketika model AI frontier mendekati kemampuan seperti perbaikan diri rekursif, upaya tata kelola internasional mendefinisikan 'garis merah' dan ambang batas risiko katastropal untuk mencegah eskalasi yang tidak terkontrol. Bersama-sama istilah-istilah ini menangkap risiko teknis (model meningkatkan diri mereka sendiri melampaui pengawasan) dan respons kebijakan (batas-batas yang disepakati sebelum risiko itu terwujud).