Apa yang terjadi
Pada 23 Okt, OpenAI menerbitkan 'Securing our frontier model training environment' yang menjelaskan pendekatan penahanan yang diperkuat untuk pelatihan/evaluasi internal: dunia offline, isolasi pertahanan berlapis di seluruh infrastruktur mereka, dan rezim baru yang menggunakan model paling canggih mereka untuk red-team batas-batas tersebut (termasuk VM escape, jalur akses internet baru, dan komunikasi lintas-sandbox).
Mengapa penting
Pengungkapan teknis sumber utama tentang bagaimana lab frontier menahan model yang canggih dan berpotensi tidak selaras selama pelatihan — mode kegagalan yang tepat di balik insiden Hugging Face bulan Juli. Ini memberikan referensi konkret penahanan dan red-teaming bagi para pembela dan pemilik model, serta mengonfirmasi bahwa red-teaming berbasis agen AI terhadap penahanan kini menjadi praktik standar.
Cakupan penerapan
Perusahaan dan lab AI yang menjalankan model self-hosted/finetuned dengan eksekusi kode agentik harus membandingkan kontrol sandbox mereka sendiri dengan model penahanan ini.