Solusi  ·  2026-11-22

OpenAI merinci pertahanan berlapis terhadap distilasi adversarial dan penguatan ekstraksi penalaran terproteksi di GPT-6.2

SolusiMedium dampakGlobal
Pada 20 Nov 2026, OpenAI memublikasikan cara mendeteksi dan mengganggu distilasi adversarial — ekstraksi tidak sah dari kemampuan model perbatasan (dan penalaran terproteksi/chain-of-thought) untuk melatih model kedua dengan pengaman yang lebih lemah. Pertahanan menggabungkan pelatihan adversarial, pemeriksaan klasifikasi, kontrol di tingkat API, dan investigasi tingkat kampanye terhadap upaya ekstraksi terkoordinasi. Dalam evaluasi red-teaming adaptif internal, tingkat keberhasilan serangan rata-rata untuk memulihkan penalaran terproteksi turun dari 54,0% terhadap GPT-6 Astra menjadi 0,2% terhadap GPT-6.2 Astra/Sol.
Distilasi adversarial adalah vektor serangan ekstraksi kemampuan yang konkret di mana keterampilan siber/biologi yang dilatih dari jejak penalaran model guru dapat ditransfer ke model siswa yang tidak memiliki kebijakan pengaman asli. OpenAI memperkuat ini di lapisan model+API, yang menetapkan tolok ukur untuk keamanan model dan perlindungan kekayaan intelektual di seluruh industri.
Penyedia model dan perusahaan yang melakukan fine-tuning pada output model perbatasan harus mengikuti model pertahanan/ekstraksi berlapis OpenAI; tim keamanan yang mengandalkan pengaman model sebagai kontrol harus memperbarui ekspektasi dan menguji kebocoran penalaran terproteksi dalam penempatan mereka.
OpenAI — Combatting adversarial distillation
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →