무슨 일이 있었나
2026년 11월 20일, OpenAI는 적대적 증류 — 프론티어 모델의 기능(및 보호된 추론/사고 사슬)을 승인되지 않게 추출하여 더 약한 안전장치를 가진 두 번째 모델을 훈련시키는 것 — 을 탐지하고 방해하는 방법을 공개했습니다. 방어는 적대적 훈련, 분류기 검사, API 수준 제어, 그리고 조정된 추출 시도에 대한 캠페인 수준 조사를 결합합니다. 내부 적응형 레드팀 평가에서 보호된 추론을 복구하기 위한 평균 공격 성공률은 GPT-6 Astra에 대한 54.0%에서 GPT-6.2 Astra/Sol에 대한 0.2%로 감소했습니다.
왜 중요한가
적대적 증류는 구체적인 기능 추출 공격 벡터로, 교사 모델의 추론 트레이스에서 훈련된 사이버/생물학 스킬이 원래 안전정책이 없는 학생 모델로 전이될 수 있습니다. OpenAI는 이를 모델+API 계층에서 강화하고 있으며, 이는 업계 전반의 모델 보안 및 IP 보호에 대한 기준을 설정합니다.
적용 범위
프론티어 모델 출력을 기반으로 미세 조정하는 모델 제공자 및 기업은 OpenAI의 다층 사기/추출 모델을 따라야 하며, 모델 안전장치를 통제 수단으로 의존하는 보안 팀은 기대치를 업데이트하고 배포에서 보호된 추론 누출을 테스트해야 합니다.