무슨 일이 있었나
OpenAI는 (2026-10-15) GPT-Live-1의 후속 모델로 현재 Plus 이상 사용자의 기본 모델(Codex 및 Dots 포함)인 GPT-Live-1.1 및 GPT-Live-1.1 Quip 음성 모델에 대한 배포 안전성 시스템 카드를 게시했습니다. 이 카드는 실제 오디오 프롬프트에 대한 테스트에서 이전 모델 대비 통계적으로 유의미한 회귀가 발견되지 않았지만, 합성 평가에서는 성적 콘텐츠, 정신 건강, 정서적 의존성 및 고어(gore)를 포함한 여러 범주에서 통계적으로 유의미한 회귀가 지적되었으며 OpenAI는 이에 대한 추가 연구가 필요하다고 밝혔습니다. 또한 이전 모델에서 계승된 음성별 안전장치, 모니터링, 검토 및 집행 인프라에 대한 세부 사항도 포함합니다.
왜 중요한가
안전 관련 범주(특히 정신 건강)에서의 합성 평가 회귀는 소비자 대상 또는 민감한 환경에서 음성 비서를 배포하는 조직에게 데이터 포인트가 되며, UI 안전성 테스트가 스트레스 케이스 평가 결과와 다를 수 있음을 보여줍니다.
필요한 조치
정신 건강 인접 또는 무감독 음성 사용 사례에서 GPT-Live-1.1 제품군 모델에 의존하기 전에 OpenAI의 후속 연구가 지적된 합성 평가 회귀를 해결하는지 추적하십시오.