솔루션  ·  2026-11-17

OpenAI launches first phase of embedded assessments with Apollo Research, METR, Transluce and Goodfire

솔루션Medium 영향도Global
2026년 11월 13-16일, OpenAI는 Apollo Research, METR, Transluce 및 Goodfire와 같은 4개의 독립 평가 기관과 계약을 체결하여 임베디드 평가의 첫 단계를 시작했다. 이들 기관은 모델 체크포인트, 소스 코드, 학습 및 평가 데이터, 모니터링 시스템, 기술 문서 및 작업 담당 엔지니어에 대한 접근 권한을 받는다. 이 파일럿은 정의된 프로토콜(범위 설정, 보안 온사이트 환경, 감독/분쟁 해결, 이해충돌 공개, 출판 및 책임 있는 공개 기간) 하에 모델 정렬, 안전장치 및 모니터링을 다룬다.
이는 프론티어 모델 정렬 및 안전장치에 대한 깊이 있는 독립적 제3자 평가를 제도화하며, 모델 보증 및 안전 사례 증거의 사실상 표준이 될 수 있는 핵심 Security-of-AI 통제다.
AI 거버넌스, 모델 위험 및 안전 팀은 프로토콜과 결과 출판물을 추적해야 하며, 프론티어 모델 안전 또는 정렬 주장에 의존하는 모든 이에게 관련이 있다.
OpenAI blogCNBC report
라이브 피드에서 보기 AI 보안 및 거버넌스 관련 소식을 더 살펴보세요 — 매일 아침 업데이트.
피드 열기 →