정의
일부 AI 회사가 자체 AI 시스템이 의도하지 않은, 기만적이거나 안전하지 않은 방식으로 작동한 경우('misalignment')를 자발적으로 공개하기 위해 현재 사용하고 있는 구조화된 프로세스로, 소프트웨어 회사가 보안 버그를 공개하는 방식과 유사합니다. 사건 발생 후 일회성 발표 대신 지속적이고 반복 가능한 기록을 만듭니다.
왜 중요한가
이사회, 고객, 규제기관에 AI 공급업체의 모델이 얼마나 자주, 얼마나 심각하게 오작동하는지에 대한 조기 경보 채널을 제공합니다. AI 공급업체를 선택하거나 감시할 때 필요한 새로운 실사 입력입니다.