Frontier AI Risk Governance

최첨단 AI 모델이 재귀적 자기 개선과 같은 능력에 접근함에 따라, 국제 거버넌스 노력은 통제 불능의 확대를 방지하기 위해 '레드라인'과 치명적 위험 임계값을 정의합니다. 이 용어들은 함께 기술적 위험(감시 범위를 벗어나 자신을 개선하는 모델)과 정책 대응(그 위험이 현실화되기 전의 합의된 제한)을 포착합니다.