정의
프론티어 AI 모델이 작동 중 문제가 발생할 경우, 훈련 도중이나 내부 사용 중에도 즉시 작동을 중단할 수 있는 내장 방식. 여러 정부와 주요 연구소들이 프론티어 모델 운영의 구체적인 조건으로 이를 시행하기로 약속했습니다. 이는 재앙적 위험 우려에 대한 실질적인 '비상 정지 버튼'입니다.
왜 중요한가
신뢰할 수 있는 종료는 이상 또는 위험한 모델에 대응하기 위한 최후의 안전장치이며, 이제 논의 대상에서 서명된 약속으로 나아가고 있습니다.
Governance · 용어집
Fail-safe shutdown mechanism (frontier AI)
관련 용어
라이브 피드에서 추적
이 개념이 실제 AI 보안·거버넌스 동향에서 어떻게 나타나는지 확인하세요.
피드 열기 →