정의
무기 제작을 의미 있게 도와줄 수 있는 능력과 같은 특정 위험 수준으로, AI 연구소는 모델을 출시하기 전에 이를 테스트하고 안전 훈련('완화')으로 억제하려고 노력합니다. 최근 한 프론티어 랩이 공개적으로 처음으로, 배포된 모델 중 하나가 완화 조치를 적용하기 전에 이 임계값을 넘을 가능성을 완전히 배제할 수 없다는 점을 인정했습니다.
왜 중요한가
이는 AI 안전 투명성의 분수령적 순간입니다: 선도적인 연구소조차도 모델이 대중에 도달하기 전에 안전 조치가 작동하는지 항상 증명할 수 없다는 것을 보여주며, 이는 의무적 사전 출시 평가에 대한 논쟁의 중심입니다.