정의
frontier AI 모델이 사이버공격을 찾고, 악용하거나 자동화할 수 있는 능력이 너무 발전해서 개발자와 정부가 이를 별개의 고위험 계층으로 취급하며 출시 전에 특별한 보안조치가 필요한 지점이다. 이는 AI 랩이 추가 주의나 지연된 출시가 필요한 시점을 결정하기 위해 안전 프레임워크에서 사용하는 여러 '능력 임계값' 중 하나이다.
왜 중요한가
이 임계값을 넘는다는 것은 모델이 정교하지 않은 공격자도 심각한 사이버공격을 수행하는 데 의미 있게 도움을 줄 수 있다는 뜻이며, AI 벤더나 배포를 감시하는 이사회는 자신들이 사용하는 모델이 이와 같은 임계값에 대해 평가되었는지, 그리고 어떤 완화 조치가 적용되었는지 확인해야 한다.