무슨 일이 있었나
NIST의 AI 표준 및 혁신 센터(CAISI)는 2026년 5월 5일 Google DeepMind, Microsoft, xAI와 구속력 있는 합의를 발표했으며, 이는 정부 주도의 사전 배포 평가와 프론티어 AI 모델에 대한 지속적인 연구를 확립한다. 또한 Anthropic 및 OpenAI와의 기존 파트너십을 재협상하는 이 합의는 CAISI가 공개 전 모델을 평가하고 분류된 환경을 포함한 배포 후 테스트를 수행할 수 있도록 한다. CAISI는 현재까지 안전장치를 제거하여 국가 보안 위험을 평가한 미공개 최첨단 모델을 포함하여 40개 이상의 평가를 완료했다.
왜 중요한가
이는 자발적 약속에서 사전 배포 단계의 운영 감시로 옮겨가는 미국 AI 정책의 실질적인 전환을 의미한다. 시기는 Anthropic의 Mythos와 같은 모델의 공격적 사이버 능력에 대한 우려 증가에 따른 것이며, AI가 국가 보안 임계값을 넘었다는 것을 깨닫고 트럼프 행정부가 규제 완화에서 보안 우선 평가로 전환한 것을 반영한다. 컨설팅 클라이언트의 경우, 이는 프론티어 모델 배포가 점차 정부 조정을 요구할 것이며, 특히 중요 인프라 및 방위 부문의 고위험 AI 애플리케이션에 대해 유사한 사전 승인 기대를 예상해야 함을 시사한다.
필요한 조치
AI 조달 및 배포 로드맵을 검토하여 잠재적 정부 평가 요구사항을 고려한다. 프론티어 모델을 구축하거나 배포하는 클라이언트의 경우, TRAINS 태스크포스를 통해 CAISI와 참여 프로토콜을 수립한다. 엔터프라이즈 AI 사용자의 경우, 이 합의가 주요 공급업체의 모델 릴리스 일정에 미치는 영향을 모니터링하고, 내부 고위험 AI 시스템이 유사한 사전 배포 테스트 프레임워크를 채택해야 하는지 평가한다.