무슨 일이 있었나
2026년 11월 18일, 개빈 뉴섬 주지사는 캘리포니아주의 AI 안전 프레임워크 강화를 위한 권고안(그의 행정명령과 정부운영국에 따라 소집된 전문가 그룹이 개발)을 발표했다. 이 권고안은 다음을 제안한다: 모든 AI 개발자를 위한 주 차원의 기준 안전 표준 및 모델 훈련, 개발, 배포 전반에 걸친 독립적인 안전 테스트/검증; 확대된 안전 사고 보고 및 검증된 위험 억제/셧다운 프로토콜로 주 정부에 즉각적인 비상 셧다운을 명령할 권한 부여; 그리고 재귀적 자기 개선(RSI)의 개발 및 사용을 상한할 권한. 주지사는 또한 주 기관들에 SB 813(독립 검증 기관) 및 AB 1405(주 AI 감사인 등록부)를 신속히 처리하도록 명령했다.
왜 중요한가
이것은 자발적인 연방 접근 방식을 넘어, 법적 구속력이 있고 정부가 집행하는 AI 안전 체제 — 의무적 감독, 주 정부의 셧다운 권한 및 RSI 제한 — 를 추진하는 권위 있는 주 차원의 조치다. 이는 캘리포니아에서 프론티어 모델을 훈련하거나 배포하거나 캘리포니아에 서비스를 제공하는 모든 조직의 규제 준수에 영향을 미칠 것이며, 다른 주들이 따를 수 있는 모범 사례를 설정한다. 독립 평가, 사고 보고 및 셧다운 프로토콜은 구체적인 엔지니어링 및 거버넌스 의무를 창출한다.
필요한 조치
캘리포니아에서 운영되는 프론티어 모델 개발업체는 의무적인 독립 안전 테스트, 사고 보고 채널, 문서화된 위험 억제/셧다운 프로토콜, RSI 상한에 대비해야 한다. CDO/GC는 관련 법안이 신속히 처리되고 있으므로 지금 모델 수명주기 거버넌스를 이러한 요구사항에 맞춰야 한다.