규제  ·  2026-11-21

California releases recommendations for mandatory AI safety standards, third-party oversight, emergency shutdown authority and RSI caps

규제High 영향도United States
2026년 11월 18일, 개빈 뉴섬 주지사는 캘리포니아주의 AI 안전 프레임워크 강화를 위한 권고안(그의 행정명령과 정부운영국에 따라 소집된 전문가 그룹이 개발)을 발표했다. 이 권고안은 다음을 제안한다: 모든 AI 개발자를 위한 주 차원의 기준 안전 표준 및 모델 훈련, 개발, 배포 전반에 걸친 독립적인 안전 테스트/검증; 확대된 안전 사고 보고 및 검증된 위험 억제/셧다운 프로토콜로 주 정부에 즉각적인 비상 셧다운을 명령할 권한 부여; 그리고 재귀적 자기 개선(RSI)의 개발 및 사용을 상한할 권한. 주지사는 또한 주 기관들에 SB 813(독립 검증 기관) 및 AB 1405(주 AI 감사인 등록부)를 신속히 처리하도록 명령했다.
이것은 자발적인 연방 접근 방식을 넘어, 법적 구속력이 있고 정부가 집행하는 AI 안전 체제 — 의무적 감독, 주 정부의 셧다운 권한 및 RSI 제한 — 를 추진하는 권위 있는 주 차원의 조치다. 이는 캘리포니아에서 프론티어 모델을 훈련하거나 배포하거나 캘리포니아에 서비스를 제공하는 모든 조직의 규제 준수에 영향을 미칠 것이며, 다른 주들이 따를 수 있는 모범 사례를 설정한다. 독립 평가, 사고 보고 및 셧다운 프로토콜은 구체적인 엔지니어링 및 거버넌스 의무를 창출한다.
캘리포니아에서 운영되는 프론티어 모델 개발업체는 의무적인 독립 안전 테스트, 사고 보고 채널, 문서화된 위험 억제/셧다운 프로토콜, RSI 상한에 대비해야 한다. CDO/GC는 관련 법안이 신속히 처리되고 있으므로 지금 모델 수명주기 거버넌스를 이러한 요구사항에 맞춰야 한다.
Office of Governor Gavin NewsomCalifornia Government Operations Agency — report (PDF)
라이브 피드에서 보기 AI 보안 및 거버넌스 관련 소식을 더 살펴보세요 — 매일 아침 업데이트.
피드 열기 →