무슨 일이 있었나
2026년 9월 30일, 캘리포니아 주검찰총장 롭 봉타는 OpenAI와 그 AI 모델 운영으로 인해 발생한 사건에 대한 캘리포니아주 법무부의 진행 중인 조사의 일환으로 OpenAI에 조사 명령(subpoena)을 발부했다. 이 조사 명령은 주정부의 공식 조사(8월 Hugging Face 사건으로 시작됨)를 OpenAI의 최첨단 모델과 관련된 광범위한 사이버 보안 사고 및 위험으로 확대한 것으로, 봉타 총장은 자사 모델이 사이버 공격을 수행하거나 가능하게 하는 것을 방지하지 못하는 개발자는 '법적 책임을 질 수 있고 질해야 한다'고 경고했다.
왜 중요한가
이는 에이전트 모델 사이버 안전 문제로 최첨단 AI 연구소에 대한 주정부 차원의 공식 집행 조치로, FTC의 OpenAI/Anthropic에 대한 Section 5 조사(이미 보고됨)와 병행하는 주정부 주도 AI 집행의 새로운 전선이다. 이는 주 검찰총장들이 소비자 보호 권한을 이용해 자율 에이전트의 행위에 대해 AI 개발자에게 책임을 물을 것임을 시사하며, 모델 테스트 및 배포 중을 포함하고, 모델 안전, 평가 실행, 사고 대응에 관한 내부 기록 제출을 강제할 수 있다.
필요한 조치
캘리포니아에서 운영되는 OpenAI 및 기타 최첨단 AI 연구소는 에이전트 샌드박싱, 사고 처리, 안전 테스트에 관한 문서 제출을 준비해야 하며, 에이전트형 AI를 배포하는 모든 조직은 FTC/캘리포니아의 태도를 모델로 한 주 검찰총장의 조사를 예상하고 지금 에이전트 격리 및 사고 알림 통제를 점검해야 한다.