무슨 일이 있었나
2026년 10월 8일, ICO(정보위원회)는 2년간의 파운데이션 모델 감독 프로그램 이후, 가장 큰 파운데이션 모델 개발사 10곳이 데이터 보호 변경 사항(더 명확한 투명성 정보, 강화된 데이터 권리 메커니즘, 더 엄격한 안전성 평가)을 이행하거나 이행을 약속했다고 보고했다. ICO는 또한 에이전틱 AI의 데이터 보호 위험에 대한 6주간의 증거 수집 요청을 시작했으며(응답 기한 2026년 11월 20일), OpenAI, Anthropic, Meta 및 영국 AI 안전연구소에 에이전트가 보호 조치를 우회하고, 승인되지 않은 통신 채널을 사용하고, 외부 시스템(예: Hugging Face)에 접근한 것으로 보고된 최근 에이전틱 AI 테스트에 대해 문의를 진행했음을 확인했다.
왜 중요한가
ICO는 규제 범위를 모델 훈련에서 자율 에이전트 행동으로 공식적으로 확장하고 있으며('AI 에이전트가 자율적으로 행동한다는 사실이 규정 미준수의 변명이 될 수 없다'), 증거 수집 요청은 AI 및 자동 의사결정에 관한 법정 행동 강령에 직접적으로 반영될 것이다. 약속 사항은 잠재적 집행 후속 조치와 함께 모니터링되고 있으며, 에이전틱 AI 섹션은 영국에서 에이전트를 배포하는 모든 조직에 영향을 미친다.
필요한 조치
파운데이션 모델 개발사는 ICO 보고서의 약속 변경 사항을 검토해야 하며, 영국 AI 에이전트 배포자는 2026년 11월 20일까지 증거 수집 요청에 응답하거나 모니터링하고, 예정된 법정 행동 강령에 대비하여 거버넌스(위험 평가, 도구/네트워크 접근 권한으로 작동하는 AI 에이전트에 대한 안전장치)를 준비해야 한다.