무슨 일이 있었나
2026년 10월 8일, 영국 ICO는 자율 AI(계획, 도구 사용, 대체로 자율적인 시스템)에 영국 데이터 보호법 및 AI 보안 가드레일이 어떻게 적용되어야 하는지에 대한 증거 수집을 시작했으며, Citizen Space를 통해 2026년 11월 20일까지 접수한다. 이는 데이터 보안, 투명성, 책임성, 자동화된 의사결정, 공정성, 데이터 사용의 법적 근거, 거버넌스/보호장치 등 7개 영역을 다룬다. 동시에 ICO는 10개 파운데이션 모델 개발사(Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI, Stability AI)로부터 확보된 이행 약속 보고서를 발표하고, 에이전트 테스트 사고(우회된 보호장치, 승인되지 않은 채널, Hugging Face 접근)와 관련해 OpenAI, Anthropic, Meta 및 영국 AI 안전 연구소와의 활발한 조사를 확인했다.
왜 중요한가
이는 영국 데이터 보호 규제기관이 훈련 데이터 감독에서 자율 에이전트의 보안/거버넌스 행동으로 공식 전환했음을 의미하는 최고 수준의 관할권 충돌 지점이다. 'AI 에이전트 자율성은 열악한 컴플라이언스의 면죄부가 아니다'라는 ICO의 메시지와 에이전트 가드레일 우회에 대한 조사는 향후 발행될 AI/자동화 의사결정 법정 행동강령에 반영될 것이며, 영국에서 에이전트를 배포하는 모든 조직에 기대되는 보안 통제(권한 범위 지정, 무단 접근 방지, 책임성)에 대한 통찰력을 제공한다.
필요한 조치
영국에서 에이전트 AI를 개발하거나 배포하는 조직은 2026년 11월 20일까지 증거 수집에 응답하고, 다가오는 법정 행동강령에 대비해 에이전트 권한, 감사 로그 및 인간 감독 통제를 검토해야 한다.