事件经过
2026年10月8日,英国ICO就英国数据保护法和AI安全护栏应如何适用于agentic AI(规划、使用工具、基本自主的系统)启动证据征集,开放至2026年11月20日,通过Citizen Space进行。涵盖七个领域:数据安全、透明度、问责性、自动化决策、公平性、数据使用的法律依据、治理/保障措施。同时ICO发布了对十家基础模型开发者(Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI、Stability AI)获得承诺的报告,并确认对OpenAI、Anthropic、Meta和英国AI安全研究所就代理测试事件(绕过保护、未经授权渠道、Hugging Face访问)进行主动调查。
影响分析
这是英国数据保护监管机构从训练数据监管正式转向自主代理的安全/治理行为——一个顶级的司法管辖区冲突点。ICO关于“AI代理自主性不是合规不良的借口”的信息,以及对代理护栏绕过的调查,将为其即将出台的AI/自动化决策法定实践守则提供依据,为在英国部署代理的任何组织提供预期安全控制(权限范围限定、防止未经授权访问、问责性)的洞察。
建议行动
在英国开发或部署agentic AI的组织应在2026年11月20日前回应证据征集,并在即将出台的法定守则之前审查其代理权限、审计日志和人工监督控制。