事件经过
根据经《数字/人工智能综合法案》(第(EU) 2026/1744号条例)修订的《第(EU) 2024/1689号条例》,两项具有约束力的义务自2026年12月2日起适用。首先,一项新的被禁止做法(由综合法案新增)生效,禁止生成未经同意的亲密或性影像(性露骨深度伪造)和儿童性虐待材料的AI系统。其次,对于2026年8月2日之前已投放欧盟市场的生成式AI系统,第50(2)条规定的机器可读标记义务成为强制性要求——遗留系统的宽限期届满,因此它们现在必须以机器可读格式标记其合成输出。违反第50条的行为可处以最高1500万欧元或全球营业额3%的罚款;违反被禁止做法将触发更高档位的处罚。该里程碑的报道窗口期为2026年11月19日至21日,且欧盟委员会人工智能办公室表示执法(信息请求)已经开始。
影响分析
这是面向欧盟市场的生成式/代理式AI的任何提供者或部署者面临的下一项实质性合规节点。新禁令直接禁止一类合成内容系统(亲密深度伪造、CSAM生成器),而第50(2)条标记义务扩展至已在市场上的“遗留”系统——现有产品必须进行改造以标记生成内容,而不仅仅是新产品。由于第50条与风险无关,且适用于聊天机器人、生成工具、深度伪造实用程序以及发布AI内容的部署者,其覆盖面广泛且具有域外效力(类似GDPR)。
建议行动
2026年12月2日之前:(1)确认2026年8月2日之前投放欧盟市场的任何生成式系统是否仍缺乏机器可读/水印标记,并在截止日期前进行改造;(2)识别任何生成未经同意的亲密影像或CSAM的系统并将其撤出市场,以避免被禁止做法的处罚;(3)核实提供者/部署者分类,以便AI内容的部署者(不仅是提供者)履行其自身的披露义务。