从现在起,AI必须“自报家门”:欧盟把“这是机器生成的”写进法律

2026年8月2日,欧盟《人工智能法案》第50条透明度规则正式适用。面向欧盟用户的聊天机器人、语音助手、虚拟形象和AI Agent,原则上必须在首次互动开始时明确告知用户:对面不是人类。生成式AI提供商需要为合成文本、图片、音频和视频加入可被机器识别的标记;企业、媒体、广告机构等专业使用者发布深度伪造内容,或发布未经人类实质审查的公共事务AI文本时,还必须提供人眼可见的标签。规则同样适用于欧盟以外的企业,最高罚款可达1500万欧元或全球年营业额的3%。不过,个人非职业用途、源代码、普通修图和经过真正编辑审核的文章并非一律要求贴标。它不是一句简单的“所有AI内容都必须打水印”,而是把模型提供商、产品运营者和内容发布者的责任分开规定。

文章作者、来源:欧盟

聊天机器人必须先承认自己不是人

过去,一个客服机器人只要模仿真人语气,就可能让用户在很长时间内都意识不到自己正在与AI交流。欧盟新规首先要解决的就是这种身份模糊。

从2026年8月2日起,直接与自然人交流的AI系统,原则上必须在首次互动开始时,用清晰、可识别并符合无障碍要求的方式告知用户:这是AI系统,而不是真人。适用对象包括聊天机器人、语音助手、AI客服、虚拟形象和能够直接与用户沟通的Agent。

规则关注的是“真实的双向交流”。只在后台运行、进行机器对机器通信,或者仅收集数据而不直接与人交流的系统,不属于这项告知义务的主要范围。如果普通用户一眼就能看出对面是机器,法律提供了一定例外,但欧盟委员会要求谨慎使用这一例外,企业不能只因为产品名称中出现了“AI”,就默认所有用户都已经理解。

这条规定还具有域外效力。企业不必位于欧洲,只要其AI系统的输出被用于欧盟,仍可能落入《人工智能法案》的适用范围。因此,在美国、亚洲开发的聊天产品,只要向欧洲用户开放,也不能简单把这套规定视为欧盟本地企业的事情。

“机器可读”与“人眼可见”是两种责任

新规最容易被误解的地方,是把所有义务概括成“给AI内容加标签”。实际上,欧盟设置了两套不同的透明机制。

第一套责任由AI系统提供商承担。生成合成文本、图片、音频或视频的系统,需要在输出中加入有效、可靠、稳健且具备互操作性的机器可读标记。标记可以是元数据、水印或其他检测机制,目标是让平台、检测工具和监管机构能够识别内容是否由AI生成或修改。

第二套责任由AI系统的部署者承担,也就是实际使用AI并把内容发布出去的企业、机构或专业人士。他们发布可能被误认为真实的深度伪造图片、音频或视频时,不能只依赖隐藏在文件中的机器标记,还必须提供普通人能够直接看见或听见的说明。

换句话说,模型公司负责让内容在技术上可追踪,发布者负责让受众在接触内容时能够理解其来源。这种双层设计避免了一种常见做法:平台声称文件中已经写入元数据,但普通用户在社交媒体上仍完全看不到任何提示。

什么才算需要标注的“深度伪造”

欧盟没有把所有AI图片都自动定义为深度伪造。按照官方解释,内容需要同时具备几个特征:它与现实中存在、可能存在或曾经可能存在的人物、物体、地点、机构或事件高度相似,并且可能让受众误以为内容是真实的。

因此,使用AI生成一幅明显幻想化的插画,与伪造某位政治人物发表讲话,面临的透明度要求并不完全相同。监管机构还会考虑内容传达的信息、发布场景、目标受众,以及受众是否合理期待它是真实记录。

电影特效、艺术作品、讽刺内容和明显虚构的节目没有完全豁免,但可以采用不会破坏观赏体验的方式披露。普通电影中的背景替换、技术性前后期处理,也不一定会被认定为欺骗性深度伪造。

欧盟还制作了三套可选标签图标,分别用于表示AI内容、AI生成内容和AI修改内容。企业并非必须采用欧盟设计的特定图标,但需要以其他清晰方式履行告知义务。

新闻和公共事务文章也进入监管范围

图片和视频之外,新规还覆盖一类特别敏感的文本:以告知公众为目的、涉及公共利益,并且由AI生成或实质修改的内容。

公共利益的范围包括政治与民主程序、公共行政、司法和执法、基本权利、公共安全、公共卫生、环境保护、消费者安全,以及可能成为公共讨论对象的经济、金融、科学和文化发展。

但这不意味着媒体只要使用AI辅助写作,就必须在每篇文章顶部贴上“AI生成”标签。如果文本经过具有相关知识和专业判断的人类实质审查,编辑拥有批准、修改或拒绝文章的权力,并有人承担最终编辑责任,就可以适用豁免。

这里的关键词是“实质审查”。只做拼写检查、语法润色或者程序化过目,不被视为真正的人类编辑控制。编辑需要检查内容本身、核实信息和来源,并能够对文章作出实质性修改。

这一规定实际上为媒体、企业公关和内容平台划出了一条线:AI可以参与生产,但如果希望不贴AI标签,人类就必须真正承担编辑职责,而不能只在发布按钮前走一个形式流程。

个人发AI图片,一般不会直接被罚

欧盟委员会特别区分了个人使用和专业使用。自然人为了私人、非职业目的生成内容并发布到社交媒体,通常不属于《人工智能法案》所定义的专业部署者。

但如果相关行为持续带来经济收益,或者属于商业、职业、自由职业和交易活动,发布者就可能被视为部署者。例如,企业广告、商业账号、收费自媒体、接单创作者和利用AI内容获取稳定收入的影响力人物,不能当然地援引个人用途豁免。

规则同样没有要求所有模型输出都加入标记。短数字、符号或字母组合、源代码、仅供机器处理且不会展示给人类的输出,以及封闭工业或产品开发环境中的中间材料,可以处于义务范围之外。AI只进行常规编辑、且没有实质改变输入内容及含义时,也可能适用例外。

旧系统只获得了有限缓冲期

第50条从2026年8月2日起已经适用,并不是一项尚未落地的未来计划。唯一主要缓冲是:在8月2日前已经进入市场的生成式AI系统,可将“为合成内容加入机器可读标记”这项技术改造延后至2026年12月2日。

这不是所有透明度义务的统一宽限期。聊天机器人告知、深度伪造披露以及公共利益文本标签等责任,不能简单理解为都可以等到12月。

8月2日前已经生成的历史内容也不要求追溯性贴标,尽管欧盟委员会鼓励在条件允许时主动补充说明。

违反透明度规则的企业,最高可能面临1500万欧元或上一财年全球营业额3%的罚款;欧盟机构、机关和机构单位的罚款上限为75万欧元。执法时会考虑中小企业和中型公司的规模与比例原则。

互联网即将迎来“AI标签疲劳”

这套规则最大的现实问题,可能不是企业是否愿意贴标签,而是标签是否最终仍有信息价值。

GDPR实施后,网站充斥着Cookie弹窗,很多用户已经养成不阅读、直接点击同意的习惯。AI标签也可能走上相同道路:如果聊天、广告、图片、客服和文章处处显示AI提示,人们可能很快对标签失去敏感度。

但欧盟的判断是,没有透明度,用户甚至没有作出判断的机会。尤其在AI生成的视频和语音越来越接近真实记录的情况下,只依赖个人“仔细观察”已经无法有效对抗冒充、诈骗和舆论操纵。

因此,第50条的真正意义不是宣告AI内容低人一等,而是确立一项信息权利:人们在与机器交流或观看合成内容时,应当知道其生产方式,再自行决定给予多少信任。

欧盟委员会官方X帖子没有在公共搜索索引中稳定显示完整浏览、点赞和转发数字,因此具体热度指标无法可靠核实。本次选择主要依据其政策影响范围、官方权威性,以及该规则在Wired、《金融时报》、The Verge等多个社区引发的同步讨论。