AI 生成的内容需要标注吗
需要。《人工智能生成合成内容标识办法》(国信办通字〔2025〕2 号)自 2025 年 9 月 1 日起施行,属于法定义务而非产品可选项。2026 年 4 月 28 日国家网信办指导属地网信部门查处了未有效落实标识规定要求的应用与网站;2026 年 10 月 9 日公布的执法典型案例中,一家提供 AI 文本对话与图片生成服务的小程序因未加显式标识、元数据无隐式标识、导出未带标识,被依法责令下线。
《人工智能生成合成内容标识办法》施行已满一年,标识从行业惯例变成法定义务。本文按条对应到工程实现,说明六类内容分别怎么标注、元数据里要写什么,以及导出环节最容易丢标识的地方。
过去一年多,做 AI 应用的团队遇到了一类新的返工:功能做完了、验收也通过了,却在合规检查环节被要求补标识。补标识看起来只是加一行小字,实际上牵动的是生成、编辑、导出、发布整条链路。这篇文章回答一个具体问题——AI 生成合成内容的标识到底怎么落地。
结论先说:在中国境内提供 AI 生成合成服务,标识是法定义务,不是产品可选项。
《人工智能生成合成内容标识办法》(国信办通字〔2025〕2 号)由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局于 2025 年 3 月 7 日联合印发,自 2025 年 9 月 1 日起施行,共 14 条。配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也于同日同步实施,2025 年第 3 号公告发布。
执法已经不是停留在口头要求。公开报道显示,2026 年 4 月 28 日,国家网信办指导属地网信部门对"剪映""猫箱"App 及"即梦AI"网站进行了查处,理由包括未有效落实人工智能生成合成内容标识规定要求;2026 年 5 月 28 日,重庆市两江新区市场监管局查处了当地首例"全 AI 生成、纯场景虚构、无真人参演"的虚假广告违法案件,涉案企业为新能源汽车推广虚构消费者抢购场景,仅使用 #AI# 话题标签,未按要求做规范、显著的标识,被认定为同时违反《广告法》与《标识办法》。更近的一次是 2026 年 10 月 9 日国家网信办公布的网络安全等领域执法典型案例,第 9 项"四川某科技有限公司运营的小程序未落实生成合成内容标识要求案":该小程序提供 AI 文本对话、图片生成服务,既未添加显式标识,也未在文件元数据中添加属性信息、服务提供者名称或编码、内容编号等隐式标识,且导出功能未加显式标识,网信部门已依法责令下线。
这几个案例连起来说明一件事:标识缺失已经不是"内容质量问题",而是会被直接责令改正、警告、下线的独立违规项。
《标识办法》第三条把标识拆成显式与隐式两轨,两者解决的是不同问题。
| 维度 | 显式标识 | 隐式标识 |
|---|---|---|
| 呈现方式 | 文字、声音、图形等可被用户明显感知 | 嵌入文件数据的元数据,用户不易察觉 |
| 回答的问题 | 这条内容是不是 AI 生成的 | 这条内容是谁生成的、编号是多少 |
| 载体 | 内容本身或交互场景界面 | 生成合成内容文件的元数据 |
| 典型作用 | 提示公众、避免误认 | 支撑溯源、监管核查 |
第四条对显式标识给出了按内容形态分列的要求,第五条对隐式标识给出了要素要求,第六条则把义务延伸到传播平台。三条合起来构成一条完整的责任链:生成方负责打标,传播方负责核验,使用方负责声明。
《标识办法》第四条按内容类型逐项规定了位置要求,工程实现时可以直接对照:
第四条还有一句容易被忽略但直接影响架构的要求:服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。也就是说不允许出现"页面上有标识、一导出就没了"的设计。
第五条要求在生成合成内容的文件元数据中添加隐式标识,包含三类制作要素信息:生成合成内容属性信息、服务提供者名称或者编码、内容编号。第五条同时鼓励在内容中添加数字水印等形式的隐式标识,并给出文件元数据的定义——按特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途。
这里有一个直接的技术后果:既然文件元数据是按"特定编码格式嵌入文件头部"的,那么不同格式的处理方式天然不同。文本类内容没有头部元数据的天然位置,需要用统一约定的方式承载;图片、视频、音频则相对直接。这决定了标识能力不是"在界面上加个组件",而需要按格式分别实现。
配套编码规则方面,全国网络安全标准化技术委员会组织起草的《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》已于 2025 年 3 月 14 日获批发布(网安秘字〔2025〕29 号),为文件元数据隐式标识提供了编码指引。
重庆两江新区的案例是最直接的教训。仅使用 #AI# 话题标签,被认定未履行标识义务。原因在于话题标签属于平台侧的传播元数据,而《标识办法》要求的是内容本身的显著标识,以及文件元数据中的隐式标识——两者都不等同于话题标签。判断标准是"用户能否明显感知内容来源",话题标签不满足这个条件。
这是工程上最容易出错的地方。隐式标识写在文件元数据里,一旦经过二次处理就可能掉:图片被平台重新压缩、视频被转码成另一个容器格式、文本被复制到富文本编辑器后再粘贴,元数据都不会跟着走。第四条的"确保文件中含有满足要求的显式标识"正是在堵这个漏洞。可行的做法是在生成侧就把显式标识"烧进"内容本身——比如图片的水印、视频的起始画面叠加层——而不是依赖界面元素。
第六条规定了传播平台的三类核验义务:文件元数据明确标明为生成合成内容的,在发布内容周边添加显著提示标识;元数据未核验到隐式标识但用户声明为生成合成内容的,添加提示标识提醒公众该内容"可能"为生成合成内容;两者都没有但平台检测到显式标识或其他生成合成痕迹的,识别为疑似生成合成内容并添加相应提示。同时有前三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息。
第七条则要求互联网应用程序分发平台在上架或上线审核时,要求应用服务提供者说明是否提供 AI 生成合成服务,并核验相关材料。这意味着 App 上架环节也会查标识落实情况。
义务主体的划分逻辑是:显式标识主要由生成方负责,核验与补充提示主要由传播方负责,应用分发方负责材料核验。第八条还要求服务提供者在用户服务协议中明确说明标识的方法、样式等规范内容,并提示用户阅读理解。
第九条规定,用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。
这条给了 B 端客户一个合规出口,但它是有条件的:需要用户明确申请、需要协议明确义务与责任、需要留存日志不少于六个月。把它当成"默认可以不加标识"是误读。
面向企业客户的 AI 应用开发,标识不是上线前补的补丁,而是需要提前预留架构位置的能力。AI 应用开发 类项目在设计阶段就应确认三件事。
不要在每个业务模块里各写一套。建议把标识能力抽成一层独立服务,对上提供统一调用接口,对下按文本、图片、音频、视频、虚拟场景分别实现。生成侧只调用一次接口,不关心具体格式差异。这样新增内容类型时只改一层。
前面提到的导出丢失问题,本质是标识没有和内容绑定。工程上可用的约束有两条:一是生成时把显式标识直接合成进内容数据(如图片烧录水印、视频叠加起始帧);二是内容对象与其标识元数据绑定存储,任何导出路径都必须经过统一出口,禁止绕过。这两条写进代码规范比写进文档有效。
第九条要求的日志留存不少于六个月,对应到系统里就是一张审计表:谁、在什么时间、申请了哪条内容的不带显式标识导出、按什么用途。多数平台在功能上支持"导出原始素材",但很少同时设计这条链路,后期补的成本很高。
AIGC 内容生产线 的工程化实践中,质检环节通常是抽样人工审核。标识相关的问题大多不会被抽检发现——一张图有水印、一张没有,在抽检比例下几乎必然漏掉。更稳妥的做法是把"标识是否存在且符合规范"做成一条自动校验项,纳入内容出厂前的检查清单,与既有的内容安全检查并列。
标识义务不是只有一层国家层面要求。2026 年 9 月 1 日起施行的《微短剧发展管理办法》(国家广播电视总局令第 16 号,2026 年 7 月 30 日公布,共 54 条)在第三十四条中明确规定:使用人工智能技术生成、制作的微短剧,制作机构和播出单位应当遵守国家有关规定,并依据有关规定在每集明显位置添加提示标识。
该办法同时确立了分类管理制度与配套标识体系:真人剧与 AI 短剧使用不同的标识,一类、二类、三类剧集标注内容各有不同,开篇动画、右上角标识、封面示意图各归其位。据《阳江日报》2026 年 10 月 3 日的报道,从 8 月 27 日全国会议部署推广,到 9 月 1 日新标识正式启用,再到 10 月底前平台完成三类微短剧标识标注全覆盖,这一时间表体现了行业治理的推进节奏。
对做内容生成的系统来说,这类垂直规则的工程含义是:标识参数不能写死,要支持按内容类型和业务场景配置位置、文案与样式。同一套生成能力,进入微短剧业务和进入企业知识库业务,标识规则完全不同。
监管侧的常规动作也在加密。据《中国消费者报》2026 年 10 月 8 日报道,北京市市场监管局当日发布消费提示,专门梳理 AI 广告的避坑要点,明确依据《人工智能生成合成内容标识办法》,所有 AI 合成、生成的图片、视频、音频、文字等宣传素材必须在显眼位置标注"AI生成""AI合成""AI虚拟人""数字人"等字样。地方监管把标识与《广告法》的虚假宣传认定直接关联,意味着商业内容场景下的标识风险敞口比一般内容场景更大。
如果有出海计划,标识要求不止一套。欧盟《人工智能法》第 50 条的透明度义务自 2026 年 8 月 2 日起适用,设置了四项义务:告知人们正在与 AI 系统交互、以机器可读格式标记输出、告知人们暴露于该系统、披露内容是 AI 生成或经 AI 修改的。欧盟委员会已于 2026 年 6 月 10 日完成《AI 生成内容透明度实践准则》,该准则本身是自愿性的,但义务不是。2026 年 8 月 2 日之前投放市场的生成式 AI 系统,在 AI Omnibus 引入的祖父条款下获得针对第 50 条第 2 款标记义务的过渡安排,该过渡期于 2026 年 12 月 2 日结束。
第 50 条中一个容易误读的点:提供方与部署方的义务是分开的。提供方的第 50(2) 款标记义务是设计时的义务——在生成时做机器可读标记,并保证标记在系统支持的导出格式中不被破坏;部署方的第 50(4) 款披露义务是发布时的义务——让看到内容的人能看见披露。提供方标记正确,并不意味着部署方的披露义务已履行;反之亦然。对于在第三方模型之上构建的企业,两项义务通常都需要承担。
相比之下,国内规则把义务主要压在服务提供者和传播平台两侧。这在设计跨国系统时意味着需要一套可切换的标识策略层,而不是写死一套逻辑。
按上面的梳理,标识落地可以拆成下面这些动作,逐条自查:
清单里前四项是底线,后五项是差异化部分。多数团队卡在第一项和第三项——不是不知道要加标识,而是漏了那些不在主流程上的导出入口。
还有一层关系值得点出。标识制度要求回答"这是不是 AI 生成的",而 AI 搜索领域关注的是"生成式引擎能否正确引用和理解企业信息"。两者技术路径不同,方向却一致:都是在让机器可验证地理解内容的来源与属性。生成式引擎优化 关注的是如何让企业内容被 AI 准确获取和引用,行业解决方案 中也会涉及具体行业的落地方式。
对同时做内容生成和 AI 可见度的团队来说,标识能力其实是现成的机器可读信息基础设施:元数据的结构化写入、内容属性的可验证标记、来源服务的可追溯编码,与让 AI 正确理解「这是谁、谁做的、基于什么」在技术上是同一件事。把这套能力做扎实,内容合规与 AI 可见度会同时受益。
标识义务从 2025 年 9 月 1 日施行至今已经过了一轮完整的执法周期,从平台应用处置到小程序下线都已经出现实际案例。对还在观望的团队,可以确定的判断是:这件事不会因为暂未被检查到而变得可选,越早把标识做成架构里的一层,越晚要付的改造成本就越低。
在具体项目的方案设计、接口约定与工程实现上,软件研发与工程实践 中有更完整的流程说明;合规口径最终仍应以官方发布的正式文本为准,本文依据公开信息整理,不构成法律意见。
需要。《人工智能生成合成内容标识办法》(国信办通字〔2025〕2 号)自 2025 年 9 月 1 日起施行,属于法定义务而非产品可选项。2026 年 4 月 28 日国家网信办指导属地网信部门查处了未有效落实标识规定要求的应用与网站;2026 年 10 月 9 日公布的执法典型案例中,一家提供 AI 文本对话与图片生成服务的小程序因未加显式标识、元数据无隐式标识、导出未带标识,被依法责令下线。
显式标识是以文字、声音、图形方式呈现、可被用户明显感知的标识,回答“这条内容是不是 AI 生成的”,例如视频起始画面叠加的提示、文本中的标注文字;隐式标识是嵌入生成合成内容文件元数据、不易被用户察觉的标识,回答“是谁生成的、编号是多少”,要素包括生成合成内容属性信息、服务提供者名称或编码、内容编号。两者分别服务于公众知情与监管溯源,缺一不可。
不算。2026 年 5 月 28 日重庆市两江新区市场监管局查处的首例“全 AI 生成、纯场景虚构”虚假广告案中,涉案企业仅使用了 AI 相关话题标签,未按要求做规范、显著的标识,被认定未履行标识义务,同时构成虚假广告。话题标签属于平台侧传播元数据,不满足“用户能明显感知内容来源”的要求,也不等同于文件元数据中的隐式标识。
这是最常见的工程问题,根因是标识没有与内容绑定。建议两条约束:一是生成时把显式标识直接合成进内容数据本身,例如图片烧录水印、视频叠加起始帧,而不是依赖界面元素;二是把内容对象与其标识元数据绑定存储,禁止绕过统一导出出口。《标识办法》第四条明确要求,提供下载、复制、导出功能时应确保文件中含有满足要求的显式标识。
有条件地可以。《标识办法》第九条规定,用户申请无显式标识内容时,服务提供者可在通过用户协议明确用户的标识义务和使用责任后提供,并依法留存提供对象信息等相关日志不少于六个月。三个动作缺一不可:用户明确申请、协议明确责任、日志留存不少于六个月,不能把它当作默认可以不加标识的通道。
建议四步:一是把标识能力抽象为独立的标识服务层,按文本、图片、音频、视频、虚拟场景五类分别实现,业务侧只调统一接口;二是把“标识随内容走”作为不可破坏约束,导出统一收口;三是设计审计日志表,记录谁在何时申请了哪条内容的不带标识导出及用途;四是把标识校验做成自动检查项纳入内容出厂检查,而不是只靠人工抽检。