人工智能生成合成内容标识办法公布
《人工智能生成合成内容标识办法》由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合制定,于2025年3月14日正式公布,并将于同年9月1日起施行。该办法旨在规范人工智能生成合成内容标识,防范虚假信息传播,保护公众权益,其核心要点如下:
一、核心规定
标识形式
要求对可能导致公众混淆的AI生成内容添加两类标识:
显式标识:以文字、声音、图形等形式置于内容或交互界面的显著位置,例如文本起始/末尾的文字提示、图片中的水印、视频起始画面的标识等。
隐式标识:通过技术手段在文件元数据中嵌入不易被直接感知的标识(如数字水印),用于溯源和验证。
具体场景要求
文本:需在起始、末尾或中间位置添加文字或符号标识。
音视频:音频需添加语音提示或节奏标识,视频需在播放界面周边或画面中添加标识。
虚拟场景:在起始画面或持续服务过程中添加显著提示。
文件导出:服务提供者需确保下载或导出的文件保留显式标识。
禁止行为
任何组织或个人不得恶意删除、篡改、伪造标识,或为上述行为提供工具及服务。天道悟空
二、配套措施
技术标准:强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同步实施,明确技术操作规范。
编码规则:发布《人工智能生成合成内容标识 服务提供者编码规则》,为元数据隐式标识提供技术指引
国际合作:推动全球协同监管,形成跨国界治理框架。
三、实施背景与意义
随着生成式AI技术广泛应用,虚假换脸视频、语音诈骗等乱象频发,约10%受访者曾遭遇AI语音诈骗。此前已出现多起AI生成内容版权纠纷,例如江苏首例AI生成图片著作权案明确“人的独创性投入”受法律保护。该办法通过强制标识与溯源机制,为界定AI内容权责提供技术支撑,同时降低公众被误导风险
四、争议与挑战
技术执行:如何平衡标识的显著性与用户体验仍需探索,例如隐式标识的检测效率。
法律衔接:需与《著作权法》《深度合成管理规定》等既有法规协同,避免监管重叠。
伦理边界:部分代表建议进一步明确AI创作中“人类智力投入”的判定标准,完善知识产权框架。
该办法的出台标志着中国在AI治理领域迈出关键一步,通过“技术标识+法律规制”双重路径,推动人工智能产业健康有序发展。
我用智搜dsai兴趣创作计划