人工智能生成合成内容标识、传播、审核等如何发展？这个“办法”告诉你！

央视网消息：记者14日从国家网信办获悉，为了促进人工智能健康发展，规范人工智能生成合成内容标识，国家网信办、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》。《标识办法》将于2025年9月1日起施行。

《标识办法》中明确，人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

《标识办法》中提到，当服务提供者提供的生成合成服务属于智能对话、合成人声、人脸替换等这些情形的，应当按照要求对生成合成内容添加显式标识，包括：

•在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；

•在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；

•在图片的适当位置添加显著的提示标识；

•在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；

•呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

•其他生成合成服务场景根据自身应用特点添加显著的提示标识。

另外还要求，服务提供者应当采取技术措施添加不影响用户使用的标识，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

对人工智能生成合成内容传播等作出规定

此外，在《标识办法》中，对于人工智能生成合成的内容传播、审核等也作出了具体规定。

针对规范人工智能生成合成内容的传播活动，《标识办法》对提供网络信息内容传播服务的服务提供者提出了要采取的具体措施，包括：

•核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；

•文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；

•文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；

•提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

除了相关内容服务提供者之外，《标识办法》还要求，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。