随着生成式AI的爆火，互联网上的图片和视频变得越来越真假难辨。
对此，国家网信办发布关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知。
此前，国家网信办等部门已相继出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等，提及网络服务提供者应对AI生成合成内容进行标识。
这次的意见稿则进一步规范了网络平台和用户对AI生成的内容进行标识的义务，涉及四类活动主体：提供生成合成服务的网络信息服务提供者、提供内容传播平台服务的网络信息服务提供者、互联网应用程序分发平台和普通用户。
对于服务提供者提供的生成合成服务，如果属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，可能导致公众混淆或者误认的，应当按要求对生成合成内容添加显式标识。服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。
此外，服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。此举是为了便于平台方能够对视频进行检测，以快速判断是否为AI生成的视频。
而用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。
同时，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，包括对平台上发布的文件元数据进行核验，提醒用户该内容属于或疑似为生成合成内容。互联网应用程序分发平台（即应用商店）在应用程序上架或上线审核时，应当对内容传播平台的标识功能进行核验。
中国信息通信研究院人工智能研究所所长魏凯认为，《人工智能生成合成内容标识办法》（下称“《办法》”）先行提出生成合成内容标识的中国方案，着力加强服务商生成合成内容标识的规范性，并进一步完善生成式人工智能监管问责体系。
“《办法》虽然将标识添加的责任主要施加于服务提供者和上传内容的用户，但未对传播平台和应用分发平台实施‘一刀切’式的避风港规则。而是采取一种更为精细化的路径，详细规定传播平台应当对文件元数据中的扩展字段进行核验，提示用户生成合成内容信息，并在文件元数据中添加传播要素信息；应用服务分发平台应在应用程序上架或上线审核前核验服务提供者是否按要求提供生成合成内容标识功能。”
魏凯分析，此举有助于适当调整服务提供者、使用者和传播分发平台的义务分配，避免相关平台“隐身”于深度合成监管体系。
此前，短视频平台上曾涌现一些假冒真人的数字人账号，有些由AI凭空生成，有些则是盗用了真人肖像。
今年2月，一名乌克兰网红发视频控诉她的面孔被非法盗用。她的容貌、声音出现在中文网络，在不同账号上，以俄罗斯姑娘的身份售卖俄罗斯糖果等商品。这些以她形象出现的“俄罗斯姑娘”，名为娜塔莎、安娜、叶琳娜……她们自称在中国生活多年，会向观众介绍俄罗斯特色产品，诸如巧克力、糖果等，点进链接便可购买。
北京清律律师事务所熊定中律师对《科创板日报》表示，按照意见稿的要求，短视频平台方对这类视频需要进行检测，打上疑似生成合成内容的标签。
记者注意到，在各大互联网平台上，已经出现了不少生成式AI合成的照片、视频等，初看几乎难以辨别真实性。一些平台对其打上了小字标注：注意甄别，疑似包含AI创作信息。
熊定中告诉《科创板日报》记者，此次意见稿的第九条和第十二条尤为值得关注，属于对服务提供者的新增要求。
第九条提出，如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。
熊定中判断，这条落地需要一定技术成本的改进，对于大模型提供方的储存成本而言或许会显著上升，服务模式上可能也需要做相应的调整。
第十二条提出，服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。熊定中介绍，目前的算法备案和安全评估的工作不包括这部分的工作内容，这意味着相关的工作流程和内容会发生新增。
知名经济学者、工信部信息通信经济专家委员会委员盘和林认为，标识能够让用户区分真假视频，防止以假乱真，与此同时，标识对内容发布者也是有利的，也就是说，内容发布者只要声明了视频来源，便可以发布AI视频来创作，实际上是一种行为规范。
