《说法讲理》节目
由南宁市司法局与
南宁市融媒体中心综合广播
联合制作播出
播出平台：990新闻台（ＦＭ99.0）
播出时间：每周二 19:05
本期关注
《人工智能生成合成内容标识办法》
（点击音频收听完整节目）
↓↓↓
《人工智能生成合成内容标识办法》（以下简称《办法》）已于9月1日正式施行。我们注意到，自8月底至9月初，腾讯、抖音、微博、知乎、商汤、DeepSeek、万兴科技等多家企业就《办法》纷纷公布了各自平台的细化规则。
平台企业就《办法》出台AI标识公告及提供相关功能服务，是否就“万事大吉”了？消费者在使用AI工具及AI功能时应当注意哪些问题？可以行使哪些权利和义务？一起了解↓
双重标识体系
《办法》明确，“人工智能生成合成内容”是指利用人工智能技术生成合成的文本、图片、音频、视频、虚拟场景等信息。内容标识包括显式标识和隐式标识，前者是指在人工智能生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；后者则是指采取技术措施在生成合成内容的文件数据中添加的，不易被用户明显感知到的标识。这两种方式互为补充，既保障了用户的知情权，又为之后的验证、监管提供了技术依据。
全流程管理
《办法》不仅要求生成式AI服务的提供者必须在内容生成时进行标识，还要求后续的传播平台（如社交媒体、新闻网站）承担核验标识的责任，确保内容在传播时标识未被去除。更进一步，甚至延伸到了应用程序分发平台（如应用商店），要求它们在上架审核相关AI应用时，也要核验其是否具备按规定进行标识的能力。这种环环相扣的设计，旨在构建一个无死角的管理闭环。
用户发布AI内容应主动标识
对于广大平台用户来说，用户既可能是AI生成合成内容的创作者、发布者，也是AI生成合成内容的受众。
《办法》明确规定，用户发布AI生成合成内容的，应当主动声明并使用服务提供者的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿《办法》规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。此外，用户也可以申请服务提供者提供没有添加显式标识的生成合成内容，但应履行标识义务和承担使用责任。
律师指出，如果用户遇到平台上未标识的AI生成合成内容，可以通过平台提供的投诉渠道进行投诉；如果认为平台违反了《办法》的规定，可以向相关部门的公开投诉渠道投诉。涉及侵犯肖像或者隐私等人格权利、个人信息、著作权的，可以依法提起诉讼。
AI滥用常见领域
近年来，一些不法分子利用AI换脸技术，冒充他人身份实施诈骗。比如伪造某公司高管的面容和声音，指令财务人员转账汇款，造成重大经济损失。
按照《办法》的要求，这样的AI生成内容必须添加显式标识，如在视频中明显标注“AI生成”，并在文件元数据中添加隐式标识，如制作方信息。这样用户在看到视频时就能立即意识到这是合成内容，而不是真实录像，从而避免上当受骗。
有人利用生成式人工智能工具伪造名人图片或视频，捏造其发表争议性言论的场景，并在社交媒体上广泛传播，引发严重舆论风波和社会混乱。
《办法》中明确规定，提供网络信息内容传播服务的平台应当承担起相应的审核责任。平台需通过技术手段核验上传文件中是否含有符合规定的隐式元数据标识。
如果内容未携带标识，但通过人工智能检测工具判定其疑似AI生成，平台有义务在该内容展示界面添加提示信息，如“该内容可能为AI生成，请谨慎辨别”等。
这一规定推动平台建立“技防+人防”的双重机制，既强化了平台在虚假信息治理中的责任，也提升了公众对潜在风险内容的认知能力，从而逐步压缩虚假信息的传播空间。
此前曾有商家通过语音合成技术模仿某奥运冠军的声音，制作推销土鸡蛋的广告，导致消费者误以为是冠军本人代言，从而产生购买行为。这不仅侵犯了公民肖像和声音权益，也构成对消费者的欺诈。
《办法》针对此类音频合成场景要求，生成服务提供者必须在音频的起始、末尾或中间适当位置插入可清晰辨识的标识，例如添加“本声音由AI生成”的语音提示，或通过特定音频节奏、水印等技术手段作出提示。公众在收听时能够明确知悉声音来源的真实性质，从而基于真实信息做出理性判断，避免被深度伪造技术误导。
更多精彩内容
大家可点击上方音频获取！
来源丨《说法讲理》栏目组
一审丨黄馨怡
二审丨李夏
三审丨杨泓
