AI深度伪造名人声音用于视频带货是否侵权？带货视频的委托推广商家是否需要承担责任？近日，北京互联网法院审结一起涉AI“深度伪造”名人声音带货的人格权侵权纠纷案件，判决认定AI合成声音具备可识别性即可落入权利人声音权益的保护范围，未经权利人许可的使用构成侵权，商家委托平台“达人”共同以推介商品为目的发布带货视频、获取相应收益，未尽到合理的审查注意义务，应对受托人制作、发布侵权视频的行为承担连带责任。法院最终判决商家赔礼道歉并赔偿损失。

基本案情

原告李某某在教育、育儿领域具有一定知名度和社会影响力。2024年，原告李某某发现，被告某文化传媒有限公司在其运营的某网络平台店铺中，通过使用原告李某某的公开演讲、授课视频，并配以与原告声音高度近似的AI合成声音，对其销售的多本家庭教育类图书进行宣传推介。

原告李某某主张，被告某文化传媒有限公司在其运营的某网络平台店铺销售图书时，未获得原告李某某的许可，使用原告的肖像和通过AI合成的声音制作宣传产品，使原告的人格形象与其商业宣传对象形成紧密关联，从而使消费者误以为原告是其销售图书的代言人或推介者，利用原告人格形象、专业背景和社会影响力吸引关注，增加交易机会，侵犯了原告的肖像权和声音权。被告作为图书销售者，与视频发布者（即带货主播）之间为委托关系，共同完成销售活动，其对主播发布的视频具有审查义务和能力，对涉案视频的发布应当承担赔礼道歉、赔偿损失等侵权责任。

被告某文化传媒有限公司辩称，其仅为涉案网络店铺的经营者和涉案图书的销售者，涉案推广视频并非被告制作和发布，而是由其他网络用户发布，被告并非侵权主体。原告作为公众人物应当具有一定的容忍义务，涉案视频推介的书籍都是好书，没有对原告的社会形象进行贬损，没有给原告带来经济损失，不同意原告的诉讼请求。

法院经审理认为

涉案视频使用了原告的肖像以及AI合成声音，该声音与原告本人的声音在音色、语调、发音风格上具有高度一致性。结合原告在教育、育儿领域的知名度，涉案视频对家庭教育类书籍进行宣传推介，更易使观看涉案视频的公众将视频中的相关内容与原告之间建立联系，可以认定一定范围内的听众能够将涉案AI合成声音与原告本人建立一一对应的联系。因此，涉案声音落入原告声音权益的保护范围。涉案推介视频大幅使用原告肖像、合成模拟原告的声音，未取得原告授权，因此涉案视频的发布行为构成对原告肖像权和声音权益的侵犯。

被告某文化传媒有限公司与推广人（即带货主播）依照平台规则和服务相关约定达成委托推广关系，共同以推介被告书籍为目的发布涉案视频、获取相应收益，且被告基于平台规则和管理权限，具备对涉案视频进行审核管理的能力。在涉案视频大幅使用原告肖像、合成模拟原告声音的情况下，被告应对视频可能引发的侵权风险具有一定的预见性，并就视频是否获得了原告授权尽到合理的审查义务。但在案证据表明，被告未尽到其应有的审查注意义务，因此被告某文化传媒有限公司应与推广人就侵权视频发布承担连带责任。原告选择向被告某文化传媒有限公司主张全部的赔偿责任，于法有据，法院予以支持。

裁判结果

合议庭成员：颜君、王红霞、潘昌

判决被告某文化传媒有限公司向原告李某某赔礼道歉、赔偿经济损失及维权合理支出12万元，驳回原告李某某的其他诉讼请求。

该案一审判决已生效，被告主动履行了判决内容。

法官说法

北京互联网法院

综合审判三庭（少年法庭）庭长

审委会委员、四级高级法官

颜君

随着生成式人工智能技术的迅猛发展，名人声音被“克隆”冒用越来越真假难辨，既使得声音侵权现象更加泛滥，也极易误导消费者。本案明确了利用AI深度合成技术合成的自然人声音，只要能够使一般社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人，即具有可识别性，应纳入该自然人声音权益的保护范围。同时，在商家委托视频发布者带货的法律关系中，作为委托方和实际获益者的平台商家，对其关联“达人”发布的推广内容负有合理审查义务，商家不能仅以“被动合作”“未参与制作”为由免责，未尽到审核注意义务的，需与带货“达人”承担连带责任，进而为规范电商推广行为、压实商家主体责任、治理AI“声替”乱象提供规范指引。

与此同时，网络平台也应加强深度合成内容审查，对利用人工智能生成合成内容进行显式标识，避免公众混淆，并建立健全的辟谣机制和投诉处理机制，及时处理利用深度合成技术制作、复制、发布、传播的虚假信息。未来，针对AI合成声音侵权等新型侵权行为，需要进一步明确平台在内容审核、数据使用、算法推荐等方面的责任。相关技术使用者和信息发布者也应当遵守法律规定和社会公德，防止使用AI技术实施侵犯他人合法权益的行为，共同推动人工智能与深度合成技术向上向善发展，维护良好的网络生态。

专家点评

中国人民大学法学院助理教授

阮神裕

肖像权与声音权作为标表性人格权，其核心保护法益之一在于维护人格的同一性利益。肖像与声音作为个体的重要标识，与权利人的整体人格形象紧密相连，承载着其身份认同与社会评价。未经同意将权利人之肖像或声音用于特定的场景或语境，将使社会公众错误以为权利人持有某种喜好、观念或者思想，从而破坏了人格的同一性利益。例如，在传统的肖像权纠纷中，未经同意将某位明星的肖像用于商业广告，可能会使社会公众以为该明星支持该商业广告提及的商品、企业乃至该企业的言论与活动。而在人工智能时代，行为人可以使用AI合成技术等信息技术手段伪造肖像或者声音，并且将其用于商业广告、评论文章或者其他场合，更严重地破坏了肖像权所要保护的同一性利益。故此，《中华人民共和国民法典》第一千零一十九条第一款特别规定了任何组织或者个人不得利用信息技术手段伪造等方式侵害他人的肖像权。本案判决明确了AI合成声音在具备可识别性时即受声音权保护的规则。这一裁判立场对于AI技术快速发展背景下声音权的边界划定具有重要意义。

来源：北京互联网法院

编辑：Sharon