中国民事生成式AI人格权侵权(肖像权、声音权益)、商家连带责任已终审
AI“深度伪造”名人声音带货侵权案

AI“深度伪造”名人声音带货侵权案

重要性评级
法院:北京互联网法院
判决时间:2024年07月20日
当事方:原告:李某某;被告:某文化传媒有限公司

北京互联网法院判决AI深度伪造名人声音带货构成侵权,委托推广商家因未尽审查义务承担连带责任。

诉讼时间轴
一审· 北京互联网法院

判决被告某文化传媒有限公司向原告李某某赔礼道歉、赔偿经济损失及维权合理支出12万元,驳回原告李某某的其他诉讼请求。

案情概述

原告李某某在教育、育儿领域具有知名度。2024年,原告发现被告某文化传媒有限公司在其网络平台店铺中,使用原告的公开演讲、授课视频,并配以与原告声音高度近似的AI合成声音,宣传销售家庭教育类图书。原告主张被告未经许可使用其肖像和AI合成声音,使其人格形象与商业宣传关联,误导消费者,侵犯其肖像权和声音权,并要求被告作为委托方承担赔礼道歉、赔偿损失的侵权责任。被告辩称其仅为店铺经营者和图书销售者,涉案视频并非其制作发布,且原告作为公众人物应有容忍义务,视频未贬损原告形象,不同意原告诉讼请求。法院审理认为,涉案视频使用了原告肖像及与原告本人高度一致的AI合成声音,且可识别性强,构成对原告肖像权和声音权益的侵犯。被告作为委托推广商家,与推广人共同获益,具备对视频的审核管理能力,但未尽到合理审查义务,故应与推广人承担连带责任。最终法院判决被告赔礼道歉并赔偿经济损失及维权合理支出12万元。

核心争议焦点

  • 1AI合成声音是否具备可识别性并落入声音权益保护范围?
  • 2未经权利人许可使用AI合成名人声音进行商业推广是否构成侵权?
  • 3委托推广商家是否对推广人制作发布的侵权视频承担连带责任?
  • 4商家未尽合理审查注意义务的法律后果是什么?

双方观点

原告主张

原告李某某主张,被告某文化传媒有限公司在其运营的某网络平台店铺销售图书时,未获得原告李某某的许可,使用原告的肖像和通过AI合成的声音制作宣传产品,使原告的人格形象与其商业宣传对象形成紧密关联,从而使消费者误以为原告是其销售图书的代言人或推介者,利用原告人格形象、专业背景和社会影响力吸引关注,增加交易机会,侵犯了原告的肖像权和声音权。被告作为图书销售者,与视频发布者(即带货主播)之间为委托关系,共同完成销售活动,其对主播发布的视频具有审查义务和能力,对涉案视频的发布应当承担赔礼道歉、赔偿损失等侵权责任。

被告抗辩

被告某文化传媒有限公司辩称,其仅为涉案网络店铺的经营者和涉案图书的销售者,涉案推广视频并非被告制作和发布,而是由其他网络用户发布,被告并非侵权主体。原告作为公众人物应当具有一定的容忍义务,涉案视频推介的书籍都是好书,没有对原告的社会形象进行贬损,没有给原告带来经济损失,不同意原告的诉讼请求。

关键证据

涉案视频使用了原告的肖像以及AI合成声音,该声音与原告本人的声音在音色、语调、发音风格上具有高度一致性。

法院说理

法院认为,涉案视频使用了原告的肖像以及AI合成声音,该声音与原告本人的声音在音色、语调、发音风格上具有高度一致性。结合原告在教育、育儿领域的知名度,涉案视频对家庭教育类书籍进行宣传推介,更易使观看涉案视频的公众将视频中的相关内容与原告之间建立联系,可以认定一定范围内的听众能够将涉案AI合成声音与原告本人建立一一对应的联系。因此,涉案声音落入原告声音权益的保护范围。涉案推介视频大幅使用原告肖像、合成模拟原告的声音,未取得原告授权,因此涉案视频的发布行为构成对原告肖像权和声音权益的侵犯。被告某文化传媒有限公司与推广人(即带货主播)依照平台规则和服务相关约定达成委托推广关系,共同以推介被告书籍为目的发布涉案视频、获取相应收益,且被告基于平台规则和管理权限,具备对涉案视频进行审核管理的能力。在涉案视频大幅使用原告肖像、合成模拟原告声音的情况下,被告应对视频可能引发的侵权风险具有一定的预见性,并就视频是否获得了原告授权尽到合理的审查义务。但在案证据表明,被告未尽到其应有的审查注意义务,因此被告某文化传媒有限公司应与推广人就侵权视频发布承担连带责任。原告选择向被告某文化传媒有限公司主张全部的赔偿责任,于法有据,法院予以支持。

裁判要点

  • 1AI合成声音只要具备可识别性,即可落入权利人声音权益的保护范围。
  • 2未经权利人许可使用AI合成声音进行商业推广构成侵权。
  • 3委托推广商家对推广人发布的推广内容负有合理审查义务。
  • 4商家未尽合理审查义务,需与带货“达人”承担连带责任。

最终判决结果

判决被告某文化传媒有限公司向原告李某某赔礼道歉、赔偿经济损失及维权合理支出12万元,驳回原告李某某的其他诉讼请求。被告已主动履行判决内容。

引用法条

  • 《中华人民共和国民法典》第一千零一十九条第一款

适用法律原则

人格权同一性利益保护原则商家合理审查义务原则连带责任原则

AI技术详情

技术类型:生成式AI
技术原理示意图 · 生成式AI
训练数据书籍/文章/代码分词处理TokenizationTransformer注意力机制输出生成文本/代码大语言模型工作原理 · 训练阶段数据流向

技术实现说明

AI“深度伪造”名人声音,通过使用原告李某某的公开演讲、授课视频,配以与原告声音高度近似的AI合成声音,在音色、语调、发音风格上具有高度一致性。

延伸阅读

法律意义

本案明确了利用AI深度合成技术合成的自然人声音,只要能够使一般社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人,即具有可识别性,应纳入该自然人声音权益的保护范围。同时,在商家委托视频发布者带货的法律关系中,作为委托方和实际获益者的平台商家,对其关联“达人”发布的推广内容负有合理审查义务,不能仅以“被动合作”“未参与制作”为由免责,未尽到审核注意义务的,需与带货“达人”承担连带责任。这为规范电商推广行为、压实商家主体责任、治理AI“声替”乱象提供了规范指引。

行业影响

对电商推广行业:压实了商家在委托推广中的审查义务,促使商家加强对推广内容的审核管理,防范利用AI技术侵权行为。 对AI技术应用行业:明确了AI合成声音的法律边界,要求技术使用者和信息发布者遵守法律规定和社会公德,防止利用AI技术侵犯他人合法权益,推动人工智能与深度合成技术向上向善发展。 对网络平台:要求加强深度合成内容审查,对利用人工智能生成合成内容进行显式标识,建立健全辟谣机制和投诉处理机制,及时处理虚假信息。