#361 当 AI 完美复制了我的声音(一):AI 克隆与权利失控的边界
Description
如果有一天,你突然在网上听到了自己的声音,但却并不记得曾经亲口说过这些话,你的感受会是怎样的?
这样的事情已经在发生了。不知道你有没有听过由 AI 克隆出来的人声?今天,它们听起来已经足够逼真,几乎到了可以以假乱真的程度。对一些播客主播(包括我们自己),和配音演员们来说,这也意味着他们的声音可能已经被复制、被传播,甚至被用在他们从未同意过的场景里。而普通人可能也面临同样的风险。
在这期节目里,我们就从我们自己的困惑出发,试图做一些初步探索。我们有和同行去进行一些讨论,也聊了聊发生在中国和美国的两起与 AI 声音有关的前沿案件:中美的法律在这个领域都是如何适用的?涉案的中国当事人和律师,他们的思考和行动是怎样的?最后的判决结果如何?
声音,不只是承载信息的媒介,也是我们身份和人格的延伸。当技术的发展和规则的滞后相遇,个人能做的选择、能守护的界限,又会在哪里?
本期人物
杨大壹,播客《文化有限》《多多指教》主播
郝元,美国加州大学伯克利分校法学院讲师,伯克利亚洲知识产权法中心的联席主任
Ivy,配音演员
任相雨,北京市中勤律师事务所律师
赛德,「声东击西」后期制作人
Mengyi,「声动早咖啡」主播
徐涛,声动活泼联合创始人
主要话题
[07:30 ] 当被提问是否要把自己的声音交给 AI 时,我们在思考什么
[10:28 ] 中国播客声音 AI 化,谁是第一个吃螃蟹的人?
[18:07 ] 当配音演员听到 AI 使用自己未经授权的声音:发生在中美的两起诉讼
[24:16 ] 中国的 AI 声音第一案:当事人、律师采取的行动和案件的结果
延伸阅读
案件一:OpenAI 与 斯嘉丽·约翰逊(Scarlett Johansson)
澎湃新闻:美国演员斯嘉丽称 OpenAI 未经同意刻意模仿其声音 https://www.thepaper.cn/newsDetail_forward_27451985
《纽约客》的一篇文章:Faux ScarJo and the Descent of the A.I. Vultures https://www.newyorker.com/culture/infinite-scroll/faux-scarjo-and-the-descent-of-the-ai-vultures
《大西洋月刊》的一篇文章:OpenAI Just Gave Away the Entire Game https://www.theatlantic.com/technology/archive/2024/05/openai-scarlett-johansson-sky/678446/
《连线》的一篇文章:What Scarlett Johansson v. OpenAI Could Look Like in Court https://www.wired.com/story/scarlett-johansson-v-openai-could-look-like-in-court/
案件二:Lovo 与 配音演员 Paul Skye Lehrman 和 Linnea Sage
法律基础
版权侵权和商标侵权的诉讼请求被驳回。
但基于纽约州州法 Civil Rights Law 中的 Right of Publicity(公开权)的诉讼请求被审理:Right of Publicity(公开权),每个人固有的权利,即控制姓名、肖像、声音、签名或其他个人识别特征的商业价值的权利。
BBC 的一篇文章:「一家科技公司窃取了我们的声音,然后克隆并出售」 https://www.bbc.com/news/articles/c3d9zv50955o
《纽约时报》的一篇文章:当人工智能夺走你的声音时你会做什么? https://www.nytimes.com/2024/05/16/technology/ai-voice-clone-lawsuit.html
案件三:国内首例「AI声音侵权案」
法律基础
《民法典》第 990 条:「人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利。」
《民法典》第 1023 条:「对自然人声音的保护,参照适用肖像权保护的有关规定。」也就是说,对自然人声音的保护参照适用肖像权的保护,明确将声音权益作为特殊的人格利益予以保护。
《民法典》对肖像权的部分规定:
第 1018 条 自然人享有肖像权,有权依法制作、使用、公开或者许可他人使用自己的肖像。
第 1019 条 任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
北京政法网:全国首例 AI 生成声音人格权侵权案一审宣判 https://www.bj148.org/yck/zzdt/202405/t20240510_1664690.html
人民日报:全国首例「AI 声音侵权案」宣判带来何种警示 https://paper.people.com.cn/zgcsb/html/2024-04/29/content_26055200.htm
往期节目
#280 美国权力的运转,奥本海默,中东冲突和一位传记作家 | 中文版 https://etw.fm/2082
「Knock Knock 世界|秋季敲门版」上线啦!

新学期伊始,我们特别推出了「Knock Knock 世界|秋季敲门版」,每期 10 分钟,和青少年一起解读一个全球新鲜事,话题涉及社会、科技、商业、文化。
更新时间:整个秋季学期,从 9 月 1 日开始到 1 月 30 日
期数:60 期
售价:179 元
前三期依然可以免费收听,其中包括我们在线下选题会和少年听友们一起制作的两期正式节目。点击链接收听
已经购买了「Knock Knock 世界」的朋友们无需重复购买,秋季敲门版里的节目是全年节目的一小部分。不过,也欢迎把秋季敲门版分享给更多志同道合的新朋友,我们也为每一位帮助我们成功邀请的老听友准备了一份专属礼物!感兴趣的朋友可以点击链接收听。
给声东击西投稿
「声东击西」一直在寻找来自不同社会和群体的真实声音。我们曾经采访过为特朗普竞选生产 MAGA 帽子的中国制造商、记录过七位在美国大选中经历起伏的华人个体,也讲述了签证突然被取消的在美留学生的故事。
如果你也有一些特别的经历、观察或想法,不论是亲身体验的故事,还是你在某个行业、社区中的所见所闻,都欢迎你向我们投稿。
你的声音可能出现在未来的节目当中,我们非常期待你的分享!
投稿入口:https://eg76rdcl6g.feishu.cn/share/base/form/shrcne1CGVaSeJwtBriW6yNT2dg
<p style="color: #333333; font-weight: normal; font-size: 16px; line-height: 30px; font-famil



