#361  当 AI 完美复制了我的声音(一):AI 克隆与权利失控的边界声东击西

#361 当 AI 完美复制了我的声音(一):AI 克隆与权利失控的边界

38分钟 ·
播放数19792
·
评论数96

如果有一天,你突然在网上听到了自己的声音,但却并不记得曾经亲口说过这些话,你的感受会是怎样的?

这样的事情已经在发生了。不知道你有没有听过由 AI 克隆出来的人声?今天,它们听起来已经足够逼真,几乎到了可以以假乱真的程度。对一些播客主播(包括我们自己),和配音演员们来说,这也意味着他们的声音可能已经被复制、被传播,甚至被用在他们从未同意过的场景里。而普通人可能也面临同样的风险。

在这期节目里,我们就从我们自己的困惑出发,试图做一些初步探索。我们有和同行去进行一些讨论,也聊了聊发生在中国和美国的两起与 AI 声音有关的前沿案件:中美的法律在这个领域都是如何适用的?涉案的中国当事人和律师,他们的思考和行动是怎样的?最后的判决结果如何?

声音,不只是承载信息的媒介,也是我们身份和人格的延伸。当技术的发展和规则的滞后相遇,个人能做的选择、能守护的界限,又会在哪里?

本期人物
杨大壹,播客《文化有限》《多多指教》主播
郝元,美国加州大学伯克利分校法学院讲师,伯克利亚洲知识产权法中心联席主任
Ivy,配音演员
任相雨,北京市中勤律师事务所律师
赛德,「声东击西」后期制作人
Mengyi,「声动早咖啡」主播
徐涛,声动活泼联合创始人

主要话题
07:30 当被提问是否要把自己的声音交给 AI 时,我们在思考什么
10:28 中国播客声音 AI 化,谁是第一个吃螃蟹的人?
18:07 当配音演员听到 AI 使用自己未经授权的声音:发生在中美的两起诉讼
24:16 中国的 AI 声音第一案:当事人、律师采取的行动和案件的结果

延伸阅读

往期节目
#280 美国权力的运转,奥本海默,中东冲突和一位传记作家 | 中文版

「Knock Knock 世界|秋季敲门版」上线啦!
Untitled
新学期伊始,我们特别推出了「Knock Knock 世界|秋季敲门版」,每期 10 分钟,和青少年一起解读一个全球新鲜事,话题涉及社会、科技、商业、文化。

  • 更新时间:整个秋季学期,从 9 月 1 日开始到 1 月 30 日
  • 期数:60 期
  • 售价:179 元前三期依然可以免费收听,其中包括我们在线下选题会和少年听友们一起制作的两期正式节目。点击收听已经购买了「Knock Knock 世界」的朋友们无需重复购买,秋季敲门版里的节目是全年节目的一小部分。不过,也欢迎把秋季敲门版分享给更多志同道合的新朋友,我们也为每一位帮助我们成功邀请的老听友准备了一份专属礼物!感兴趣的朋友可以点击链接收听。

给声东击西投稿
「声东击西」一直在寻找来自不同社会和群体的真实声音。我们曾经采访过为特朗普竞选生产 MAGA 帽子的中国制造商、记录过七位在美国大选中经历起伏的华人个体,也讲述了签证突然被取消的在美留学生的故事。
如果你也有一些特别的经历、观察或想法,不论是亲身体验的故事,还是你在某个行业、社区中的所见所闻,都欢迎你向我们投稿。
你的声音可能出现在未来的节目当中,我们非常期待你的分享!
投稿入口
你也可以直接通过邮箱直接联系节目组:kexuan@shengfm.cn

加入我们
声动活泼目前开放【商业发展经理、节目监制,以及内容实习生(可远程)、早咖啡实习生、商业实习生和运营实习生】岗位,详情点击招聘入口:加入声动活泼(在招职位速览),点击相应链接即可查看岗位详情及投递指南。
Untitled

幕后制作
监制:可宣
内容实习生:飞扬
后期:赛德
运营:George
设计:饭团

商务合作
声动活泼商业化小队,点击链接可直达商务会客厅(商务会客厅链接:sourl.cn ),也可发送邮件至 business@shengfm.cn 联系我们。

关于声动活泼
「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。

我们还有这些播客:不止金钱(2024 全新发布)跳进兔子洞第三季(2024 全新发布)声东击西声动早咖啡What's Next|科技早知道反潮流俱乐部泡腾 VC商业WHY酱

欢迎在即刻、微博等社交媒体上与我们互动,搜索 声动活泼 即可找到我们。

也欢迎你写邮件和我们联系,邮箱地址是:ting@sheng.fm

获取更多和声动活泼有关的讯息,你也可以扫码添加声小音,在节目之外和我们保持联系!
声小音

Special Guests: Ivy, 任相雨, 杨大壹, 赛德, and 郝元.

展开Show Notes
早就注意到了 早咖啡播报结束都会有专门声明 本节目不能用于AI训练
思一只
思一只
2025.9.26
04:59 lol想起这两天早咖啡两位代班被说ai味儿,以及很早之前mengyi也是“ai味儿”。鉴ai现在真的很普遍的现象就是了
徐涛丨声动活泼
:
他们都好委屈🥹
HD614314q:真的,谁来播报都先问是不是AI
4条回复
Yaxian
Yaxian
2025.9.26
有故事也有法理支持,层层递进~很好听!🫶🫶
很有意义的讨论,有一种抽丝剥茧的感觉,期待下一期
Holeo
Holeo
2025.9.26
好奇怪为什么没有推送也没评论?
无敌心态决定女人的一生:+1 得亏我记得今天周四 要相约声东击西
六工_:好像出了点技术问题,明天早上应该就会恢复啦
还没来得及听,先来留言。九月和涛老师圆桌讨论的时候讲到这个选题,当时就在内心感慨这个选题太棒了🌟
平坪常常:圆桌讨论我在现场!惊喜!
HD614314q
HD614314q
2025.9.28
乘着这期节目相对mengyi还有两位代班主播说别理那些评论区里恶语相向的人。评论两句话容易,但好好做事情是难的。你们的认真负责日复一日高质量很不简单
徐涛丨声动活泼
:
啊谢谢!
六工_:感动🥺🥺🥺
beibiie
beibiie
2025.9.26
对这个话题感觉大家都有点避而不谈,可能不知道怎么谈,到底要谈什么?也感谢老师和嘉宾们的分享
HD614314q:感觉大家讨论得挺多的呀,哪儿避而不谈啦
向荒野奔去:https://www.xiaoyuzhoufm.com/episode/684d61094abe6e29cb1c7485 这期节目有点相关,算是好久之前的了。
3条回复
猫_CxM
猫_CxM
2025.9.26
这个选题抓的好准 当下正是监管热议期 在这个反诈意识渐强的今天 全民都在关注着情况
Liu老师
Liu老师
2025.9.26
好喜欢声音设计。。。。太有质感了
MTTBK
MTTBK
2025.9.27
这种先侵权了再说,慢慢再洗白的路线不就是字节的今日头条先搞出来的
HD614314q:是的,摧毁一切
36:20 说不定对方也偷偷用了一个AI,自己去忙别的事情,最后变成了AI对话AI😂
徐涛丨声动活泼
:
哈哈哈
载道扬
载道扬
2025.9.26
11:35 哦!!!!我就知道那个爆米花什么的可能是AI,但也太逼真了。而且每期片头口播停顿还都不一样。
欢迎收听……我们的播客。
书虫弗兰克:爆米花热聊局吗?刚才去听了一下,男主播的声音很像杨大壹
真的好喜欢这期节目🫰
猫三思
猫三思
2025.9.28
09:29 赛德的声音音色本身就很ai😂
三片吐司
三片吐司
2025.9.26
15:29 放在保险柜的想法很有道理💡
平坪常常:但大公司也有风险
三片吐司:无论什么情况都会有风险,签给大公司的话,一方面看和大公司的合同内容是否能保障自己,另一方面看大公司本身的维权能力(对外)。 有点像不成熟的疫苗,不打吧,就靠自己免疫;打吧,就看疫苗靠不靠谱。
Hi小徐
Hi小徐
2025.9.26
14:56 将个人权益让渡于大公司就是稳妥的吗🤔
三片吐司:不一定,但是一种解法
HD614314q:我觉得并不是。大公司也很危险
虽然很多人认为AI是大势所趋,但AI技术不应该被滥用,需要有监管机制,个人权利应当得到充分保障和维护。不要温顺地走进那个良夜。
17:01 如果不是主播说明,真没听出来是AI的声音
ChainWise:怎么确定不是ai主播在说明😱
G_dfHk
G_dfHk
2025.9.26
怎么举证这个声音就是你的?世界上没有类似的声音吗?
徐涛丨声动活泼
:
好问题!
这期播客太精彩了:好像有声纹鉴定这样的东西