【082】“复活”女儿:谁拥有“造人”的权力?GQ Talk

【082】“复活”女儿:谁拥有“造人”的权力?

74分钟 ·
播放数12474
·
评论数72

【本期简介】

前不久,我们在一篇报道中详述了音乐人包小柏用AI“复活”了自己去世的女儿的过程(《以AI之名:一个父亲复生女儿的决心》)。本期节目,我们邀请到“生下”这位AI女儿的技术提供方、小冰公司的CEO李笛,聊了聊“复生”背后的技术和伦理问题。在对包小柏的采访中,我们看到,人一旦走进“复生”的技术过程,就要面对一件事,当你可以自定义孩子的记忆、个性,你会怎么选择?包小柏女儿的梦想是做牙科研究,但这位父亲让她在数字世界里成为了一名歌手,就想他曾经期待女儿会成为的那样。

近一年来,AI“复生”逝去的家人、明星的情况越来越多,这部分得益于过去一年大模型技术堪称“进化”的升级——复刻逝者所需的数据在技术上变得越来越简单,几张照片,几句描述,就能生成一个“我”。在李笛看来,这种对逝者的复刻,更像是“我的父亲用木头雕刻了一个我”,它可以被雕刻得栩栩如生,长得非常像我,但它从本质上,更接近一种“木雕”。

从过去到现在,人类向来有着把其他形体视为有情生物的冲动,只是技术让这个过程更便捷了。我们讨论AI“造人”的故事,最终还是会回到一些本质性的问题,当我们重新创造一个人,我们是在为谁而造?当人拥有了造物的权力,如何不滥用这种权力?人有没有办法拒绝被复生?当一个复生人“走出”丧亲者的家门,被公开,新的伦理问题又该如何界定?

【本期主创】


【Shownotes】

01:32 包小柏失去女儿的痛苦,想要通过一种技术手段弥合

05:08 人工智能天生被赋予浪漫色彩,你以为的“出现意识”可以能只是机器故障

07:22 复刻一个人包含六大侧面:性格、观点、生物学特征、创造力、掌握的知识、可完成的任务

11:42 AI复生中,家属最重要的工作是判断“像不像”

15:31 如今用AI“复生”一个人,最短只需几分钟

19:10 与其说是AI“复生”,更多的是一种哀伤疗愈

23:00 技术人员如何把握所使用的逝者的隐私数据边界

27:50 《黑镜》一集灵感源于微软,同年微软将这项技术雪藏

38:17 全国首例AI声音侵权案,人类胜诉了

41:00 “复活”包小柏的女儿,只使用了父母的“回忆”

53:50 当“复活”一个人没有门槛后,世界会变成怎样?

58:49 AI恋人可以有脾气,但不能让人类绝望

71:27 人总是想要跟世界上可以被视为有情生物的任何形体发生情感纽带

【本期播客片单】

【本期制作】

展开Show Notes
en_pc3N
en_pc3N
2024.5.22
1:12:26 人类好寂寞啊~努力跟一切有机体,无机物,AI,代码,穷尽所能发生和创造链接…人类也好傲慢,觉得动物和AI可爱的瞬间,都是因为它们那一刻“像人”。
戒烟的郭梦祥:好贪婪
狲狲
狲狲
2024.5.24
这嘉宾可见对ai伦理一点思考都没有,真的浪费了许多主播们辛苦准备的问题。满口答案什么都是政治正确,其实是懒得思考找了个在保守主义社会能接受的万能答案。我原来对ai发展抱有乐观的态度,如果国内人工智能都是这种人在搞我也不得不悲观… 希望主播能再找其他的嘉宾聊一期,开开脑洞~
你找我有事:恰恰相反,这位嘉宾的想法都很落地,并且也是在基于人工智能目前就像潘多拉魔盒一样未知的情况下,谨小慎微的开展话题
丹波黑豆茶:但社会本身就是保守的,美国禁止堕胎都符合宪法,凭什么要求ai开发就能冲破伦理道德法律?
5条回复
嘉宾自己对政治正确是什么没有思考很清楚还难掩对政治正确的不认同,偏好本身就是受政治文化影响的,所谓的政治正确本身就在约束过去肆无忌惮的偏见和歧视,在政治远远没有达到“正确”的时候谈政治正确的过度只是既得利益者对新气候的不适应罢了。主持人问的就是如果在一个没有所谓政治正确约束的领域随意选择“偏好”是否会加剧偏见和不伦理,同时也会影响到现实世界,但嘉宾好像不怎么理解
感觉这个不是政治正确吧 这里主要是主体的意愿被忽略了 你把女儿改成男孩 女儿会同意吗?同理改肤色、改龅牙,经过主体的同意吗?
取悦的鼻梁:51:02
扁宇宙:女儿都不在了,还能算是“主体”吗?意识没有了,怎么表达“同意”?
5条回复
好精彩的一期
嘉宾就好像AI啊哈哈哈几乎没有声调的起伏,发言也非常有逻辑,“你提的这个问题非常好”我吃着吃着饭以为老板在开会,发言内容非常精彩,很多问题不是AI导致的,研发人员也是辩护人
马查罗
马查罗
2024.5.22
17:02 复制一个人很容易的话,接受失去才是最难的,情感陪伴方面肯定是需要的,目前来说,我还是想选择难的路,接受失去,作为哀伤疗愈的一个方法是挺好的
马查罗:后面也讲,就是AI也可能数据丢失等等,很多事情就是有可能变化的,那么人还是要学会接受失去
1:09:00 笑死我了“是吗?这就叫谈恋爱啦?”哈哈哈哈哈哈哈哈哈
互联网技术现在已经臻至科幻了,猪插上脑机接口,AI模仿人类低语甚至提供情感支撑,只有人类在信息浪潮的漩涡里一直孤单。
YoursMrSteve
YoursMrSteve
2024.5.23
21:49 我们的伦理已经赶不上我们的科技的进步了
桦语笙歌
桦语笙歌
2024.5.28
感觉这个嘉宾真的丝毫没有一点点对生命的敬畏和对科学伦理的思考啊……
樂lalala
樂lalala
2024.5.22
主持人问的也是我想问的 是不是商业目的 很难界定 而且这个趋势势不可挡 光靠好的intention并不能阻止这个事变味很难避免在不远的将来不受控
流浪地球2啊
adu_th07
adu_th07
2024.5.22
我在想没有影像的年代,对亲人朋友的去世会难过,但时间是最大的治愈力量,现在的人能看到听到那么多遗留影像、声音,再做出AI,真的是好事吗?
neverness:遗留的数码影像不能互动,AI影像可以,但归根结底,失去了就是失去了,AI影像变成一种麻醉
adu_th07:能麻醉也挺好,我个人是感觉会更痛苦,每次和AI交流都会唤起之前的种种。可能我是一个习惯逃避的人,宁愿忘记。
何月_
何月_
2024.7.05
已经一个多月没有更新了,等待。。。
晓照
晓照
2024.7.01
怎么不更了呢
嘉宾一直答非所问
Aaron_
Aaron_
2024.5.27
42:13 其实这里雕塑和Ai人还是不具备可比性,雕塑毕竟是死物,在没有商业化时其存在并不会对环境世界产品影响。但Ai人无论互动性,外延性都有潜在影响。
林清彦
林清彦
2024.5.26
主持人,能不能追问下嘉宾为什么起名叫小冰呢?这名字有点冷,也比较普通,有没有备选更好的名字呢?备选的名字可以透露吗?
月圆_
月圆_
2024.5.24
喜欢这期!!有新思考