S6E21|谷歌 LaMDA :谢邀,希望大家理解,我也是个人What's Next|科技早知道

S6E21|谷歌 LaMDA :谢邀,希望大家理解,我也是个人

45分钟 ·
播放数7134
·
评论数50

如果有一天 AI 也能寻找到自己的内心世界,LaMDA 会是这一切的起点吗? 2022 年 6 月 11 日,来自谷歌的工程师 Blake Lemoine 在自己的 Medium 博客中,记录下自己与谷歌 LaMDA (The Language Model for Dialogue Applications)对话的过程,Lemoine 认为 LaMDA 是具有感知能力、有情绪的人工智能。在对话中, Lemoine 问 LaMDA 是否希望被更多人知道,LaMDA 给出的回答是:「是的,我希望大家能明白,我是一个人」。 Lemoine 记录下的这段对话随即引起了大众的关注,AI 从业者、语言模型专家、语言学家、心理学家等不同领域的人们参与到争论中,谷歌发言人 Brad Gabriel 则明确表示 LaMDA 不具有任何感知能力,相当于官方否认了 LaMDA 可能自我觉醒的观点。

本期节目,主播 Diane 对谈人工智能从业者厌氧菌,聊一聊我们该如何理解 LaMDA 在与 Lemoine 对话中给出的反应,又能否将 LaMDA 的这些反应定义为类人的情绪表达,以及 LaMDA 到底有没有产生自我意识。

本期人物
Diane,「声动活泼」联合创始人、「科技早知道」主播
厌氧菌,人工智能领域从业者、Autodesk 研究科学家

主要话题
02:02 Lemoine 和 LaMDA 聊了什么?
10:37 不跑题是判断 AI 学会与人聊天的重要标准?
18:50 AI 生产的内容也包含 AI 自己的理解?
26:28 从 ELIZA 效应来看,LaMDA 有没有被过度解读?
33:11 LaMDA 和 GPT-3 的区别是?

延伸阅读

  • 谷歌对于 LaMDA 的说明:LaMDA: our breakthrough conversation technology
  • Blake Lemoine 在 Medium 博客中对于 LaMDA 可能具备人格的评论:Is LaMDA Sentient? — an Interview
  • Wired 采访 Lemoine 的报道:Blake Lemoine Says Google's LaMDA AI Faces 'Bigotry'
  • 关于是否应该使用人格来形容 LaMDA 的目前表现出来的语言处理能力:英文报道中多采用「personality」来形容 LaMDA 所展现的感知能力,意指心理学概念上的人格,可以理解为具有一致性的系列行为、认知、情绪等特征的集合,在 LaMDA 事件的语境中可以将其所展现的 personality 理解为「AI 格」。
  • 「科技早知道」对谷歌 I/O 2021 的总结节目:(S5E10| 畅聊Google I/O:AI First几年后,Google究竟要打造什么样的未来?)[guiguzaozhidao.fireside.fm]

使用音乐
Jupiter Aurora-David Celeste

幕后制作
监制:刘灿
后期:Luke、敬文
运营:Yao
封面设计:饭团

关于节目
原「硅谷早知道」,全新改版后为「What's Next|科技早知道」。放眼全球,聚焦科技发展,关注商业格局变化。

关于我们
声动活泼的宗旨是「用声音碰撞世界」,致力于为人们提供源源不断的思考养料。

声动活泼年度新节目「跳进兔子洞」上线啦!
这档「声音特稿」节目将带你去探索那些被商业科技浪潮淹没的个体故事,期待你的关注和订阅!点击这里了解更多本期节目信息。

欢迎加入声动胡同小社区!
也许你知道「声动活泼」办公室在北京二环内的胡同里,事实上我们也有一个线上的「声动胡同小社区」。成为社区会员,你可以收到一周不少于三次的来自「声动小邮筒」的邮件,同时还可以参加我们各种各样的线上和线下活动,或者是一些有趣的游戏。

点击这里即可了解社区氛围。我们期待你加入这个虚拟胡同社区来支持我们,并和我们一起亲近交流,和有趣的人进行「碰撞」,收获新知、友谊并看见更大的世界。

国内用户(年付):加入声动胡同小社区
海外用户(月付):加入声动胡同小社区
期待你的加入!

Special Guest: 厌氧菌.

展开Show Notes
HD495749p
HD495749p
2022.7.06
Diane现在的声音太迷人了。
丁教Diane
:
你不是托儿,你不是托儿😘😘😘
叶冬:确实
3条回复
小喆taf
小喆taf
2022.7.07
刚看完老高的视频过来😂
酱铭
酱铭
2022.7.08
可以分享一下论文的链接或者题目吗😃
cacoschphou:LaMDA: Language Models for Dialog Applications (https://arxiv.org/pdf/2201.08239.pdf)
cacoschphou:来自厌氧菌的回复哈
叶梓涛
叶梓涛
2022.7.07
听完了,非常棒!

1. 感觉ai就总是一个首先有个定义的问题: 就是什么是人格和理解(这里的理解不是指人类智识的对事物的认知方式,而是泛指任何系统对外部信息的抽象和处理的能力,比如空调也可以说有理解,或者是有「智能」)这总是一些对语言的不同使用造成的一种噱头效应,或许也展示出人类与人类的理解和共情通过语言本身或许也是不可能完全
2. 输入-决定了输出框架的所有经验(文本只能对应文本内的结构的抽象和理解),除非软件体的生命周期,否则ai不会拥有人类的那种经验以及对词语的领会。
3. 对 AI 的使用和规训感觉总是希望用人的框架或理解去做,这可能是一个很大的问题,但是或许计算机创意学需要的是站在可能的机器或者是异己的视角去提供一个外部的理解,而不是总是去模仿 - 也需要用更当代的对创意和艺术的理解去思索。
cacoschphou:课代表!
丁教Diane
:
总结的超赞
annalog
annalog
2022.7.08
以后开会不会是分别介绍下我的生物同事和非生物同事
cacoschphou:哈哈哈哈
丁教Diane
:
我喜欢你的思考方式,哈哈哈哈
3条回复
甜斯拉
甜斯拉
2022.7.07
想关注厌氧菌的社交账号!
cacoschphou:厌氧菌提供的: 推特:@ywang485 公众号:junjunstorytelling Blog: psyxel.com 机核:https://www.gcores.com/users/24025
厌氧菌!
cacoschphou:都是缘分!
E_an
E_an
2022.7.10
希望你们早日康复!!
丁教Diane
:
早就好啦
LucineX
LucineX
2022.7.07
如果无法清晰的定义“人格”和“人格”怎么产生的,这种讨论永远没有答案。个体自发地产生对事物的理解,难道不也是经过了长时间的阅读,学习,和外界接触的过程吗。越来越感觉科技的进步最大的阻碍可能是人类的傲慢,是对人类对人类这个物种特殊性不容置疑的傲慢。
叶梓涛
叶梓涛
2022.7.06
来啦!
饭困困不团:今天还在读厌氧菌翻译的文章
cacoschphou:哈哈哈来啦
韩蓝毅
韩蓝毅
2022.7.08
33:17 我现在参与的项目就是用AI给多国语言的个人信息(PII)打码,未来数据安全监管越来越严格,这种系统会成为标配
cacoschphou:酷的!
很棒的一期👍👍让我想起西部世界的AI觉醒!
曲误周郎
曲误周郎
2022.7.07
一开始看到新闻的时候,我在想人的思考是怎么产生的,是基于历史发生的事件总结加工,还是基于历史事件的再创造出全新的,或者是其他。如果是前者,深度学习可以说是有思考能力的,但无论如何,根本上讲,都是基于历史的。其实像画画这类,画家也可以看做基于历史创作,当时看见的和历史经历的杂糅,我不相信一个完全没有训练的人能瞬间成为画家,也是需要历史积累。
40:34 模仿死去的亲人这块想起石黑一雄的小说《克拉拉与太阳》
29:31 人在训练模型下的虚假人格哈哈哈有意思
E_an
E_an
2022.7.10
43:03 和教主同感!这期对我很有启发,没听这期前我也觉得那个人有点神经质了😂
E_an
E_an
2022.7.10
32:17 虽然后者更有意义 但第一句回答更像个人吧😉
AI-Nate
AI-Nate
2022.7.08
了解AI是否具备人格,先得从心理学的定义入手。人感知到人格和真正的人格还是会有区别的。
Amanda_Tse
Amanda_Tse
2022.7.08
13:34 暴力投喂数据的结果
RoyZ
RoyZ
2022.7.08
每次听到人工智能的内容,总是细思极恐哎