50 刘嘉:AI全面超越人类大概率是确定的事|清华大课间004人文清华播客:对话清华学者

50 刘嘉:AI全面超越人类大概率是确定的事|清华大课间004

81分钟 ·
播放数45397
·
评论数308



导语(本期导语由ChatGPT生成)

当今世界,人工智能技术日新月异,如何培养与人工智能共存的人才成为了一个备受关注的话题。人工智能不仅在生产和服务领域发挥着越来越大的作用,还在很多传统领域产生了深远的影响。那么,在这个充满机遇和挑战的时代,什么样的人才能够适应并成为人工智能时代的中流砥柱呢?

在这期播客中,我们邀请到了清华大学心理学家刘嘉教授,探讨了他对人工智能的看法以及使用ChatGPT的体验。我们聊到了人工智能近些年来的突破,也谈论了计算机网络和神经网络的尺度变化对于情感和智能的可能性。



刘嘉

麻省理工学院博士,心理学家,长期从事心理学、脑科学与人工智能研究。清华大学基础科学讲席教授、心理学系系主任、清华大学脑与智能实验室首席研究员、北京智源人工智能研究院首席科学家。曾获长江学者、杰青、万人计划等人才称号和教育部自然科学一等奖等奖励。曾任《最强大脑》项目总设计等。


小标题

01:51 脑科学专家的ChatGPT使用体验

07:42 一个连科幻片都不看的人,是如何让AI走进自己生活的?

09:23 ChatGPT是一个(几乎)不花钱的助理

14:37 “靠谱”和“油滑“——一个助理的两个走向

18:00 人脑智能和人工智能的本质区别,脑科学家怎么看?

25:24 从工业革命看现在——“历史不会重复,但可能会押韵”

30:36 AI全面超越人类大概率是确定的事

43:17 只要scale(尺度)足够大,计算机也会拥有情感

50:29 OpenAI为什么无法被大厂模仿?

53:23 什么叫“数据飞轮”?

59:55 当AI像手机摄像头一样走进我们的生活

62:19 有了ChatGPT,“科研混子”将无路可走

64:32 AI大势下的中国教育:知识的填鸭式教学将失去意义

77:19 填空题:“AI虽然在很多方面已经超越人类,但是______”


幕后制作

责编:杨钧杰

剪辑:张丁萱 


关于“人文清华播客

“人文清华”讲坛是清华大学于 2016 年初开启的大型活动,遍邀当代人文大家,阐述他们的经典学说、独特思考和重大发现,致力于构建一个人文思想持续发声的公共空间,推动人文日新、社会进步。《人文清华》播客是我们与大家交流的另一个窗口,会完整呈现我们对清华著名学者的长篇访谈。2022年,本播客特别开设“文科沙龙”专题,将清华大学文科沙龙的优质内容用播客的形式进行传播,丰富听众朋友们的收听体验。

这档播客将每周四在喜马拉雅、小宇宙app、网易云音乐等各大播客平台更新,欢迎关注。


展开Show Notes
OpenAI的CEO Sam说过,社会经济的重大变革将会比绝大多数人认为的更快到来。越来越多人类的工作将被能够思考和学习的软件取代,更多的权力将从劳动力转移到资本上。如果我们的公共政策不做出相应的调整,最终,大多数人会比现在过得还要糟糕。

我们需要设计一种制度拥抱这种技术化的未来,然后对构成未来世界大部分价值的资产(公司和土地)征税,以便公平地分配由此产生的财富。这样做可以使未来社会的分裂性大大降低,并使每个人都能参与收益分配。

未来五年,会思考的计算机程序将可以阅读法律文件,并提供医疗建议;在接下来的十年里,它们将可以从事流水线工作,甚至可能成为人类的同伴;而在之后的几十年里,它们几乎可以做所有的事情,包括探索新的科学发现,扩大我们对”一切”的概念。

这场技术革命势不可挡。当这些智能机器又可以帮助我们制造更智能的机器时,创新的循环往复将加快这场革命的步伐。随之而来的是三个至关重要的后果:

1. 这场革命将创造惊人的财富。一旦有足够强大的人工智能「加入劳动大军」,很多种劳动力的价格(驱动商品和服务的成本)将逐渐归零。
2. 世界将发生翻天覆地的变化,因此我们需要同样颠覆性的政策变化来分配财富,从而使更多的人可以追求自己想要的生活。
3. 如果我们把这两方面的工作做好了,就能将人类的生活水平提高到前所未有的状态。
大苗兄:球姐翻译的比嘉宾说得好👏 掌握最先进技术的人其实有更大的社会责任,去帮助世界往更好的方向发展,而不是拿断章取义式的拿二手信息出来传播并向普通人贩卖焦虑。 中间那段主持人表示有了chatGPT想把员工都开了(不知道这期节目是不是这些没价值的员工帮着剪辑的)以及嘉宾把主持人“跟公司员工相处”定义为“无价值的事”,并告诉学生“不成为像我这样优秀的学者你就只能去送外卖”,流露出二位满满的精英优越感………难以想象这是一个心理学出身的老师在“人文清华”为主题的节目里传播的价值观🫠没感受到哪怕一丁点的人文关怀;对中国的高等教育又一次失望😵😵😵
Nathan-SAHH:人类生产力最终是远低于人工智能的,而人工智能产生的价值应该如何分配才是最终要解决的问题。按照现有分配方式,资本wins all,则会造成失业,社会不稳定;如果,政府介入通过收税回归民众,那么造就很可能是无业社会,会滋长更多游手好闲的思潮。我们可能已经无意打开了一个潘多拉的魔盒。
10条回复
LiLisan
LiLisan
2023.2.26
13:05 这里说的是不是不太准确,硅谷裁员不是因为gtp的应用,而是因为最近全球经济的下行。确实还没有听说现在哪家公司已经在用gpt写代码了。
Nathan-SAHH:12:19 作为身在硅谷的人,裁员确实不是因ChatGPT:首先,裁员潮在ChatGPT出现之前就开始了。其次,没有公司敢用ChatGPT来写代码直接上线,因为错误还是挺多的,系统错一发而动全身,当机一小时都是几百万美金的损失,没有人敢承担这个风险。现在ChatGPT一般都是程序员自己拿来当Stack Overflow在用,查漏补缺辅助编程还是可以的。最后,经济下行和公司对于增长的过度预期是裁员的关键因素。很称赞大家不迷信权威,清楚认知的态度!👍
milanow:岂止是不太准确…可以说是信口开河了我的天…
10条回复
总的来说:未来不需要这么多的人类了。
AtedogTR:很难以接受,但我又觉得未来很可能就是这样的。我作为一个二本大学生看着周围的同学们很难不生出这样的想法,大家的学习能力和和关注的事情都太过于狭隘了
sotondavidl:不会啊,一次二次工业革命人类整体数量和福祉不也是在迅猛增加。不过有一点是对的,在大生产的当时被机械替代的那些人确实是不需要了,新产生的职位也远不足以弥补被淘汰的数量,尖锐的社会矛盾通过各种各样的革命改革以及集中爆发点的世界大战消解,然后新一代人类在战争和革命的废墟和基础上开启新的较好的时代,历史大抵这样。
3条回复
张琳能请到钱颖一老师吗 前两天看到《人工智能将使中国教育的优势荡然无存》 深受警醒。
DePanda
DePanda
2023.2.27
1:03:39 听至此处,个人感觉教授可能缺乏对社会学深入些的涉猎,偏精英化的思维方式,存在片面,有些一厢情愿的认为世界必然是那样发展……只是个人感觉
大家好我是中艺学长:有点同意,我也觉得有点精英化的思考
分享下怎么注册账号吧哈哈
迷失的贵族:可以申请new bing 这个方便多了
Lunaaaaaa:YouTube上有教程,或者直接去闲鱼买号
6条回复
1:12:22 我不认同刘老师的观点,其一,对知识的考察对于中国如此大数量的学生来说不失为一种简便的手段,即考试和对知识的理解的考查任然很重要,如果要考察学生的能力,诸如批判思维,不能简便地制订标准;其二,对于知识的记忆是有必要的,只有记住了才能融会贯通,如果都不知道有这个知识或者前人已经发现了这个知识,检索或运用这个知识的时候反而会浪费大量时间
一叶不识君:目前在澳洲读教育学硕士,所有的科目老师都把ChatGPT对教育的影响作为这学期一个重大的课题。在知道这个科技之时我也是有巨大的危机感,但试用几次发现实在是太好用了,我相信没有学生在用过之后是能忍住不用的。那么对于教育特别是考核方面的压力就更大了。澳洲这边中学的教育已经非常注重critical thinking和学生思维模式的培养,单纯的知识并不占考试的主要部分(理科全部提供公式,语言都能用字典, 文科也强调自我观点表达)。但这样的教育目标是很好的,但也对孩子提出更高的要求。澳洲精英中学的孩子们的确非常优秀。可大部分公校的孩子在基础知识层面都不能达到的情况下,更不会自己去探索更深的思辨能力。AI的发明的确是给所有的人都提出了更高的要求,我们都被卷入一场必定会输的比赛,却只能期待自己不是倒数第一。
和德普一起远航:当时我想到的是如果不认真学基础学科,什么学习都依赖于浅尝辄止的搜索,那如何出现下一个爱因斯坦
5条回复
KellyKaKa
KellyKaKa
2023.2.25
1:03:14 所谓的人工智能并不是最先取代体力劳动者而可能是初级脑力劳动者 那么问题来了 哪个高级脑力劳动者不是从初级做起的?坐等AI统治世界,人类替AI(及其背后的资本家)卖死卖活,就像困在算法里的外卖员
可乐加冰_oE8d:控在算法里的外卖员这比喻精妙,
拉兹鸡
拉兹鸡
2023.2.24
拿ChatGPT比作百科全书,那么随着不断发展,这本里的内容又应该怎么甄别良莠。如果这项技术广泛使用,人类思维会不会慢慢趋同?怎么能保证每个人都自觉进行思辨创新。如果说人的本质是懒惰的,AI超越人之后的会发生什么。目前的AI还没有外化的实体去感知世界。但是人形机器人我认为不是难事。这是否会导致人类的终结。
冰火人的世界:首先,chat gpt根本不是百科全书,他的输出不是固定的,而是基于大量数据推断出来的,尽管有事实性的错误——open ai也正致力于改进这一点。人类思维为何会趋同?建议去官网看了解一下其工作原理以及open ai的愿景和努力方向。有需求就有创新,除非这玩意儿能够解决所有需求——显然不可能。人类特有而ai不会拥有的能力就是想象,没有输入,ai如何凭空创造?为何你假定ai具有自主意识?在可预见的未来,这都没有可实现的途径。除非马斯克征服人脑。建议稍微去官网看看一下,太多无厘头缺乏深入了解的问题。
一只老男人:人形机器人恰恰才是最难的部分
8条回复
狮心
狮心
2023.2.27
看评论区,这期确实是刺痛了很多人。但不说大概率吧,可以把这个教授说的当做未来的一种可能。即便是可能,也已经特别可怕了。不说其他的,单说自动驾驶基本肯定是未来的趋势了。七八年后,目前注册的几十万美团司机基本都会下岗
一层:您真的了解过自动驾驶吗?主流大厂还有在做的吗?七八年就能实现?
狮心:L3级别已经不用七八年了,等三月份的消息你可以关注下
17条回复
唐婷_UK1p
唐婷_UK1p
2023.2.27
这绝对是我听过最扯的一期播客。没有知识性的学习,怎么培养能力呢?我认为顶多是减少知识性的学习,将着力点放在能力培养。
红点黄光:听完去看了来访者,原来是个心理学家,那说出这些话也就不足为怪了
1:14:58 精英的傲慢,精英的自负,精英的展望。
越向书
越向书
2023.2.23
蒸汽机和其他重大科技突破所带来的,绝不仅仅带给人类更多自由和空闲时间这么简单:社会结构(或者说“生产关系”)、大众思潮和战争形态都发生了深刻变化。
尽管“阶级斗争”在某个时期是使用过度的词。但若是缺少了这个视角,关于未来世界的描绘肯定是有缺陷的。
NobodyLi
NobodyLi
2023.2.26
没写过的代码的人,都会这么说,哈哈哈哈哈哈,写过代码才知道,GPT其实只是工具升级而已,替代人类?想太多了
sotondavidl:画师也这么说,很乐观
宝时小宝姐:画师目前被ai冲击了,但是怎么说呢,真正能被替代的还是游戏物品,低级人物立绘这类比较模式化的东西,有具体详细要求的插画ai还无法完成。所以还是那句话,被冲击到的是低级创作。或者像硅谷一样,甲方出于经济目的考虑,ai只是幌子罢了。以后能发展到什么程度确实未可知。
5条回复
orangefly16
orangefly16
2023.2.26
越听越不对劲了,部分观点有点扯。
Nathan-SAHH
Nathan-SAHH
2023.2.26
16:00 ChatGPT归根到底只是一个大型语言模型,在做的也只是根据上下文推测最有可能的下一个单词。3到3.5最大的进步是加入了人类反馈(大家具体可以搜一下RLHF了解具体机制),所以主持人说的问题并不会存在,因为ChatGPT会偏向于输出人类更喜欢的答案。
1:11:14 难以苟同。如果其实我们早就已经实现了“手机端的百科全书”,但是司法考试还是要求闭卷考试,这就是因为工具始终只是工具,人类对自己的要求和定位,永远是工具的使用者而不是被引导者。这也可以说明为什么人类对人工智能有忧虑,因为人类不可能甘心做奴隶,人类永远会想办法去解决问题。
1:12:53 有没有可能 大部分家长也没有所谓批判性思维
Pollyanna
Pollyanna
2023.2.26
给个意见,人声很小
HD897006k:就是再找你这条
ramboss
ramboss
2023.3.04
有很多地方太过信口开河,乃至危言耸听。当请一个“主任”或者“院长”讨论一个不完全懂但懂一点的领域时,需要警惕的危险就是他们太过重视愿景而缺乏对技术细节的理解,从而很容易搞混、搞错一些事实。说白了,这个级别的老师大部分时候都吹牛搞钱,真不如他手底下的小老板和博士生更懂技术。他只是在省略无数细节的情况下为人工智能提供一个极度乐观的预测,然而技术发展史一次又一次向我们证明这种粗略而盲目的乐观终究落空,所以信多少就看听众自己对技术的理解和愿景了