EP 32. 【生成式AI专题4】对话微软大模型专家:GPT 能否带领我们通向AGI(通用人工智能)?

EP 32. 【生成式AI专题4】对话微软大模型专家:GPT 能否带领我们通向AGI(通用人工智能)?

143分钟 ·
播放数11432
·
评论数34

今天又是一期关于AI的硬核讨论!这次依旧是 AI 领域的核心话题之一:GPT 是否能带领我们通向 AGI (Artificial General Intelligence, 通用人工智能)?如何评估和理解 AI 的能力?大模型范式下,我们如何定义智能?这些问题,至今没有标准的答案。大模型加上 HuggingGPT, AutoGPT 一系列 generative agents(生成式代理) 之后,给各个行业甚至整个社会带来什么改变?我们这期的嘉宾,来自中美学术界与产业界,绝对难得的一线视角。

Hello World, who is OnBoard!?

这是 OnBoard! 与科技早知道又一期合作节目,我和大家都非常喜欢的硅谷徐老师,与来自微软研究院两篇刷屏论文的作者,以及中国AI独角兽研发总监一起,深度探讨最值得你关心的几个AI领域核心命题。相信你听完这一期,会对人工智能的能与不能,希望与挑战,有不一样的认识。

长达3小时的谈话,即使知道短一些的版本会更容易传播,但是Monica 还让大家听到更多原汁原味的讨论,所以尽量保留了更多内容。

相信这些干货,值得你的时间。Enjoy!

对了,播客可以打赏你知道嘛~!☕☕☕🥂

嘉宾介绍

  • 硅谷徐老师,硅谷连续创业者、人工智能高管、斯坦福商学院客座讲师,「科技早知道」主播 |推特:@h0wie_xu| 微信公众号:硅谷云| AI博客:howiexu.substack.com
  • 谭旭,微软亚洲研究院 高级研究员,主要研究方向为生成式人工智能及其在语言/语音/音乐生成中的应用,MSRA researcher, HuggingGPT》作者之一
  • 张弋,微软亚洲研究院 高级研究员,主要研究方向为通用人工智能的物理、数学,Microsoft researcher,Sparks of AGI》 论文作者之一
  • 红博士,某 AI 公司研发总监,研究方向:计算机视觉、数据压缩、通用人工智能。公众号:红博士说
  • 主持:Monica:美元VC投资人,前 AWS 硅谷团队+AI创业公司打工人,公众号:M小姐研习录 (ID: MissMStudy) 主理人 | 即刻:莫妮卡同学

我们都聊了什么

01:41 嘉宾自我介绍,最近关注的AI研究(及Monica的隐藏小Update!)

07:48 第一视角解读微软刷屏论文:Sparks of Artificial General Intelligence: Early experiments with GPT-4

13:25 GPT4 是 AGI 吗?

18:42 对于这篇AGI论文常见的误解:为什么这是比公开 GPT4更强的模型?

21:48 为什么GPT4 没有视觉训练数据,却能够理解图片?

26:46 GPT4 达到高中生水平了吗?为什么能比 ChatGPT 提高这么多?

31:26 大模型的 Hallucination(幻觉)要如何解决?业界有哪些尝试?

44:59 大模型要实现AGI,还有哪些挑战?为什么“思考太快了”是一种局限?

56:57 火爆全网的 HuggingGPT: 研究背景、运作机制、与 AutoGPT 和 ChatGPT Plugin 的异同?

65:30 我们需要不同领域的 foundation model (基础模型)吗?

72:27 HuggingGPT 和 AutoGPT 技术成熟了吗?为什么需要专家生态?

78:05 为什么说 ChatGPT Plugin 的本质是 OpenAI 在收集数据?

85:21 中国的大模型公司如何追赶 OpenAI?

90:05 大模型能处理的 Context Length (背景信息长度)是能力瓶颈吗?要如何突破?

96:11 如何理解 context length 对于大模型能力的重要性?需要对模型架构本身做改变吗?

103:53 为什么说AI创新要赢得市场,生态可能比技术更重要?

106:04 AI技术应用落地的现状如何?有什么机会和挑战?

113:34 AI创业公司应该优先服务500强大客户吗?

118:56 企业会如何使用AI:调用 API 还是本地部署?有哪些决定因素?

122:21 AI 应用创业有哪些方向?为什么说要关注 mission impossible (不可能的任务)?

130:15  嘉宾眼里,AI 最让人兴奋的未来是什么?

免责:节目中的观点都是嘉宾和主持人个人观点,不代表所在机构观点,亦不构成任何投资建议。

参考文章

欢迎关注M小姐的微信公众号,了解更多中美软件、AI与创业投资的干货内容!

M小姐研习录 (ID: MissMStudy)

大家的点赞、评论、转发是对我们最好的鼓励!

如果你能在小宇宙上点个赞,Apple Podcasts 上给个五星好评,就能让更多的朋友看到我们努力制作的内容,打赏请我们喝杯咖啡,就给你比心!

有任何心得和建议,也欢迎在评论区跟我们互动~

展开Show Notes
milanow
milanow
2023.5.22
Howie的提问都好棒啊 还没听完 不过特别喜欢那个autogpt和hugginggpt的区别的提问
莫妮卡同学
:
主打就是一个犀利!
晓风暮笛
晓风暮笛
2023.5.19
前两天听了科技早知道,今天听这期听了三分之一,好像有一些重复的内容,但是中间又有一些不同的内容,是不是不同的地方是穿插着的呀😂感觉需要再完整听一遍温习一下
莫妮卡同学
:
两个版本的确不一样哈,完整版本近3个小时,我这边剪掉的稍微少一些,想要尽量还原现场讨论~
Weber猪头:这一期很多收获。之前在科技早知道听了一遍。打算在onboard再听一遍
3条回复
海恩_Hyan
海恩_Hyan
2023.5.20
10:29 加入安全fine tune→推理能力下降
KevinYaooooo
KevinYaooooo
2023.5.23
这次大佬们的干货非常多
36:10 GPT4+webpilot比newbing好用好多😂
剑南青衣
剑南青衣
2023.5.20
还没有听完,想提一点意见。这期嘉宾都很硬核,谈话都比较干净-我的意思是大家语速都比较慢,也不怎么抢话,听着蛮享受,所以就对一些背景杂音很敏感-敲键盘,按鼠标,鼠标滚轮,希望以后尽量避免
莫妮卡同学
:
我发现还不如直接用zoom录音哈哈,降噪太难了!
妙龄娜
妙龄娜
2023.7.25
1:18:18 互联网的视角:分析前的背景,无论open ai最关心的一定是AGI,不只是ChatGPT的这一个生态或者挣多少钱。
妙龄娜:26:47 Howie观点:gpt 4没有太多的感情因素,已经超过average人类平均数值,api 能做到的是一个consistency 一致性
妙龄娜:32:06 模型很明显的不足:没办法去试错。 模型很容易先把答案吐出来,再假装写很多步骤来justify 。 Howie:试错过程能否靠调用gpt api 来做到,试错放在调用api 之外去做,最终形成一个solution 来实现?
TerenceKwan
TerenceKwan
2023.5.27
都是非常非常有意思的信息和观点,十分感谢分享🙏
MaxWang_vF7U
MaxWang_vF7U
2023.5.26
49:53 其实“数据结构”和“模型模态”是一个问题,就是…如何让AI能自主认识这个世界而不是停留在人类的“叙事”中。否则他仍然和人类一样思考的都是“语言的游戏”。 palantir的那个dynanmic ontology有这个意思…
阿白_Qo4J
阿白_Qo4J
2023.5.23
非常nice的观点分享,好些没有意识到,尤其是组织结构的颠覆这个
Autonomous Agent才是LLM Native应用,其他用LLM改造的工具应用可以成为节点能力
LouisQiu
LouisQiu
2023.5.31
32:08 很明显感觉到主持人的专业性不大行…嘉宾是有insight的,主持人只能提问pre-set的问题,甚至没法深化地问
LouisQiu:建议这种强技术性的题材可以让嘉宾自己更多讨论吧,主持人的角色意义不太大
Godseye
Godseye
2023.5.19
干货满满
HD230125f
HD230125f
2023.5.20
51:45 gpt4 pretrain是纯文本的,图像是后面finetune进去的
unimiao
unimiao
2024.2.08
1:59:15 说得很好,很多业务流程并不需要intelligence, 强行用大模型加持或重构是伪需求
八月玄鸟
八月玄鸟
2023.8.07
1:09:57 这里的背景音,我以为我打开别的什么app
天涯散人
天涯散人
2023.7.09
真的不可思议,为什么七八个月了还一点没有改进?
天涯散人
天涯散人
2023.7.09
31:20 话说回来,不管是gp t3.5gp T4这两个方面实在是太差了。可以说比中国一般老百姓还差。高中生还差不信你们可以自己去测试。但这个其实是训练者没有重视,并且没有采取很好的改进。一个就是让他说中国古代有什么描写杭州的好的诗词?再就是关于样板戏的有关知识,比如《红灯记》之类的。
天涯散人
天涯散人
2023.7.09
这一集也非常好。尽管实在是太长了也要听完。昨晚刚看了伊利亚的那篇综述ai.agent发展的文章。
周声
周声
2023.6.28
1:20:26 chatgpt plugin 在收集用户的数据,是什么问题用什么 plugin 来解决的关系数据👍