爬梯登月:GPT4大语言模型会产生智能吗

爬梯登月:GPT4大语言模型会产生智能吗

102分钟 ·
播放数286
·
评论数6

这是爬梯登月的第一期节目,我们讨论了最近大火,而且火得异乎寻常地久的大模型ChatGPT。但是和单独关注AIGC应用侧讨论的节目稍有不同,我们将尝试尽量结合应用场景和原理给出一些自己的思考。

本期讨论的点:

1. 语言模型的发展历史

1. 规则系统和统计系统

2. 早期统计系统:马尔可夫链与循环网络

3. 大杀四方的transformer

2. 我是如何使用ChatGPT的

1. 嘲笑没有意义

2. 更自然的搜索引擎

3. 我身边的人是如何看待大语言模型的:ChatGPT不是你的秘书或者朋友

4. 大语言模型会产生智能吗

1. 特德姜的JPEG隐喻合适吗?

2. 我们有智能吗?

3. GPT不会思考可能是因为模型太大了

录节目时想到的以后可能聊的,记在这里(我真是随意……)

* 工作记忆,Ising model 和attention mechanism

* GPT如何处理A4雕花?

* 如何注入攻击 GPT3.5 turbo 模型

* 作为状态变换的计算

展开Show Notes
我自己总结了一下,Chat-GPT不是一个你认为的会“思考‘的人工智能,它应该不会想杀死你,用Ted Jiang的一个比喻,它是人类知识模糊的JPG,这个系统被导入了很大量的文本素材让系统自我学习和调整,然后你每次问他问题,其实它的回答都是在之前它巨大的数据库里面找到合适的内容给你输出,所以说是个模糊的JPG(图片)。

我这么解释,相当于一个语言组织和输出机器,他读了好多好多信息,还融会贯通了,你问他问题,他就给你他认为概率上最合适的答案,但是他不保证对错,没有感情,也没有价值观,甚至不会思考,当然这取决于你对于思考的定义,比如你把一本书读完之后,写个读书摘要,我觉得不是思考,这是个技术,只是个比较厉害的技术,只有当你深度考虑了这本书对你的意义,甚至于想要反驳它,或者称赞它,或者利用它,我觉得才是思考,从某种程度,思考是主观的。(当然如果你把你自己整体作为一个碳基电脑,那又是另一个问题了)
ptdy
:
很大程度上是这样的。但是魔鬼就在这个概率里。我们无法否认这个匹配的过程中存在人认为的抽象规则/逻辑/思考的涌现。因为很多时候这是解决问题唯一的办法,要想在预测下一个词的任务中做好,梯度下降不得不找到这个解。当然我不是说这就是思考,而是想说,这里面有我们认为是思考的部分。
只无聊的猫:的确是,我在写那段话的时候,心里就在掂量这取决于我们对思考的定义。
耿苏志
耿苏志
2023.3.25
是我听过的GPT4播客中非常专业的解读,尤其是关于大语言细节部分的认知有自己独特见解。同时非常期待你关于后边谈到继续要做那些部分的话题。你是一位具有相当研究深度的专业人员。
1:23:30 非常清晰
HD832488n
HD832488n
2023.3.26
谢谢。