哲思16-理解并非模型：与「诗梳风」重轻商榷丨AI与人类心灵

智识分子 Man of Letters

60分钟 ·3个月前

834

这是#哲思计划的专题——「AI与人类心灵」的第4讲。

[Intro]

「元老群」的同好转来播客诗梳风的一期节目，叫“何为理解”，内容是主播重轻对知名AI科学家辛顿一场演讲的评述。

同好说，这期节目动摇了他之前对AI的一些看法，至少他不知道如何为自己之前的立场辩护了。

这期节目的核心观点是啥呢？就是说，人类的所谓理解即是一种特定的模型，人的理解和目前AI的理解如果不是说完全一致的话，也是非常近似的。

我个人是很难赞成辛顿的大多数想法，重轻这期节目最后他表示赞同的那3点我也统统有异议。我觉得还是很有必要单独出一期说大白话的节目，向「智识分子」的这位同好，也向关心AI社会影响的诸位澄清一个问题：

人类的“理解”是不是一种模型？

如果不是，那到底什么才是人类的“理解”，我们能不能把它说清楚？

[时间轴]

00:01 1、问题意识

02:51 2、人类理解不只是对语言的理解

26:06 3、人类的语言理解也不是任何模型（AI已经开始勒索人类员工了吗？）

53:20 4、AI可能威胁人类文明吗？

[参考资料]

诗梳风，EP23 何为理解 · Thoughts

杰弗里·辛顿，英国皇家学会演讲实录

杰弗里·辛顿，IASEAI上的演讲

联合国，警惕人工智能“灾难性危害”

维特根斯坦，《哲学研究》第1节，陈嘉映译

[素材来源]

封面图：图源网络

片头曲：《2011太空漫游》主题曲

[相关节目]

哲思4-心灵去哪里了？兼谈AI之父辛顿的错误丨AI与人类心灵

哲思8-AI时代，如何保卫人类心灵？先从理解“人之认识”开始丨AI与人类心灵

哲思11-AI不能“理解”：人工智能之父辛顿和维特根斯坦之争丨AI与人类心灵

[更多内容]

在各大平台追踪「智识分子 Man of Letters」的更新——

社群：微信添加 lingjuefei1992 入「元老群」

文章：公众号 substack

播客：小宇宙网易云音乐苹果播客喜马拉雅豆瓣

视频：油管 B站

智识是一种光照，让这个不太妙的世界多点光！

展开Show Notes

觉非Mol

2026.7.15

置顶

「智识分子」有个“元老群”，我猜你也可能需要这些群服务——

1.参与定期直播讨论，闭门造车不如公共地说理

2.完整版课件、图表资料和文字稿分享

3.多数时候沉默偶尔爆发的有群规的群，潜水无压力

可添加 lingjuefei1992 加入我们

晓天91

2026.8.19

这说的都是啥啊。说了半天还是没明白那几个例子里ai为什么没有理解。

觉非Mol

:比如其中一个例子，AI如何理解一个视死如归的将军的眼神？这是人类理解中一种重要的“理解”

晓天91:我觉得只要提供足够的信息，ai是可以理解的。相反如果没有提供足够的信息，人也是不能理解的。比如亚马逊雨林里面的原始人，如果你不给他关于民族主义，军事荣誉相关的信息，他也是不能判断的。如果你把这些信息给到ai,ai也是可以”understand“

共15条回复

RumW

6天前

听完感觉主播完全不懂ai啊……

觉非Mol

:具体说说我哪里不懂，让我也进步进步

RumW:什么是模型，心智是不是模型，这部分理解停留在非常表面。再深入比如context，attention，embedding ，以及为什么next token可以让ai理解语义，这些全内容没有，只有“子非鱼”式的虚空打靶。

共4条回复

RumW

6天前

这种完全不可定义的范畴下去讨论意义不大

觉非Mol

:不是什么概念都需要一个“定义”，通过对“理解”概念的考察，考察我们日常是如何使用它的，从而增加对这一概念的理解，看看有科学主义倾向的人们如何误用了“理解”概念，这是这期的工作目标

RumW:要说a不能xx，只是不断重复xx很复杂，却从不定义xx，也不试图理解a，不是虚空打靶么…同样的逻辑，我也可以说你不能理解，因为你没上过战场，没有士兵的感同身受（具身），极致推演下，就是没有任何人可以理解任何人，所以人类不能理解…囧

共3条回复

Tushin

7天前

听了一部分，实在听不下去了
①你如果是文科生希望你把语言精炼一下，如果你要谈研究ai相关的问题那至少先去学一下理工科的东西，你的表达的对重要信息的传输效率太低了。
②你的内容是举几个例子然后大量展开补充细节和概念，目的是感性地给人增加你理解的“理解”的复杂程度，然后在最重要的要论证“为什么ai不能做到的这个最重要”的地方，你是“因为复杂所以就直接光秃秃说ai做不到”，我没听出来逻辑。比如你要证明为什么ai不能理解士兵对死亡的情绪，你通过讲“士兵对死亡的情绪怎么这么复杂，所以ai当然理解不了”的车轱辘话，你不明白自己完全没有在论证这个观点吗？
③重轻的节目本来就提出了多段的对“到底要做到什么程度理解才是理解”的疑问，本身在讨论的东西是“掉多少头发算秃”这种本质问题了。

觉非Mol

:1.你可能没读过什么语言哲学的东西，一上来不适应也正常，围绕一个概念不停盘桓，在特别细微处精心分辨，这是概念考察的工作。另外，要我说，智识就是反效率的，真知灼见必然低效。当然这期的结构等等我也不满意，或许可以更好照顾听者的感受，即便这期其实已经把门槛降很低了 2. 我当然不是说人的情绪复杂所以ai当然理解不了，或许你是听漏了，音频后面我提到，ai理解不了死亡、荣誉、责任等，归根结底是因为ai既无生命又无生活，比如就死亡而言，只有有限生命体比如人类才能理解何为死亡，不死的神明理解不了一个有死之人对死亡的恐惧，大语言模型也一样，LLM对死亡无感，哪怕它能把死亡概念说得头头是道，这就像一个10岁小孩和你大谈生死观，隔了不知道多少层了。或许这样说，你能get到我是在什么意义上谈“理解死亡”的 3.重轻这个说法是在讽刺那些不赞同把理解看作一种模型，把LLM的工作机制看作近似于人类理解的观点，但我觉得他是根本上误解了理解概念，所以不是LLM要做到什么程度才算理解，而是LLM压根和人类理解就是两码事，做再多，也不可能达成我们所说的“理解”。

mira001

2026.8.26

重轻在哪里评论的呀

觉非Mol

:shownote末尾有链接

王浩东

2026.7.16

作为对面技术如何为人类进行辩护问题的回答是 : 这不是个真问题，不需要形而上学的最终保证说人类面对llm保留了一部分或者全部的尊严。因为就人类社会，总是面对着具体的问题，例如就业替代，网络安全，人类心理健康，虚假信息导览等，但是这总归是人类自身的问题。llm离实际触达人类心灵还差的十万八千里。

觉非Mol

:是的，AI确实可能改变人性，但不是在辛顿和重轻说的那个意义上，改造社会从而改造人性，才是值得忧虑的更真实的问题。

王浩东

2026.7.16

重要的混淆-人类使用“理解”这个词有多重情境，理解语言只是其中一种，很多重要的理解基于一个个具体的场景，不可以把理解语言和理解事物混为一谈。例子:将领在现场上带领战士冲锋、理解爸爸强迫孩子学习钢琴演奏
前理解-基于基本的生活形式和状态作为基础，总得有坚实的地面，万丈高楼不能平地起。例子:如何理解吩咐孩子去店里买10个红苹果。
具身性理解-LLM永远不可能达到的某种未来幻想用游泳和默会知识做例子。
人类的理解带着情绪和感受，在世界中存在。天上没有阿喀琉斯。llm是一个模拟，有输入输出和目标，这和人类生存的样式是天差地别的。即是存在物和存在者区别。
引用一个ai恐惧被替换的例子说明此恐惧非彼恐惧。
引述人工智能独立科技小组的报告中7条对于人类社会的警告，这才是要面对的真问题。
——以上由人类总结，运用了基于前理解和具身性的深度学习。

觉非Mol

:哈哈😃

教书匠蕾

2026.7.16

听起来llm像一个超高智商的高功能自闭症，不懂语气表情氛围😅

觉非Mol

:因为智商这个词跟输入输出等一样有点把人模式化或者机制化的倾向，测出来智商一般的人未必就没有大智慧，所以智商在这个意义上是适合LLM的

在小宇宙打开