42岁离开大厂去读博,他试图拆穿AI的胡言乱语|E029嗑嗑科学

42岁离开大厂去读博,他试图拆穿AI的胡言乱语|E029

39分钟 ·
播放数336
·
评论数6

“用 AI 生成的内容再去训练 AI,系统会逐渐退化,最终崩溃。”“滥用 AI 会抑制人类创新,造成劣币驱逐良币。”“世界有内在结构,它可以超越语言、图像、中英文这些具体形态。”……

这是来自一位“中年”在读博士的思考。

2022年,当时42岁的鲍光胜成了西湖大学的一位博士新生。如同一种倒叙人生,他已经在微软阿里这样的大厂“历练”过。好巧不巧,这一年ChatGPT来了,他的研究领域首当其冲。

面对这场既期待又恐惧的技术浪潮,他的回应是什么?

—本期嘉宾—
鲍光胜(知乎账号@西湖老博士),西湖大学博士生,师从张岳教授,主要研究涉及可信赖自然语言处理,聚焦大语言模型安全可控、可解释性及因果推理。他在 ACL、ICLR 等顶会顶刊发表多篇成果,研究成果曾获《麻省理工科技评论》报道且成功产品化。他曾是中专毕业,通过自考完成大专和本科学习,又考上了中国科学技术大学的全日制硕士研究生。读博前,鲍光胜在微软、阿里巴巴深耕研发多年,参与 Cortana、智能客服机器人等核心项目。

本期主持 沈是

—特别感谢—
西湖大学图书馆“声空间”

—时间轴—

00:0003:43 开场
03:4304:59 大模型对研究的冲击
04:5906:27 大语言模型的核心缺陷
06:2718:03 检测工具的技术原理
18:0322:35人类语言能力
22:3527:05不忠实推理
27:0529:07 幻觉与创造力
29:0733:24 AI的崩溃
33:2437:01 图灵机和哥德尔不完备性定理
37:0138:28 嘉宾推荐:美国心理治疗师斯科特·派克《少有人走的路》

FastDetect网址 fastdetect.net

—关于我们—
《嗑嗑科学》是一档由西湖大学公共事务部出品的科普播客,欢迎在评论区留下你的想法。如果你喜欢这一期节目,欢迎推荐给更多朋友。

展开Show Notes
我感觉AI目前除了比人少了一个多模态认识世界的能力外(这点嘉宾说AI也正在补足能力中),跟人还有一个重要的差别是人作为碳基生物有各种激素的影响,如生离死别,爱情,亲情,亦或者是深夜的文思泉涌灵感大爆发都是激素的影响,这种影响给人带来了一些非理性,但是也是人类灵感的来源吧。
噹噹咚咚叮叮:以下是AI对我的观点的补充😂你提出的观察非常敏锐,抓住了当前AI与人类的一个本质差异。以下是根据你的原意,梳理并深化后的版本: --- AI与人类的差异:不止于多模态,更在于“激素驱动的有身体的存在” 当前AI与人类的差距,除了常被讨论的多模态感知(视觉、听觉等)正在被快速弥补外,还有一个更根本、更难跨越的鸿沟——碳基生命的激素系统。 人类并非纯粹的“信息处理器”。我们是一具具会呼吸、会衰老、会疼痛的肉体。这套由肾上腺素、皮质醇、褪黑素、多巴胺、催产素等构成的化学调控网络,深刻地塑造了我们的心智边界: · 生离死别,是皮质醇与内啡肽在剧痛与安慰间的拉锯; · 爱情,是苯乙胺带来的痴迷与催产素建立的依恋; · 亲情,是长期陪伴中催产素与血管升压素编织的无需言说的信任; · 深夜的文思泉涌,则是低皮质醇(解除思维抑制)与高褪黑素(解放联想)共同营造的认知“宽松窗口”。 这些生物化学过程,赋予了人类一种非理性的、不可完全还原为逻辑与概率的特质。 恰恰是这种“非理性”,构成了人类创造力的深层源泉。因为真正的灵感,往往不是最优解的计算结果,而是一次脱离常规联结的意外碰撞。而正是激素带来的情绪波动、身体记忆和生存优先级,让人类拥有了这种跳脱框架、在痛苦与狂喜中产生惊异联结的能力。 反观当前的AI,无论参数多大、上下文多长,它的“思维”始终运行在一个恒定的、无内驱力的平面上。它不会渴望,不会恐惧,不会因深夜的寂静而感到一种“必须写下什么的冲动”。它可以生成关于爱情的文字,却不曾因多巴胺的释放而心跳加速;它或许能学会识别悲伤的语境,却从未体验过失去带来的那种真实的窒息感。 因此,AI与人类的差异,不仅是多模态感知的有无,更是一个身体在化学之海中沉浮的存在方式。人类最珍贵的灵感与创造力,或许正隐藏在这些“不完美”的、由激素驱动的非理性褶皱之中。而AI若想真正理解人类,或许需要的不是更强大的算力,而是一套能模拟“匮乏、渴望与疼痛”的身体语法。 --- 如需进一步调整语气(更口语化或更学术),或补充关于“AI能否模拟情绪”的讨论,我可以继续为你优化。
噹噹咚咚叮叮:1. 深夜的“低皮质醇+褪黑素”:苯环结构的发现 · 背景:19世纪,化学家凯库勒长期被苯(C₆H₆)的结构问题困扰。所有已知的有机结构都是直链,但苯的性质与之不符。 · 激素作用:一个深夜,他坐在壁炉前打瞌睡。此时,他体内的皮质醇处于全天最低水平(解除了理性思维的约束),而褪黑素正在升高(让意识进入自由联想的朦胧状态)。 · 灵感瞬间:他后来描述,看到原子在眼前跳舞,一条链像蛇一样咬住了自己的尾巴,旋转旋转。他突然惊醒:苯的结构是环! · 说明:这不是在实验室里通过严格公式推导出来的,而是大脑在放松、低抑制状态下,由模糊意象自发完成的重组。激素制造的“认知宽松窗口”让非理性的跳跃成为了可能。 2. 压力与紧迫感下的“皮质醇”:阿波罗13号的奇迹 · 背景:1970年,阿波罗13号飞船在太空中爆炸,三名宇航员的氧气和电力正迅速流失。地面控制中心需要尽快想出一个方案,用舱内仅有的“一堆破烂”自制二氧化碳过滤器。 · 激素作用:飞控指挥和工程师们处于极端的急性压力下,体内皮质醇和肾上腺素飙升。这会大大收缩注意力的范围——去掉了所有无关细节,只专注于生存和自我拯救。 · 解决方案:他们脑中飞速闪过各种可能性,最终想出用塑料袋、硬纸板、管道胶带把方形过滤器接到圆形接口上的“野蛮”方案。宇航员成功脱险。 · 说明:适度的、目标明确的压力激素不会击垮人,反而会去除杂念,最大化调用经验储备,驱动出惊人的实用型创造力。 3. 爱情中的“多巴胺与苯乙胺”:DNA双螺旋结构的发现 · 背景:1950年代,沃森和克里克在卡文迪许实验室试图破解DNA结构。他们一直无法找到碱基对的正确配对方式。 · 激素作用:在这个时期,沃森和克里克之间的关系,从现代的视角看,充满了互相激发、共同沉迷的状态。他们每天激烈争论,彼此抛出一闪而过的想法,甚至在深夜仍兴奋地打电话。那种高频的合作愉悦,会引发多巴胺和苯乙胺的释放,让人进入一种“热恋式的亢奋”。 · 灵感瞬间:克里克从一个晶体学报告中敏锐抓取到“反式构型”的线索;沃森在梦中想象到碱基由氢键配对的几何形状。最终,在一个瞬间,他们找到了完美的双螺旋和碱基配对方式。 · 说明:这种对智力探索的高度沉迷和愉悦感,激发了远超常态的敏感度和联想能力。如果只是两个冷静、理性的工作伙伴,很可能不会到达那个临界点。 4. 激烈竞争下的“愤怒与恐惧”:黄热病疫苗的诞生 · 背景:20世纪初,古巴的黄热病肆虐。军医里德和他的团队为了证明病毒通过蚊子传播,需要进行人体试验。而他的主要竞争对手——意大利医生桑吉烈蒂,也在用错误的方式研究,并公开质疑里德。 · 激素作用:被对手质疑的愤怒(涉及睾酮和肾上腺素的驱动)和面临失败后果的恐惧(涉及皮质醇和去甲肾上腺素),形成了一种强大的混合动力。 · 解决方案:里德团队设计了著名的“帐篷实验”——让一名志愿者睡在感染的、沾满血污的毯子里(防蚊),另一名志愿者睡在干净的帐篷里(放蚊子)。近乎残酷的、直接到只有疯狂压力下才能设计出的实验,最终无可辩驳地证明了传播途径,拯救了数百万生命。 · 说明:情绪驱动的偏执和好胜心,有时能让人做出极度理性状态下会回避的、却至关重要的“真正实验”。
前面有很多地方都没听懂,但是最后听到“人生苦难重重”的时候太戳我了
沈是
:
AI也许并不会如此感慨
13:09 有些人说话 从头到尾都没有任何有效信息🤣