EP006. AI 时代的技术退步:当一切变得丝滑,我们会失去什么?|串台《跨域请求》金酒半杯

EP006. AI 时代的技术退步:当一切变得丝滑,我们会失去什么?|串台《跨域请求》

90分钟 ·
播放数14
·
评论数1

某个周五早上,公司的 AI 编程工具突然集体罢工。人们写代码磕磕绊绊,有人干脆放弃,最后大家挤进茶水间,仿佛一群突然被要求钻木取火的现代人。

可 Coding Agent 真正让人不安的,也许不只是我们越来越不会「古法编程」,而是它创造系统的速度,已经超过了我们理解系统的速度。每次修改都似乎合理,几个月以后,却连自己也说不清整个项目是怎么工作的。

于是我们从技术退步聊到 AI 时代的教育。五岁的孩子遇到问题已经会说「你们去问 ChatGPT」,但当 AI 把学习中的卡点一个个抹平,那些反复试错、突然想通的 Aha moment,会不会也一起消失?我们聊了「有益的困难」、《沉星之序》的谜题、反向传播背后的知识骨架,以及为什么未来的老师可能更像一位策展人。

这次也和《跨域请求》的 CL 一起,从爱因斯坦的电梯思想实验聊到 AI 能否提出真正新颖的假说;从 AI Scientist 陷入的「吸引子」,聊到神经网络曾经不被看好的几十年、登月工程中逐渐消散的隐性知识。最后又回到了人:当 AI 不仅能替我们完成工作,还可能做得更好,那些从一门手艺、一种专业能力中建立起来的意义感,该安放在哪里?

技术越来越强,我们对技术的理解却未必同步增长。或许值得留下的问题是:当答案变得唾手可得,我们究竟还想保留哪些亲自摸索的过程?

本期提到的关键词

Claude Code、Agentic Coding、Vibe Coding、Desirable Difficulties、Aha moment、《沉星之序》、Jonathan Blow、Backpropagation、3Blue1Brown、策展、Abduction、LLMs can't jump、AI Scientist、Attractor、范式转换、Tacit Knowledge、F-1 发动机、Bit Flip

相关播客:

与《跨域请求》的串台对应节目:www.xiaoyuzhoufm.com

《跨域请求》其他精彩播客(本期提到的):

20.☢️AI时代的奥本海默困境:明知可能毁灭人类,为何还要继续

www.xiaoyuzhoufm.com

19.💻行走的Google技术史Jeff Dean:传奇程序员的告别与远征

www.xiaoyuzhoufm.com

《朗姆酒瓶》EP12.寻找张伟:关于卷积神经网络一段不为人知的往事

www.xiaoyuzhoufm.com 

《金酒半杯》EP004. AI末日论|各执己杯

www.xiaoyuzhoufm.com

《金酒半杯》EP002.《沉星之序》与 Jonathan Blow:游戏、知识与正在熄灭的星

www.xiaoyuzhoufm.com



时间轴

- 00:07 串台缘起:Jonathan Blow、《沉星之序》,以及技术会不会退步

- 01:43 没有 Claude Code 的早晨:AI 停摆之后,我们还会写代码吗?

- 05:04 Agentic Coding 的叠床架屋:产出速度超过理解速度

- 10:34 从前 AI 时代走来的人,和直接进入 AI 时代的年轻人

- 14:40 AI 原生一代:五岁的孩子已经会说「你们去问 ChatGPT」

- 16:19 学习太丝滑了:卡点、Aha moment 与「有益的困难」

- 20:30 困难不等于痛苦:AI 能否设计个性化的学习难度梯度?

- 24:38 吹哥的《沉星之序》:谜题如何让人自己发现规则

- 29:23 从知识清单到知识骨架:反向传播、链式法则和游戏化学习

- 33:14 3Blue1Brown 的启发:教育者为什么要成为策展人

- 42:48 学生可以用 AI 完成项目,但如何证明自己真正理解了?

- 46:44 《LLMs can't jump》:归纳、演绎与提出新假说的溯因

- 49:22 爱因斯坦的「一生中最快乐的想法」:自由落体、电梯与光线弯曲

- 1:01:56 AI Scientist 的「吸引子」:局部优化与范式突破

- 1:05:25 神经网络曾经也是旁门左道:谁决定科技树往哪里生长?

- 1:14:14 登月技术为什么会失传?F-1 发动机与隐性知识

- 1:18:12 Agent 绕过了 Bug,也可能掩盖了系统底层的脆弱性

- 1:23:58 当 AI 比自己做得更好:工作、专业身份与人的意义感

主要参考与延伸阅读

  • AI 编程与技术依赖:《Codex 挂了》(微信公众号):mp.weixin.qq.com;

  • 学习与教育:MIT,《AI and Education Report》:aiandeducation.mit.edu;

  • Andrew Ng 关于 AI 与学习的讨论(小红书):www.xiaohongshu.com ;

  • Desirable Difficulties;Grant Sanderson / 3Blue1Brown : www.3blue1brown.com

  • 游戏与知识探索:Jonathan Blow,《沉星之序》(Order of the Sinking Star)、《时空幻境》(Braid):www.youtube.com

  • 机核网关于 Jonathan Blow 创作哲学的节目:www.gcores.com

  • AI 的创造力:Tom Zahavy 等,*Position: LLMs can't jump*(OpenReview):openreview.net ;

  • 神经网络的历史:Marvin Minsky 与 Seymour Papert,*Perceptrons*(1969);CIFAR 关于神经网络研究史的回顾;Geoffrey Hinton 相关讨论(腾讯新闻):news.qq.com

  • 登月、技术失传与隐性知识:《声东击西》#385《半个世纪后,人类重返月球的艰难、野心和新逻辑》(小宇宙):www.xiaoyuzhoufm.com ;

  • 《登月技术,为什么消失了半个多世纪?》(微信公众号“洒家君泽”):mp.weixin.qq.com ;

  • NASA 关于 2013 年 F-1 发动机燃气发生器测试的资料。

  • 个人技艺与意义感:刘胜与,《我不得不把才华埋葬在昨天》:mp.weixin.qq.com

展开Show Notes
rawCL
rawCL
5小时前
来啦~