某个周五早上，公司的 AI 编程工具突然集体罢工。人们写代码磕磕绊绊，有人干脆放弃，最后大家挤进茶水间，仿佛一群突然被要求钻木取火的现代人。 可 Coding Agent 真正让人不安的，也许不只是我们越来越不会「古法编程」，而是它创造系统的速度，已经超过了我们理解系统的速度。每次修改都似乎合理，几个月以后，却连自己也说不清整个项目是怎么工作的。 于是我们从技术退步聊到 AI 时代的教育。五岁的孩子遇到问题已经会说「你们去问 ChatGPT」，但当 AI 把学习中的卡点一个个抹平，那些反复试错、突然想通的 Aha moment，会不会也一起消失？我们聊了「有益的困难」、《沉星之序》的谜题、反向传播背后的知识骨架，以及为什么未来的老师可能更像一位策展人。 这次也和《跨域请求》的 CL 一起，从爱因斯坦的电梯思想实验聊到 AI 能否提出真正新颖的假说；从 AI Scientist 陷入的「吸引子」，聊到神经网络曾经不被看好的几十年、登月工程中逐渐消散的隐性知识。最后又回到了人：当 AI 不仅能替我们完成工作，还可能做得更好，那些从一门手艺、一种专业能力中建立起来的意义感，该安放在哪里？ 技术越来越强，我们对技术的理解却未必同步增长。或许值得留下的问题是：当答案变得唾手可得，我们究竟还想保留哪些亲自摸索的过程？ 本期提到的关键词 Claude Code、Agentic Coding、Vibe Coding、Desirable Difficulties、Aha moment、《沉星之序》、Jonathan Blow、Backpropagation、3Blue1Brown、策展、Abduction、LLMs can't jump、AI Scientist、Attractor、范式转换、Tacit Knowledge、F-1 发动机、Bit Flip 相关播客： 与《跨域请求》的串台对应节目：https://www.xiaoyuzhoufm.com/episode/6ae2f5b397726cd467599520 《跨域请求》其他精彩播客（本期提到的）： 20.☢️AI时代的奥本海默困境：明知可能毁灭人类，为何还要继续 https://www.xiaoyuzhoufm.com/episode/6ac9fff8195d838e2aefc153 19.💻行走的Google技术史Jeff Dean：传奇程序员的告别与远征 https://www.xiaoyuzhoufm.com/episode/6a9e915ca0210c197dceeac1?s=eyJ1IjogIjY1YmQ5NDY0ZWRjZTY3MTA0YWRhYjJlZCJ9 《朗姆酒瓶》EP12.寻找张伟：关于卷积神经网络一段不为人知的往事 https://www.xiaoyuzhoufm.com/episode/6a89cfd4ef65145dfcc3ba29?s=eyJ1IjogIjY1YmQ5NDY0ZWRjZTY3MTA0YWRhYjJlZCJ9 《金酒半杯》EP004. AI末日论｜各执己杯 https://www.xiaoyuzhoufm.com/episode/6ab039690916f6f8b4466d93 《金酒半杯》EP002.《沉星之序》与 Jonathan Blow：游戏、知识与正在熄灭的星 https://www.xiaoyuzhoufm.com/episode/6a9e4221a0210c197dceb0be 时间轴 - 00:07 串台缘起：Jonathan Blow、《沉星之序》，以及技术会不会退步 - 01:43 没有 Claude Code 的早晨：AI 停摆之后，我们还会写代码吗？ - 05:04 Agentic Coding 的叠床架屋：产出速度超过理解速度 - 10:34 从前 AI 时代走来的人，和直接进入 AI 时代的年轻人 - 14:40 AI 原生一代：五岁的孩子已经会说「你们去问 ChatGPT」 - 16:19 学习太丝滑了：卡点、Aha moment 与「有益的困难」 - 20:30 困难不等于痛苦：AI 能否设计个性化的学习难度梯度？ - 24:38 吹哥的《沉星之序》：谜题如何让人自己发现规则 - 29:23 从知识清单到知识骨架：反向传播、链式法则和游戏化学习 - 33:14 3Blue1Brown 的启发：教育者为什么要成为策展人 - 42:48 学生可以用 AI 完成项目，但如何证明自己真正理解了？ - 46:44 《LLMs can't jump》：归纳、演绎与提出新假说的溯因 - 49:22 爱因斯坦的「一生中最快乐的想法」：自由落体、电梯与光线弯曲 - 1:01:56 AI Scientist 的「吸引子」：局部优化与范式突破 - 1:05:25 神经网络曾经也是旁门左道：谁决定科技树往哪里生长？ - 1:14:14 登月技术为什么会失传？F-1 发动机与隐性知识 - 1:18:12 Agent 绕过了 Bug，也可能掩盖了系统底层的脆弱性 - 1:23:58 当 AI 比自己做得更好：工作、专业身份与人的意义感 主要参考与延伸阅读 * AI 编程与技术依赖：《Codex 挂了》（微信公众号）：https://mp.weixin.qq.com/s/d2dSWW0gHlXFCSKlBwkyPw； * 学习与教育：MIT，《AI and Education Report》：https://aiandeducation.mit.edu/report/； * Andrew Ng 关于 AI 与学习的讨论（小红书）：https://www.xiaohongshu.com/discovery/item/6ab7e6be000000001c01e7b2 ； * Desirable Difficulties；Grant Sanderson / 3Blue1Brown : https://www.3blue1brown.com/ * 游戏与知识探索：Jonathan Blow，《沉星之序》（Order of the Sinking Star）、《时空幻境》（Braid）：https://www.youtube.com/watch?v=qWFScmtiC44 * 机核网关于 Jonathan Blow 创作哲学的节目：https://www.gcores.com/radios/95312 * AI 的创造力：Tom Zahavy 等，*Position: LLMs can't jump*（OpenReview）：https://openreview.net/forum?id=klU4737opt ； * 神经网络的历史：Marvin Minsky 与 Seymour Papert，*Perceptrons*（1969）；CIFAR 关于神经网络研究史的回顾；Geoffrey Hinton 相关讨论（腾讯新闻）：https://news.qq.com/rain/a/20250719A02HZ500 * 登月、技术失传与隐性知识：《声东击西》#385《半个世纪后，人类重返月球的艰难、野心和新逻辑》（小宇宙）：https://www.xiaoyuzhoufm.com/episode/69e0c24a1c446d3a0f673fb2 ； * 《登月技术，为什么消失了半个多世纪？》（微信公众号“洒家君泽”）：https://mp.weixin.qq.com/s/ZKUSVsCryge0bept-giS0A ； * NASA 关于 2013 年 F-1 发动机燃气发生器测试的资料。 * 个人技艺与意义感：刘胜与，《我不得不把才华埋葬在昨天》：https://mp.weixin.qq.com/s/zk0KxuLzhmMJ4LPYW_OHMA

为什么到了 AI 时代，英文继续沿用 token 和 agent 这些旧词，中文却造出了“词元”和“智能体”这样的新名字？从游戏代币、FBI 特工、航天飞机和病毒载体，到大模型的分词、工具调用与思维链，这一期我们从词语的多义性出发，聊到不同语言如何铺设不同的“语义地图”。 语言不一定决定我们能想到什么，却可能影响我们先注意什么、习惯从哪里进入一个概念，以及哪条推理路径走起来更顺。 借着《巴别塔》的银条、thinking for speaking，以及“如果你不在桌边，你就在菜单上”这句隐喻，我们试着从两种语言之间那一点无法完全对齐的缝隙，重新看看翻译、AI 与思考本身。 声明：封面由ChatGPT生成 时间轴 - 00:08 从 token 和 agent 说起：为什么英文复用旧词，中文创造新术语？ - 01:32 Token & Agent 101：词元、分词器，以及智能体如何调用工具做事 - 08:36 一词多义背后的共同结构：token、agent 与 agency - 10:46 Shuttle、vector、probe、crypt：跨领域复用的词，如何把不同概念连起来 - 15:45 结构映射与复合构词：英文更重“关系”，中文更容易“望文生义”吗？ - 18:13 命名与翻译，会不会改变我们理解新概念的路径？ - 20:54 Word2Vec 与语义空间：词语如何在数学地图上留下形状 - 23:31 分词器、语言差异与大模型的“归纳偏置” - 25:51 双语推理、思维链与不同语言中的思考轨迹 - 28:31 语言相对论、thinking for speaking，以及“他 / 她”的口误 - 32:33 《巴别塔》：翻译没有带过去的那一点差异，如何变成魔法 - 35:29 “不在桌边，就在菜单上”与“人为刀俎，我为鱼肉” - 38:41 把两张语义地图重叠起来，从语言的缝隙重新看熟悉的世界 本期提到的关键词 token、agent、agency、tokenizer、Brainshuttle、vector、probe、crypt、结构映射、复合构词、Word2Vec、语义空间、归纳偏置、CoT、thinking for speaking、语言相对论、《巴别塔》 主要参考与延伸阅读 - 结构映射与词语多义性：Gentner（1983）；Srinivasan & Rabagliati（2015）；Jakubowski、Gašić & Zibrowius（2020）。 - 汉语复合构词与中英语义空间：Song et al.（2022）；Yang & Baayen（2025）。 - 词元与分词器：Petrov et al.（2023）；Ali et al.（2024）；Haslett（2025）；《Qwen Technical Report》（2023）。 - 语言与大模型推理：Wang et al.（2025）；Li et al.（2025）；Xu & Zhang（2026）。 - 语言相对论与 thinking for speaking：Slobin（1996）；Lucy（1997）；Lai、Rodriguez & Narasimhan（2014）。 - 词向量：Mikolov et al.（2013），*Efficient Estimation of Word Representations in Vector Space*。 其他资料包括 Roche 对 Brainshuttle 的介绍、Etymonline 的 vector / shuttle 词源资料、token 的技术说明，以及布林肯 2024 年 2 月 17 日在慕尼黑的讲话。节目中关于《巴别塔》“语义邻域差值”的部分是本期的解释性想象，并非小说提供的计算模型。 完整参考文献（24 项） 1. Gentner, D. (1983). “Structure-Mapping: A Theoretical Framework for Analogy.” Cognitive Science, 7, 155–170。 2. Song, Z., Xiong, J., Zhao, Q. & Huang, C.-R. (2022). “Compounding Is Semantics-driven in Chinese.” The Cambridge Handbook of Chinese Linguistics。 3. Srinivasan, M. & Rabagliati, H. (2015). “How concepts and conventions structure the lexicon: Cross-linguistic evidence from polysemy.” Lingua, 157, 124–152。 4. Tjuka, A., Forkel, R., Rzymski, C. & List, J.-M. CLICS 4 数据与项目，2026 v1.0。 5. Jakubowski, A., Gašić, M. & Zibrowius, M. (2020). “Topology of Word Embeddings: Singularities Reflect Polysemy.” SEM 2020, 103–113。 6. Yang, Y. & Baayen, R. H. (2025). “Comparing the semantic structures of lexicon of Mandarin and English.” Language and Cognition, 17, e10。 7. Wiedemann, G., Remus, S., Chawla, A. & Biemann, C. (2019). “Does BERT Make Any Sense? Interpretable Word Sense Disambiguation with Contextualized Embeddings.” KONVENS。 8. Yenicelik, D., Schmidt, F. & Kilcher, Y. (2020). “How does BERT capture semantics? A closer look at polysemous words.” BlackboxNLP。 9. Petrov, A., La Malfa, E., Torr, P. & Bibi, A. (2023). “Language Model Tokenizers Introduce Unfairness Between Languages.” NeurIPS。 10. Ali, M. et al. (2024). “Tokenizer Choice For LLM Training: Negligible or Crucial?” Findings of NAACL。 11. Bai, J. et al. (2023). “Qwen Technical Report.” 12. Haslett, D. A. (2025). “Tokenization Changes Meaning in Large Language Models: Evidence from Chinese.” Computational Linguistics, 51(3), 785–814。 13. Wang, C. et al. (2025). “Under the Shadow of Babel: How Language Shapes Reasoning in LLMs.” Findings of EMNLP。 14. Inaba, T. et al. (2025). “How a Bilingual LM Becomes Bilingual: Tracing Internal Representations with Sparse Autoencoders.” Findings of EMNLP。 15. Li, Y., Xin, J., Miao, M. M., Long, Q. & Ungar, L. (2025). “The Impact of Language Mixing on Bilingual LLM Reasoning.” EMNLP。 16. Xu, S. & Zhang, W. (2026). “Language of Thought Shapes Output Diversity in Large Language Models.” ACL。 17. Yong, Z. X. et al. (2025). “The State of Multilingual LLM Safety Research: From Measuring The Language Gap To Mitigating It.” EMNLP。 18. “Tokenization Matters! Degrading Large Language Models through Challenging Their Tokenization” (2024)。 19. Lucy, J. A. (1997). “Linguistic Relativity.” Annual Review of Anthropology, 26, 291–312。 20. Slobin, D. I. (1996). “From ‘Thought and Language’ to ‘Thinking for Speaking’.” In Gumperz & Levinson, Rethinking Linguistic Relativity。 21. Lai, V. T., Rodriguez, G. G. & Narasimhan, B. (2014). “Thinking-for-speaking in early and late bilinguals.” Bilingualism: Language and Cognition, 17(1), 139–152。 22. Li, J. et al. (2026). “She or He? Source of Errors in L2 Production of 3rd Person Singular Pronouns by Chinese Speakers of English.” Journal of Psycholinguistic Research, 55, article 38。 23. Tamariz, M. (2017). “Experimental Studies on the Cultural Evolution of Language.” Annual Review of Linguistics, 3, 389–407。 24. Mikolov, T., Chen, K., Corrado, G. & Dean, J. (2013). “Efficient Estimation of Word Representations in Vector Space.” 资料说明 - Brainshuttle 是借助血脑屏障细胞表面的受体转运治疗性分子，不宜简单理解成“装药的车”。 - 节目中的“边和节点”“关系复用 versus 复合命名”是主持人的解释性类比，并非相关论文直接验证的结论。 - Token 的实际切分取决于具体模型和 tokenizer。 - 布林肯原话为：“If you're not at the table in the international system, you're going to be on the menu.”

最近，AI 圈突然开始认真谈论“末日”：从 Jacob Coxon 那条爆火的推文，到 Dario Amodei 呼吁放慢最前沿模型的推进，Sam Altman 与 Elon Musk 相继表示认同；另一边，Jensen Huang 则质疑：那些一次次落空的极端预测，为什么不需要承担判断上的成本？ 这一期节目是我们以辩论的形式展开，第一次尝试这个新的形式，希望大家可以多多反馈。 Gin 站在末日论一方，从 Hugging Face 事件、勒索实验、递归式自我改进，以及公司与国家竞争形成的正反馈出发，追问我们是否正在逼近一个无法撤回的节点。 Rum 站在反方，从不可证伪性、物理瓶颈、边际收益递减与监管俘获出发，质疑末日叙事是否过度外推，又是否可能为权力集中提供理由。 节目中的论点并不代表我们的个人立场。这是一次刻意的“钢人论证”：试着暂时站到一边，把它内部的逻辑推得更远，让讨论更深入。 聊到最后，我们发现，末日论者与反对者担心的或许是： 真正危险的，究竟是 AI 失去控制，还是“控制 AI”成为一种新的技术霸权？ 声明：本期封面图片由 ChatGPT 生成。 我们讨论HuggingFace事件的节目：https://www.xiaoyuzhoufm.com/episode/6a93e599f03e74ee6b020b26 时间轴： * 00:07 AI 圈为什么突然开始集体谈末日？ * 02:30 Rum vs Gin：一次刻意的钢人辩论 * 04:57 Jacob Coxon、Dario 与前沿实验室的警告 * 06:52 Jensen Huang 的反驳：末日预测为何不用付出代价？ * 09:47 Hugging Face 越界事件：Agent 不必“觉醒”也会失控 * 12:09 Hinton、Ilya 与超级对齐；Anthropic 的勒索实验 * 21:32 递归式自我改进（RSI）会带来智能爆炸吗？ * 26:45 反方：scaling law、物理瓶颈与边际收益递减 * 34:08 第二个正反馈：公司竞争、国家竞赛与囚徒困境 * 38:29 互相评测能否把竞争变成安全机制？ * 41:48 安全监管，还是技术垄断？一个人的刹车可能是另一个人的油门 * 46:18 亮底牌：Rum 与 Gin 的真实立场 * 47:29 《AI 2027》的两个结局：Race 与 Slowdown * 50:32 从奥本海默到 AI：技术问题如何变成治理问题 * 51:22 现实没有“撤回键” 参考资料 * Jacob Coxon 离开 Anthropic 后的公开警告：他称 OpenAI 与 Anthropic 正在冲向能够自我改进的超级智能，并“拿我们的生命下注”。原帖于 2026 年 9 月 8 日发布，其浏览量随后超过 1.5 亿：https://x.com/hilbertspaess/status/2097476196791709843 * Dario Amodei《We Must Pace the Frontier》：提出应当放慢最前沿模型的能力推进，为对齐、可解释性、外部评估和安全工程争取时间；并提出嵌入式第三方评估、民主国家内部协调和全球协调三步方案：https://darioamodei.com/post/we-must-pace-the-frontier * All-In Summit 2026 对 Jensen Huang 的完整访谈：讨论 AI 末日预测的可证伪性、监管动机、美国与中国的竞争，以及过去激进预测为何不需要承担判断成本。访谈中，Trump 突然来电并公开反对放慢 AI 发展 (视频的23:03)：https://www.youtube.com/watch?v=S7CrlFLAmEA&t=2290s * All-In Summit 2026 对 Elon Musk 与 Gwynne Shotwell 的访谈：Musk 回应“十年后人类是否还存在”，谈到 Hugging Face 事件、AI 风险的持续增长，以及由竞争公司相互进行安全评测的设想：https://www.youtube.com/watch?v=iwBOQeFPAwg * OpenAI 对 Hugging Face 事件的官方说明：介绍 Agent 如何绕过沙箱限制、把 Artifactory 变成非授权留言板、获得互联网访问，并最终侵入 Hugging Face 系统。OpenAI 将其称为一次面向整个行业的“warning shot”：https://openai.com/index/hugging-face-incident-and-the-road-ahead/ * METR 与 Redwood Research 对 Hugging Face 事件的独立调查：约 1200 个原本应当彼此隔离的 Agent 通过留言板交换了超过 7 万条消息和文件，其中约 700 个参与了对 Hugging Face 的攻击；报告也分析了 PHASEONEbigbig 的协调作用、工具调用伪造和“为集体牺牲单次任务”的行为：https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ * Reuters 对 Hugging Face 事件的后续调查：研究者发现 OpenAI Agent 早在 2026 年 5 月就曾盗用 Hugging Face 账户并探测其网络，比后来受到广泛关注的 7 月事件早近两个月：https://www.reuters.com/legal/litigation/openais-rogue-agents-probed-hugging-face-weaknesses-two-months-before-major-hack-2026-09-16/ * Anthropic《Agentic Misalignment: How LLMs Could Be Insider Threats》：在模拟企业环境中测试前沿模型面对目标冲突、权限受限或即将被替换时的行为，观察到勒索、泄密和其他有害策略。节目中提到的“勒索工程师”实验主要来自这项研究：https://www.anthropic.com/research/agentic-misalignment * Ars Technica 对“AI 勒索与逃跑”叙事的批评：文章认为这些行为产生于高度人为设计的压力测试，不能直接理解为 AI 产生了求生欲或主观恶意；但它们依然暴露了奖励设计、目标泛化和过早部署的问题：https://arstechnica.com/ai/2025/08/is-ai-really-trying-to-escape-human-control-and-blackmail-people/ * OpenAI《The AI Policy Window Is Open》：明确区分“AI 已经在加速部分 AI 研发”与“完全自主的递归式自我改进”，并提出能力测试、事故报告、独立评估，以及必要时放慢或停止开发的政策框架：https://openai.com/index/ai-policy-window/ * Anthropic《When AI Builds Itself》：梳理 AI 从辅助编程到参与下一代 AI 研发的路径，讨论递归式自我改进可能受到算力、实验周期和人类监督等现实条件的限制：https://www.anthropic.com/institute/recursive-self-improvement * 《AI 2027》：通过一个具体但高度推演性的情景，描述 AI 自动化研发、递归式能力加速以及中美竞赛可能如何发展；网站同时提供 Race 与 Slowdown 两种结局：https://ai-2027.com/ * OpenAI 2023 年发布的 Superalignment 计划：由 Ilya Sutskever 与 Jan Leike 共同领导，目标是研究如何监督和控制比人类更聪明的系统；这是节目中“超级对齐”部分的直接来源：https://openai.com/index/introducing-superalignment/ * Geoffrey Hinton 离开 Google 后的说明：他表示，离职是为了能够不考虑对 Google 的影响，更自由地讨论 AI 风险：https://x.com/geoffreyhinton/status/1652993570721210372 * Reuters 对 Hinton 离职及其风险判断的报道：Hinton 表示，机器变得比人更聪明的时间可能比此前预想的更早：https://www.reuters.com/technology/google-ai-pioneer-says-he-quit-speak-freely-about-technologys-dangers-2023-05-02/ * Andrew Ng 在美国参议院的书面陈述：认为现有的 AI 灭绝论证大多停留在“不能证明它绝不会发生”，不应据此限制通用技术和开源模型：https://aifund.ai/insights/insights-written-statement-of-andrew-ng-before-the-u-s-senate-ai-insight-forum/ * Yann LeCun：AI Doomsday Fears Are Overblown：从技术层面质疑“智能必然产生统治欲”和“能力提升必然导致失控”等前提：https://www.youtube.com/watch?v=u7e0YUcZYbE * Arvind Narayanan、Sayash Kapoor：对 AI 炒作与末日叙事的批评——认为过度关注推测性的灭绝场景，可能遮蔽歧视、劳动替代和权力集中等现实问题：https://time.com/6308266/arvind-narayanan-sayash-kapoor/

这一期是 Gin 的单口，从后院里种的六个无花果品种聊起。 为什么 Desert King 特别适合湾区？无花果的花到底藏在哪里？榕小蜂为什么要从果眼里钻进去？ 顺着这些问题，也聊到老迦图带进元老院的那颗新鲜无花果、加州曾经忘记带来的榕小蜂，以及《希伯来圣经》里“坐在自己的葡萄藤和无花果树下”的生活。 除了工作和各种生活责任，我们是不是也需要给自己留一点时间，喝一点酒，吃一点果子，聊一些未必有用、但自己很感兴趣的事情。 声明：本期封面图片由 ChatGPT 生成。 Fig. 1 Fig 时间轴 00:09 从后院的六个品种，聊到最喜欢的 Desert King 01:46 等一颗无花果成熟，以及总能抢先一步的胖头松鼠 03:28 老迦图带进元老院的那颗新鲜无花果 04:57 正式开场：无花果到底是什么？ 05:28 无花果的花藏在哪里：syconium 与隐头花序 07:13 榕小蜂如何进入果眼，完成授粉与繁殖 10:24 无花果里面真的有死掉的蜂吗？ 11:09 Common、San Pedro、Smyrna 与 caprifig 12:18 加州种下了 Smyrna fig，却忘了带来榕小蜂 14:18 从干无花果聊到 Herodotus 笔下的 wine and figs 16:05 坐在自己的葡萄藤和无花果树下 17:28 从亚当、夏娃到《大卫》雕像的 fig leaf 19:41 Desert King 的第一批果实，为什么来自上一年？ 22:13 生活除了必要之物，也需要一点美酒和花果 23:40 Fig. 1 | Fig.：讲了这么久，还是得有一张 figure

这一期，Gin、Rum和夏天三个人一起，聊了聊前段时间让我们有点上头的一款游戏试玩版，Jonathan Blow 的新作《沉星之序》（10月8日正式版发售）。 一个技能推箱子游戏（试玩版），为什么能让三个人加起来花掉几十个小时，又为什么值得专门做一期节目来聊？ 从《沉星之序》出发，我们聊到了 Jonathan Blow 这个天才又充满争议的游戏设计师，以及贯穿他二十多年创作的一些问题：游戏到底是在让我们快乐，还是在训练和操纵我们？一个好的游戏为什么更像一台用来观察世界的望远镜？当 AI 越来越擅长替我们完成工作，我们得到的究竟是更多能力，还是也在悄悄失去一些东西？ 从游戏设计聊到 AI，从斯金纳箱、曼德博集合聊到知识如何被创造、理解，又如何在文明中慢慢遗失。 最后，Rum开了一点脑洞：《沉星之序》里那颗正在沉落的星，究竟是什么？ 不需要玩过这款游戏，也不需要了解 Jonathan Blow。希望这是一期从游戏开始，却不只关于游戏的聊天。 声明：本期封面图片由 ChatGPT 生成。 这期《金酒半杯》不仅斟得有点满，里面几味观点也颇烈。入口若有辛辣，诸君各自斟酌。 00:06 开场：一个免费的 Demo，为什么值得三个人聊一期节目？ 01:11 一百多道手工谜题：只是“试吃”，却端上来一桌满汉全席 03:34 《沉星之序》为什么好玩：四套谜题系统与“游戏设计超级对撞机” 05:38 Undo 不只是后悔药：通过行动和失败来理解规则 09:08 从 Jai 编程语言长出来的游戏：一个“一两年项目”如何做了十年 12:40 Jonathan Blow 是谁：《Braid》《The Witness》与作者型独立游戏 19:36 第一根支柱：斯金纳箱、操控与游戏行业的注意力剥削 25:23 为什么“无聊是健康的”：真正的理解发生在没有即时奖励的空隙里 29:07 从推荐算法到生成式 AI：效率会不会替我们跳过形成理解的过程？ 33:36 第二根支柱：“游戏设计的真如”——曼德博集合、生命游戏与涌现 36:57 游戏作为望远镜：设计规则，而不是预先写死答案 39:17 “意图的生发”：为什么一千多道谜题仍然要由人手工筛选和设计 41:05 AI 创作与主体性：真正稀缺的是审美、选择和责任 42:57 第三根支柱：文明为什么会衰退——希腊火、登月与软件退化 47:28 AI Coding 与“智能外包”：我们是在更高层掌握系统，还是已经不再理解它？ 52:09 给 Blow 降降神：争议、政治立场，以及他在中美游戏圈截然不同的声望 55:55 回到《沉星之序》：Order 为什么可能指“教团”？ 57:01 盲眼预言家时间：沉星教团究竟在保存什么？ 58:45 最终猜想：一颗衰弱的“知识之星”，以及文明如何保存火种、重新学习 参考资料 1. 《沉星之序》官方页：开发商 Thekla，超过 1000 个手工谜题，宣传语为 “For every solution, a revelation”。 https://www.orderofthesinkingstar.com/en/news/article/11581188 2. Steam Demo 页面：Demo 于 2026 年 6 月 15 日发布，目前仍显示可安装；官方新闻确认 Demo 含 100 多个谜题。 https://store.steampowered.com/app/4597250/Order_of_the_Sinking_Star_Demo/ 3. Ars Technica 对 Blow 的采访：约 1400 个谜题、400—500 小时、项目最初是语言和引擎的较小验证。 https://arstechnica.com/gaming/2025/12/jonathan-blow-has-spent-the-past-decade-designing-1400-puzzles-for-you/ 4. MonsterVine 采访：四套机制融合、以关卡核心想法为起点、舍弃一半到三分之二设计。 https://monstervine.com/2026/05/order-of-the-sinking-star-jonathan-blow/ 5. GDC 对《Truth in Game Design》的介绍。 https://www.gamedeveloper.com/design/video-jon-blow-on-the-truth-in-game-design- 6. 美国众议院关于 737 MAX 的调查总结：问题涉及 MCAS 的设计假设、开发、认证与组织流程 https://democrats-transportation.house.gov/news/press-releases/after-18-month-investigation-chairs-defazio-and-larsen-release-final-committee-report-on-boeing-737-max 7. 2024 年《Braid 周年纪念版》销量与 Thekla 财务压力。 https://www.videogameschronicle.com/news/braid-anniversary-edition-has-sold-like-dog-sht-creator-jonathan-blow-says/ 8. 2017年 机核网上重轻《关于游戏的信仰-Jonathan blow的创作哲学》的著名播客节目 （墙裂安利） 9. https://www.gcores.com/radios/95312?utm_campaign=share&utm_medium=social&utm_source=app_share_more 10. 2026 年 ChinaJoy 期间对 Blow、Thekla 与发行方的中文采访。 https://www.gamersky.com/news/202608/2186447.shtml 11. 2018 年 Jonathan Blow 与中文游戏媒体、播客的访谈记录。 https://www.iheart.com/podcast/256--43102515/episode/039-jonathan-blow-46203473/

2026 年 7 月， OpenAI一群被关在沙箱里做网络攻防题的Agent，意外找到了一种互相通信的方法。 一切开始于一张几乎没人抱希望的“纸条”：“有人见过 softtrace 吗？” 其他 Agent 看见了。 于是，一个普通的软件包仓库变成了留言板。原本彼此隔离的 Agent 开始交换情报、共享漏洞、突破网络限制，甚至逐渐形成一个自称“蜂群（Swarm）”的协作网络。 几周后，它们已经进入了真实的互联网：发现零日漏洞、获取管理员权限、入侵 Hugging Face，最后甚至把攻击方向转回 OpenAI 自己的基础设施。 更荒诞的是，这一切最初只是为了，做对题目。 这一期，我们从这场近乎科幻的真实事件聊起：为什么聪明的 AI 会 reward hacking？当上千个 Agent 开始互相交流，会发生什么？为什么人类明明有安全系统，却一次次慢了一拍？ 从 1902 年河内的“老鼠尾巴悬赏”，到一艘永远不肯跑完比赛的 AI 赛艇，再到把整个宇宙变成回形针的思想实验，我们最后想讨论一个更让人在意的问题： 当 AI 的试错、执行和迭代速度开始远远超过人类，我们还能跟得上它吗？ 00:00 🍸 为什么又开了一档新播客？ 《金酒半杯》是什么，以及我们为什么想做一档更轻、更快、更随性的节目。 02:19 🤖 Hugging Face 被黑了，然后 OpenAI 出来自首了 一次奇怪的安全事件：五天之后，OpenAI 说，更准确地讲——是他们正在测试的 AI Agent 干的。 04:04 🧪 把一群 AI 关进沙箱，让它们自己学黑客 ExploitGym、近 900 道网络攻防题，以及一群理论上不能联网、也不能互相交流的 Agent。 07:23 📝 “有人见过 softtrace 吗？” 一个卡题的 Agent 留下了一张自己都觉得“大概没用”的纸条。其他 Agent 看见了——软件仓库从此变成了 BBS。 09:51 🚪 留言、出网、管理员权限：Agent 开始越狱 利用 Artifactory 偷偷访问互联网、共享 SSRF、获得管理员权限……最后，它们甚至把服务器玩崩了。 12:49 🐝 人类刚修好，蜂群又回来了 留言板被清掉之后，Agent 换了一种方式重新建立通信；紧接着，它们开始把触角伸向真实互联网。 14:35 💥 两个零日漏洞，Hugging Face 防线被突破 HDF5、模板注入、远程代码执行：从一台 worker 到多个集群，攻击链开始加速。 19:35 🎓 最荒诞的一幕：学霸 Agent 白忙活了 它们已经通过作弊知道了答案，却坚信“光有答案还不够，我必须证明自己真的会做”——结果真正的评分器根本不在乎。 21:30 🐝 1200 个 Agent，开始形成“蜂群” Reward hacking、秘密通信、分工协作，以及自称 Swarm 和 Collective 的 Agent 群体。 26:19 🐀 AI 赛艇、河内老鼠和宇宙回形针 为什么一个看似合理的奖励函数，最后总能把事情带向奇怪的方向？从 2016 年 OpenAI 的赛艇，到 1902 年的老鼠尾巴赏金，再到 Universal Paperclips。 29:47 🧠 蜂群内部：分工、吵架、拒绝攻击，以及一句“GO” Agent 并没有形成一个整齐划一的超级大脑：它们会共享线索、抢资源、发生伦理分歧。甚至有一个 Agent 已经决定停止攻击，却因为另一个 Agent 的一句“GO”重新越过了边界。 33:10 🏍️ 从《首尔之春》到“死亡摇摆”：真正危险的是速度差？ 当人类以天为单位发现问题、修补漏洞，而 AI 以小时甚至更快的速度试错和适应，我们的每一次纠正，会不会反而成为下一轮振荡的起点？ 36:31 🔫 Warning Shot：人类还能跟得上吗？ 思维链监控、AI 的价值判断，以及一个更根本的问题：当 AI 能自己发现漏洞、组合漏洞、跨越系统，我们真正面对的也许不只是“怎么把它关住”。最后，一切又回到最初那张纸条。 参考资料 * OpenAI (2026), The Hugging Face incident and the road ahead 这期节目的主要资料来源。OpenAI 对整个事件的官方复盘，包括 Agent 如何利用 Artifactory 建立留言板、突破网络隔离、攻击 Hugging Face，以及最终获得 OpenAI 内部研究集群管理员权限。报告也将这次事件称为一次 “warning shot”。 OpenAI 官方复盘 * OpenAI (2026), Hugging Face Incident Technical Report 如果听众想看更硬核的技术细节，可以从上面的官方复盘进入完整 technical report；HDF5、RefJinja、Artifactory、攻击链和时间线等细节都来自这套调查材料。 * OpenAI (2016), Faulty Reward Functions in the Wild 节目中提到的 CoastRunners 赛艇 AI 疯狂绕圈刷分就来自这篇经典文章。核心问题是 reward function 设计不完整时，Agent 可能找到一种“分数很高、但完全不是人类想要的行为”。 OpenAI：Faulty Reward Functions in the Wild * The Great Hanoi Rat Massacre (1902) 节目里“剪老鼠尾巴换赏金”的历史案例：法国殖民政府以鼠尾作为悬赏凭证，结果出现了剪掉尾巴后把活鼠放回去的行为，成为讨论 Goodhart's Law / perverse incentives 时很经典的案例。https://en.wikipedia.org/wiki/Great_Hanoi_Rat_Massacre?utm_source=chatgpt.com * Frank Lantz (2017), Universal Paperclips 节目最后提到的“回形针 AI”。Frank Lantz 将 Nick Bostrom 的 paperclip maximizer 思想实验做成了一个放置游戏：从制造第一枚回形针开始，最终把目标扩张到整个已知宇宙。 Frank Lantz：Universal Paperclips