174. 我们还能给算法当多久的品味老师？｜对谈亚马逊AGI查晟

起朱楼宴宾客

88分钟 ·2个月前

59262

131

2026年的年度专题“算法纪”聚焦算法与媒体，第四集我们从业内视角解读人类在AI时代应如何应对“认知负债”等问题。

大家好，我是大卫翁，"起朱楼宴宾客"是我用来记录这个大时代的播客节目。

对谈嘉宾介绍：

查晟，亚马逊AGI部门基础研究团队负责人。

如果说这个系列的前几期讲的是算法如何定义身份，那么这一期我们在讲算法时代人怎么不被一起拖下去。

第一期指路：《159.算法的六副面孔：它是如何从处理数据，变成定义我们是谁的》

第二期指路：《164.算法的“兔子洞”：为什么你总在看完新闻后滑向娱乐？｜对谈黄圣淳教授》

第三期指路：《167.柏拉图、卢梭、哈耶克、阿伦特四大哲学家会如何解释算法时代？｜串台独树不成林》

简明时间轴：
06:00 最近几个月行业内最让查晟意外的是，虽然开源模型缺乏“数据飞轮”，但中国团队仍在坚持
18:12 “模型塌缩（Model Collapse）”问题：AI 用 AI 生成的内容训练，性能会逐代退化。

延伸阅读：Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). "AI models collapse when trained on recursively generated data." Nature, 631(8022), 755–759. DOI: 10.1038/s41586-024-07566-y 2024 年 7 月 24 日

22:17 当前AI的自我迭代仍高度依赖人类的品味（Taste）来定义问题和指引优化方向

26:57 “认知负债（Cognitive ）”问题：过度依赖AI导致的注意力、工作记忆、语言处理能力下降。

MIT Media Lab 2025 年的研究：让一组人用 ChatGPT 写作，一组人不用。脑电图显示用 LLM 的人 alpha 和 beta 波在前额和颞顶区下降，这些是注意力、工作记忆、语言处理的核心区域。

31:40 “知识塌缩（knowledge collapse）”现象：过度依赖大模型可能导致人类知识收敛于少数主流观点

36:27 AI价值观由训练数据和人类反馈决定，目前缺乏广泛的外部监管

48:39 “主权AI”的战略意义：各国需要训练符合自身需求的大模型以防止文化同化

01:04:11 AI展现跨领域解决难题的能力，要求人类向通才方向发展，培养跨领域的“品味”，通识教育和掌握第一性原理变得尤为重要。

01:10:42 社会价值观的转变：从以生产为导向转向关注人际连接、影响力、艺术和自我提升

01:26:16 AI时代的生存法则：接受通识教育、做会提问的人、注重人际关系

欢迎关注我的新书《资产配置行动指南》，解读和购买链接在这里：158. 播客里聊了四年的资产配置，我把它做成了一本《行动指南》

欢迎订阅我的Substack频道，它是一个以英文为主的频道：hubris2025.substack.com

欢迎关注我和雨白、小跑新制作的时事聊天节目《不熄灯Lights On》

欢迎关注我的生活方式类节目《犬生活》，《纽约有一种气质叫“都行”｜和杨蒙恩的临别闲聊局》最新上线！

欢迎加入我的知识星球，我正在好好运营那一片后花园。

欢迎在评论区互动，或者给我写邮件，邮箱地址qizhulouyanbinke@gmail.com。

节目BGM：

Propellerheads - Spybreak! (来自The Matrix)

Rage Against The Machine - Wake Up (来自The Matrix)

节目后期：大卫翁

展开Show Notes

_Silas

2026.7.21

这真是一个的绝妙的好问题，个人认为很多人甚至都没意识到我们现在的作用是决策和品味

大卫翁

:但我担心的是品味会随着我们认知和思考的退化会逐渐消失，毕竟品味本身是我们在前AI时代通过不断的实践积累起来的…

HD583851z:比起当马更想当人

共8条回复

小白白兔

2026.7.22

嘉宾声音好听

见微知萌叔

2026.7.22

我觉得人类觉得自己有品味，其实只是目前人类还是决策者而已，当AI夺走决策者的角色，人类说自己有品味就是纯自嗨了。

大卫翁

:是这样的，毕竟我们的品味对于地球而言也不值一提

一碟花生豆:但我觉得AI是为人类服务的，没有了人类，AI就是无根之木了

共5条回复

Sherry_vqNI

2026.7.23

02:37 好巧，今天刚听说AGI org裁员了😂

杰里德:刷到嘉宾领英了，他有同事受到影响，嘉宾自己应该没事

大卫翁

:早上听查老师说了，发布时间确实有点太巧了😓

共3条回复

西平邵子

2026.7.22

这期听得有些费力，哈哈😃😃😃

大卫翁

:为啥？

西平邵子:关于对Ai的讨论太多了，其实那些讨论更多也只是展望而已。但讲着讲着，讲者就觉得它就是真的，殊不知未来有太多不确定性，那些所思所想所讲仍只是在展望中。就像企业的估值和市值一样，很多或许只是自我的幻觉。

共6条回复

飞往外太空谁也拦不住我

2026.7.23

1:13:43 非常喜欢这期节目的话题和内容，也分享下此刻不成熟的个人思考。听两位最后聊到，如果AI替代越来越多的生产力，人的价值不再由劳动生产所定义，那么人应该如何定义自己的价值？嘉宾提到，人或许更应该去追求卓越、去探索更多人类未知的领域。
那么，我们要怎么定义卓越？如果卓越只是意味着站在人类知识的最前沿，意味着肩负探索人类未知的使命，那它终究只是极少数人的目标，也是一种精英化的视角。
正好我今天在逛法兰克福大学和法兰克福社会研究所，想看看他们最近都在关心什么。
IG Farben Haus的大厅正在讨论失败意味着什么，以及我们该如何理解失败。展览以梵高、特斯拉、Ada Lovelace 等人为例，试图说明一时的失败并不可怕。中间的互动展板邀请每一个人分享失败对自己意味着什么。
能在校园公开讨论这个话题已经挺不错了🙃不过展览没有提及，而我仍然想追问的是，怎么定义失败、谁来定义失败。如果我们还停留在用这些最终获得名声的人来说明一时的失败并不可怕，那么这套叙事依然是在用功成名就来定义失败，无论是生前还是死后。如果一个人的一生，不管生前还是死后，都没有留下名声，没有被历史记住，那ta的生命怎么办？
可展示性的成果当然也是生命价值的一种体现，但它只是其中一种，不该是唯一的衡量标准。再微小、再脆弱、再寂寂无名的生命，都有它存在的价值。
卓越大概也是同样的道理。对普通人来说，它未必只有一种定义。别人阐述过的观点，不代表那些理解已经属于我；别人讨论过的问题，依然值得我去思考和关心；别人走过的路，我依然可以自己走一遍。
AI工具可以提供越来越多的答案，但知晓答案，并不等同于我已经理解。我微小的、局限在自己生活范围内的认知边界拓展，也是一种卓越的进步，不需要拿去和任何人比较，也不一定要被广泛看见。
联想到科技行业这几年越来越喜欢谈impact，创业者们也越来越重视建立自己的公众影响力，希望获得更多人的关注、信任和支持。
任何一个人试图获得我的关注、信任和支持的时候，都在影响我的判断，而我决定把自己的注意力交给谁、相信谁、支持谁的时候，也是在决定把一部分权力赋予谁。
一个拥有巨大影响力的人，他的影响力来自每一个普通人的赋予，也来自每一个被定义为失败的人。影响力是一种权力，而把自己的注意力交给谁，也是每一个人的权利。
所以，当越来越多人希望建立自己的公众影响力，我首先想知道的是，他们愿意承担什么样的公众责任。权责是否对等，是一个始终值得关注的问题。
回到两位聊的话题，如果人的价值不再由劳动生产定义，那我们应该期待更丰富多样的答案出现，不必是某种唯一的、被广泛认可的卓越，每个人都需要自己去定义这个答案是什么。对当下的我来说，它可能就是持续地去拓展自己理解世界的边界。

shufecj:1:07:27 非杠，但您这边有两个结论/想法似乎没有证明，比如1，再微小，再脆弱的生命都有价值;2，很多人希望获得注意力，但是否权责对等，为什么就预期会权责对等呢？很多人根本不管责任的

飞往外太空谁也拦不住我:第一点，这是我个人的价值判断和伦理立场。第二点，是我想到的一种规范性主张，不是对现实的描述。现实中权责不对等很常见，但作为一个人，我有权利去关注、讨论和监督权责是否对等。

共3条回复

Ass嘟嘟

2026.7.22

生成式大模型，算法时代最新进化的产物，也是时下的焦点。
人类的最后一个prompt可能是AI写的。

「✅虽然开源模型缺乏“数据飞轮”，但中国团队仍在坚持」
中国很多团队，坚持做开源大模型。缺陷是无法直接形成数据飞轮，链路是断的。也是结构性的劣势，放出的所有东西，别人都会马上学、马上用。
中美大模型的差距：6个月左右。
美国的大模型大多利用数据飞轮，用的越多它越快，呈指数级发展。
中国的劣势是开源模型无法收集这些数据，只能依靠自己的预训练。
国内开源：阿里的千问、Kimi、智谱、
移动互联网时代，中国追求闭环的商业生态，美国反而互联；AI时代相反，中国更多采取开放的姿态。
数据飞轮，是大模型的底层逻辑之一。价值在于你能存多少有用的东西，读取和存储的成本有多高。
不开源模型，从用户处得到数据飞轮，是你的商业上的壁垒，其他人用不了。

「✅“模型塌缩（Model Collapse）”问题：AI 用 AI 生成的内容训练，性能会逐代退化。」
现在很多顶尖的大模型公司，已经试图用AI迭代AI了，让它自我迭代。
因为全世界就这么多人，人每天就产生这么多信息，增长速度有限，只能采用AI生成数据的方式解决。但生成之后，要把控数据的质量。
并不是所有AI生成的数据都会导致模型塌缩，而是说这个数据如果不经过筛选，不经过质量把控，确实会导致模型的能力下降。
它迭代的每一步都是保证，这么做了之后，我的数据质量会让模型性能变得更好。

「✅当前AI的自我迭代仍高度依赖人类的品味（Taste）来定义问题和指引优化方向」
Taste：你需要知道什么是更好的（方向）。
现在AI能力有限，给定一个问题之后，需要人告诉它解决这个问题更短、更简单、更容易的路径是什么。需要人给它input。

「✅“认知负债（Cognitive ）”问题：过度依赖AI导致的注意力、工作记忆、语言处理能力下降。」
用大模型的人， alpha 和 beta 波在前额和颞顶区下降，而这些是注意力、工作记忆、语言处理的核心区域。
短期确实效率会上升，但你的长期能力会下降。用进废退，是大脑的特性。如果把很多思考交给AI，就会导致自己的思考能力下降。
之所以愿意这么做，是因为以丧失自己一部分思考能力为代价，得到的短期收益特别大。
还是要脱离AI，自己训练自己，长时间注意一样东西，去思考的训练。也会帮助人更有效的利用AI。
AI最重要的harness还是人。最重要的是使用这个AI的人，能提出什么样的问题，能帮AI怎样搭起一个解决问题的框架。
虽然AI的参数里存了很多有用的知识和信息，但如果不会提对应的问题，也无法从中得到价值。
你要做的是目前为止只有人能做的事情，而不是AI真正擅长做的事情。比如提升Taste、了解不同的方向。

「✅“知识塌缩（knowledge collapse）”现象：过度依赖大模型可能导致人类知识收敛于少数主流观点」
当所有人都通过大模型获取信息，被表达出来的知识会收敛到最主流的那一小撮观点里面。因为所有的大模型，学习路径是类似的。
而现在的大模型，一般不会使用静态知识，更多是基于你的Prompt，从外部获取信息，做推理和任务。在有外部信息源的情况下，一定程度会缓解该问题。
指导模型搜索信息时，尽量多元；生成时也多给一些不同的选项。

「✅AI价值观由训练数据和人类反馈决定，目前缺乏广泛的外部监管」
语言模型的世界相当于是用人的语言符号构建出来的一个虚拟世界。它并不是真实世界的反应。它的价值观就体现在这个模型所见过的数据，所得到过的reward。它所代表的那个价值观。
看起来是一个精密的运转机器，背后就是那几个人。
最终的很多的决定，就是一两个人写入了机器人/AI。它把它变成了自己的信念，遵守的原则。
如果我强烈要求你必须给我从网上搜索可靠的信源，不要用你自己内部的数据回答的时候，它会去搜索。但一般不会无限制的搜索。每多增加一个信息源，消耗的成本更高。
国内很多内容平台，是一个封闭的，不让AI获取的。但也有一些爬虫网站，实时更新。
让企业用自己的数据从头训练一个基础模型。这个AI是长期被自己的数据和价值观塑形的。

Ass嘟嘟:「✅“主权AI”的战略意义：各国需要训练符合自身需求的大模型以防止文化同化」全世界大部分国家，没有自己有从头开发AI的能力。AI作为一个放大任何你给它的价值观的放大器，对那些国家的价值观会造成持续的影响。时间久了，会在潜意识里影响你的想法。每个国家都还是需要有自己的AI。它是希望能够表达的价值观，希望能够做好的任务，希望能够存下来的知识都是会以数据的形式表达给模型。通过持续训练一些已经训练的还不错的模型，让它做好这些事情。不管是什么样的价值观，最后还是信息。你只要把信息表达成数据，让这个模型在这个数据上训练，就可以做好这个事情。所以技术上并没有什么额外的挑战。看起来AI在告诉你一个特别中立客观、专业深度的内容。但因为它底层的数据，甚至数据背后的标准背后的人不一样，都会影响到它最终的output。不光是内容或者用户会被算法影响。建造这些算法的人，在未来的两年可能会受到比较大的冲击。投入时间会更有针对性。主要的工作很多是信息的获取和处理，AI可以做。把自己时间解放出来，做其他更有意义的事情。「✅AI展现跨领域解决难题的能力，要求人类向通才方向发展，培养跨领域的“品味”，通识教育和掌握第一性原理变得尤为重要。」定义好任务之后，只要问题本身清楚，不需要告诉AI解决问题有哪些选项/路径。相当于用另一个领域的方式解决这个领域的问题。术业有专攻，人的专业领域有限，但是AI agent可能换个角度思考，用另外一个领域的知识，就可以解决这个领域的原本一个比较麻烦的难题。上个时代很多发明家、科学家都是通才。但是到一个时代开始，人类变得越来越专。但到了一个程度之后，反而有一些难题你又需要触类旁通才能解决。人现在是AI最重要的Harness（驾驭系统 / 控制框架），人需要培养Taste（品味）。如果一个人对很多领域中的第一性原理都非常熟悉，知道这些领域都是怎么运作的。他会看到很多跨领域结合创造价值的机会。目前AI无法直接替代。通识教育：每学一个领域，你能解决的问题的大类就变多了。我不需要成为了解这个领域的专家，但至少要知道在这个领域怎么提问，能解决什么？不能解决什么？原理是什么？怎样从中获取有效解决问题的方法？帮助你有效的从模型里获得对应的价值。「✅社会价值观的转变：从以生产为导向转向关注人际连接、影响力、艺术和自我提升」衡量自己提供的价值：我对其他人造成的实际影响。以前是生产为导向，以这个人的劳动输出为导向；现在既然生产已不再是人类有效的竞争优势赛道——因为所有人都会输给AI——那么，未来的竞争格局或将发生根本性转变。人怎么挑战自己的极限，超越自我？怎么让人变得更好？怎么探索未知？通过让这个模型自己接触真实世界，表达真实世界的其他模态的表征。最后AGI的形态，体现在持续不断的学习能力上。「✅AI时代的生存法则：接受通识教育、做会提问的人、注重人际关系」如果你想在下一个时代依然成为创作者，你应该了解更多的通识教育；哪怕你只是一个生活在这个时代的人，你也应该接触不同的知识，做那个会提问的人，更加注重人和人之间的关系。期待着这个时代的整个范式，会从以生产为核心的社会组织模式向下一个社会组织模式迁移。到那个时代自然会有那个时代的使命给每个人。

不要活成NPC:感谢感谢，终于等到你，还好我没放弃～

共3条回复

一米阳光就是晴天

2026.7.23

哎呀，从留言数量看，这期流量确实不够好。不过真的是一期很好的节目

凡凡不烦

2026.7.21

kimi k3 的发布直接击碎了开源模型缺乏“数据飞轮”这一观点

大卫翁

:我不太懂，不过开源模型缺乏数据飞轮应该是由它的底层机制决定的吧？kimi有说他怎么做数据飞轮的吗？

ilennon

2026.7.23

听人文学者聊算法就像看剧一样不费力，听行业从业者聊算法就比较吃力了，认知的壁垒还是挺难跨越的。

柠檬家二肥

2026.7.21

这期太棒了

瞎听瞎感受

2026.7.23

嘉宾声音好听🥰夹杂的词汇大部分是ai领域的术语，而不是很通俗很日常的词都要乱夹英文，我觉得听感挺好的呀

angiie

2026.7.22

04:53 除了一些专业英文，感觉都可以不用剪，试着用 ai 的方式听播客吧，哈哈

大卫翁

:用ai的方式听播客是啥意思…

angiie:完全无视中英文，甚至日文，都能听懂，哈哈

共3条回复

Este盐野

2026.7.21

666采访大佬😎！赶上前排了

大碗咖喱

2026.7.21

👍👍👍 满怀期待，仔细听听！

OstraMio

2026.8.03

这一期蛮一般的，嘉宾没有感觉有什么自己的见解，很多想法都太普通了，硅谷大街拉一个人也能说出来。现在听ai相关的节目，最重要的是听嘉宾对taste的理解以及可以怎么做，可惜这一期都没有，只停留在了概念上，然后就结束了。

OstraMio:期待从业内人那里听到这样探讨，而不是浮于表面的陈词滥调（当然不否认常识也需要多说）： https://www.xiaoyuzhoufm.com/episode/69e1fd2d1c446d3a0fc2d5fa

twcai

2026.7.23

刚好就是做大模型推理这一块的，所以对开源模型的数据飞轮问题有一些肤浅的了解。国内头部的几个开源模型，其实做模型推理在线服务的时候，涉及到的工程问题是比较复杂和高门槛的，有能力做好私有化部署推理服务的，可能 100 家公司里面也不一定有一家。
前段时间像智谱的GLM 以及近期的月暗的 Kimi 的推理套餐（Coding Plan ）是非常抢手甚至供不应求的。买到这些 coding plan 的开发者会把它们接入到自己的 coding agent 或者其他 agent中，比如说 claude code、龙虾或者其他工具。然后用它们去解决一些实际的编程或者 agent 的问题，这个就是开源模型厂商的数据飞轮之一。其他当然还有播客中提到的商务合作形式等，不一而足。

大卫翁

:感谢补充

HD1043062f

2026.7.23

所有人都在用品味这个词，但其实更像是用乔布斯给自己贴金，本质上是处在当下的判断与这个时代共振的结果而已，中国人不要跟着外国人用词，要看见本质独立思考

辣椒-:本质是什么呢

HD1043062f:已经写了呀，本质是后面就是

脸盲晚期

7天前

笔记： 27:38 去学不同领域的 first principle ->才能向 AI 更好的提问（很醍醐灌顶想明白了自己为什么一直想去做不同方向的实习）

脸盲晚期:model collapse：其实还是数据集质量问题所以现在的关注点就是如何 filter 出高质量的数据集

脸盲晚期:1:02:50

HD449836s

2026.8.24

1:13:46 其实可以这么看—某些生产是为了解决生存问题，某些是提高了生存的体验或者说quality of life（包括“探索宇宙奥秘”等满足好奇心的事情）。以前社会对个人价值的评判标准高度绑定于个体对社会生产力的贡献多寡，但如果能通过人工智能和机器人保证一定程度的生存所需生产力的话，剩下的基本上就是提高生命的体验了，那无非就是neocortex的好奇心和基本的生物欲望，包括更长的寿命不也只是要增大这份体验吗

HD449836s:技术的进步已经肯定地回应了Can It, 接下来就要看Will It了

HD449836s:又想了一下，大家的悲观情绪一方面是认知能力被AI打压的挫败感，另一方面是生存压力。应对认知上的挫败感应该可以对标纺织机之于工人、AlphaGo之于围棋手，现在也有人在下棋和看人下棋呀。对于生存压力，应该是要社会重新思考分配机制了，这个的guardrail或者说safety net是决策流程mmmmm……

打开小宇宙查看更多精彩评论