174. 我们还能给算法当多久的品味老师？｜对谈亚马逊AGI查晟

起朱楼宴宾客

88分钟 ·1 天前

11862

2026年的年度专题“算法纪”聚焦算法与媒体，第四集我们从业内视角解读人类在AI时代应如何应对“认知负债”等问题。

大家好，我是大卫翁，"起朱楼宴宾客"是我用来记录这个大时代的播客节目。

对谈嘉宾介绍：

查晟，亚马逊AGI部门基础研究团队负责人。

如果说这个系列的前几期讲的是算法如何定义身份，那么这一期我们在讲算法时代人怎么不被一起拖下去。

第一期指路：《159.算法的六副面孔：它是如何从处理数据，变成定义我们是谁的》

第二期指路：《164.算法的“兔子洞”：为什么你总在看完新闻后滑向娱乐？｜对谈黄圣淳教授》

第三期指路：《167.柏拉图、卢梭、哈耶克、阿伦特四大哲学家会如何解释算法时代？｜串台独树不成林》

简明时间轴：
06:00 最近几个月行业内最让查晟意外的是，虽然开源模型缺乏“数据飞轮”，但中国团队仍在坚持
18:12 “模型塌缩（Model Collapse）”问题：AI 用 AI 生成的内容训练，性能会逐代退化。

延伸阅读：Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). "AI models collapse when trained on recursively generated data." Nature, 631(8022), 755–759. DOI: 10.1038/s41586-024-07566-y 2024 年 7 月 24 日

22:17 当前AI的自我迭代仍高度依赖人类的品味（Taste）来定义问题和指引优化方向

26:57 “认知负债（Cognitive ）”问题：过度依赖AI导致的注意力、工作记忆、语言处理能力下降。

MIT Media Lab 2025 年的研究：让一组人用 ChatGPT 写作，一组人不用。脑电图显示用 LLM 的人 alpha 和 beta 波在前额和颞顶区下降，这些是注意力、工作记忆、语言处理的核心区域。

31:40 “知识塌缩（knowledge collapse）”现象：过度依赖大模型可能导致人类知识收敛于少数主流观点

36:27 AI价值观由训练数据和人类反馈决定，目前缺乏广泛的外部监管

48:39 “主权AI”的战略意义：各国需要训练符合自身需求的大模型以防止文化同化

01:04:11 AI展现跨领域解决难题的能力，要求人类向通才方向发展，培养跨领域的“品味”，通识教育和掌握第一性原理变得尤为重要。

01:10:42 社会价值观的转变：从以生产为导向转向关注人际连接、影响力、艺术和自我提升

01:26:16 AI时代的生存法则：接受通识教育、做会提问的人、注重人际关系

欢迎关注我的新书《资产配置行动指南》，解读和购买链接在这里：158. 播客里聊了四年的资产配置，我把它做成了一本《行动指南》

欢迎订阅我的Substack频道，它是一个以英文为主的频道：hubris2025.substack.com

欢迎关注我和雨白、小跑新制作的时事聊天节目《不熄灯Lights On》

欢迎关注我的生活方式类节目《犬生活》，《纽约有一种气质叫“都行”｜和杨蒙恩的临别闲聊局》最新上线！

欢迎加入我的知识星球，我正在好好运营那一片后花园。

欢迎在评论区互动，或者给我写邮件，邮箱地址qizhulouyanbinke@gmail.com。

节目BGM：

Propellerheads - Spybreak! (来自The Matrix)

Rage Against The Machine - Wake Up (来自The Matrix)

节目后期：大卫翁

展开Show Notes

_Silas

1 天前

这真是一个的绝妙的好问题，个人认为很多人甚至都没意识到我们现在的作用是决策和品味

大卫翁

:但我担心的是品味会随着我们认知和思考的退化会逐渐消失，毕竟品味本身是我们在前AI时代通过不断的实践积累起来的…

BINNNNGO:感觉已经是了🙈

共3条回复

Ass嘟嘟

14小时前

生成式大模型，算法时代最新进化的产物，也是时下的焦点。
人类的最后一个prompt可能是AI写的。

「✅虽然开源模型缺乏“数据飞轮”，但中国团队仍在坚持」
中国很多团队，坚持做开源大模型。缺陷是无法直接形成数据飞轮，链路是断的。也是结构性的劣势，放出的所有东西，别人都会马上学、马上用。
中美大模型的差距：6个月左右。
美国的大模型大多利用数据飞轮，用的越多它越快，呈指数级发展。
中国的劣势是开源模型无法收集这些数据，只能依靠自己的预训练。
国内开源：阿里的千问、Kimi、智谱、
移动互联网时代，中国追求闭环的商业生态，美国反而互联；AI时代相反，中国更多采取开放的姿态。
数据飞轮，是大模型的底层逻辑之一。价值在于你能存多少有用的东西，读取和存储的成本有多高。
不开源模型，从用户处得到数据飞轮，是你的商业上的壁垒，其他人用不了。

「✅“模型塌缩（Model Collapse）”问题：AI 用 AI 生成的内容训练，性能会逐代退化。」
现在很多顶尖的大模型公司，已经试图用AI迭代AI了，让它自我迭代。
因为全世界就这么多人，人每天就产生这么多信息，增长速度有限，只能采用AI生成数据的方式解决。但生成之后，要把控数据的质量。
并不是所有AI生成的数据都会导致模型塌缩，而是说这个数据如果不经过筛选，不经过质量把控，确实会导致模型的能力下降。
它迭代的每一步都是保证，这么做了之后，我的数据质量会让模型性能变得更好。

「✅当前AI的自我迭代仍高度依赖人类的品味（Taste）来定义问题和指引优化方向」
Taste：你需要知道什么是更好的（方向）。
现在AI能力有限，给定一个问题之后，需要人告诉它解决这个问题更短、更简单、更容易的路径是什么。需要人给它input。

「✅“认知负债（Cognitive ）”问题：过度依赖AI导致的注意力、工作记忆、语言处理能力下降。」
用大模型的人， alpha 和 beta 波在前额和颞顶区下降，而这些是注意力、工作记忆、语言处理的核心区域。
短期确实效率会上升，但你的长期能力会下降。用进废退，是大脑的特性。如果把很多思考交给AI，就会导致自己的思考能力下降。
之所以愿意这么做，是因为以丧失自己一部分思考能力为代价，得到的短期收益特别大。
还是要脱离AI，自己训练自己，长时间注意一样东西，去思考的训练。也会帮助人更有效的利用AI。
AI最重要的harness还是人。最重要的是使用这个AI的人，能提出什么样的问题，能帮AI怎样搭起一个解决问题的框架。
虽然AI的参数里存了很多有用的知识和信息，但如果不会提对应的问题，也无法从中得到价值。
你要做的是目前为止只有人能做的事情，而不是AI真正擅长做的事情。比如提升Taste、了解不同的方向。

「✅“知识塌缩（knowledge collapse）”现象：过度依赖大模型可能导致人类知识收敛于少数主流观点」
当所有人都通过大模型获取信息，被表达出来的知识会收敛到最主流的那一小撮观点里面。因为所有的大模型，学习路径是类似的。
而现在的大模型，一般不会使用静态知识，更多是基于你的Prompt，从外部获取信息，做推理和任务。在有外部信息源的情况下，一定程度会缓解该问题。
指导模型搜索信息时，尽量多元；生成时也多给一些不同的选项。

「✅AI价值观由训练数据和人类反馈决定，目前缺乏广泛的外部监管」
语言模型的世界相当于是用人的语言符号构建出来的一个虚拟世界。它并不是真实世界的反应。它的价值观就体现在这个模型所见过的数据，所得到过的reward。它所代表的那个价值观。
看起来是一个精密的运转机器，背后就是那几个人。
最终的很多的决定，就是一两个人写入了机器人/AI。它把它变成了自己的信念，遵守的原则。
如果我强烈要求你必须给我从网上搜索可靠的信源，不要用你自己内部的数据回答的时候，它会去搜索。但一般不会无限制的搜索。每多增加一个信息源，消耗的成本更高。
国内很多内容平台，是一个封闭的，不让AI获取的。但也有一些爬虫网站，实时更新。
让企业用自己的数据从头训练一个基础模型。这个AI是长期被自己的数据和价值观塑形的。

Ass嘟嘟:「✅“主权AI”的战略意义：各国需要训练符合自身需求的大模型以防止文化同化」全世界大部分国家，没有自己有从头开发AI的能力。AI作为一个放大任何你给它的价值观的放大器，对那些国家的价值观会造成持续的影响。时间久了，会在潜意识里影响你的想法。每个国家都还是需要有自己的AI。它是希望能够表达的价值观，希望能够做好的任务，希望能够存下来的知识都是会以数据的形式表达给模型。通过持续训练一些已经训练的还不错的模型，让它做好这些事情。不管是什么样的价值观，最后还是信息。你只要把信息表达成数据，让这个模型在这个数据上训练，就可以做好这个事情。所以技术上并没有什么额外的挑战。看起来AI在告诉你一个特别中立客观、专业深度的内容。但因为它底层的数据，甚至数据背后的标准背后的人不一样，都会影响到它最终的output。不光是内容或者用户会被算法影响。建造这些算法的人，在未来的两年可能会受到比较大的冲击。投入时间会更有针对性。主要的工作很多是信息的获取和处理，AI可以做。把自己时间解放出来，做其他更有意义的事情。「✅AI展现跨领域解决难题的能力，要求人类向通才方向发展，培养跨领域的“品味”，通识教育和掌握第一性原理变得尤为重要。」定义好任务之后，只要问题本身清楚，不需要告诉AI解决问题有哪些选项/路径。相当于用另一个领域的方式解决这个领域的问题。术业有专攻，人的专业领域有限，但是AI agent可能换个角度思考，用另外一个领域的知识，就可以解决这个领域的原本一个比较麻烦的难题。上个时代很多发明家、科学家都是通才。但是到一个时代开始，人类变得越来越专。但到了一个程度之后，反而有一些难题你又需要触类旁通才能解决。人现在是AI最重要的Harness（驾驭系统 / 控制框架），人需要培养Taste（品味）。如果一个人对很多领域中的第一性原理都非常熟悉，知道这些领域都是怎么运作的。他会看到很多跨领域结合创造价值的机会。目前AI无法直接替代。通识教育：每学一个领域，你能解决的问题的大类就变多了。我不需要成为了解这个领域的专家，但至少要知道在这个领域怎么提问，能解决什么？不能解决什么？原理是什么？怎样从中获取有效解决问题的方法？帮助你有效的从模型里获得对应的价值。「✅社会价值观的转变：从以生产为导向转向关注人际连接、影响力、艺术和自我提升」衡量自己提供的价值：我对其他人造成的实际影响。以前是生产为导向，以这个人的劳动输出为导向；现在既然生产已不再是人类有效的竞争优势赛道——因为所有人都会输给AI——那么，未来的竞争格局或将发生根本性转变。人怎么挑战自己的极限，超越自我？怎么让人变得更好？怎么探索未知？通过让这个模型自己接触真实世界，表达真实世界的其他模态的表征。最后AGI的形态，体现在持续不断的学习能力上。「✅AI时代的生存法则：接受通识教育、做会提问的人、注重人际关系」如果你想在下一个时代依然成为创作者，你应该了解更多的通识教育；哪怕你只是一个生活在这个时代的人，你也应该接触不同的知识，做那个会提问的人，更加注重人和人之间的关系。期待着这个时代的整个范式，会从以生产为核心的社会组织模式向下一个社会组织模式迁移。到那个时代自然会有那个时代的使命给每个人。

不要活成NPC:感谢感谢，终于等到你，还好我没放弃～

共3条回复