165
0📝 本期播客简介
本期我们克隆了：Dwarkesh Patel · Recursive self-improvement has started
原内容更新时间：2026-11-13
“距离 AI 在 AI 研究上达到人类顶尖水平，只剩下两年左右了，甚至可能只剩几个月。”Dwarkesh Patel说，自己几个月前还不相信这个判断，如今却认为 AI 已经在加速 AI 的发展。
他从数学能力的跃升、AI实验室的研发效率变化，推演自动化研究员如何凭借更快的工作速度、更强的能力和更多的并行实例推动进展。他也谈到持续学习、数据和实验算力这些可能的瓶颈，并解释为什么即使 AI 研究不是完全可验证的，仍可能被大规模自动化。
👤 本期嘉宾
Dwarkesh Patel 是本集原节目的主持人和作者，围绕 AI 研究自动化与递归自我改进展开论证。他关注 AI 在可验证任务上的进步，以及这些能力能否迁移到 AI 研发；本集的判断来自他对近期进展的观察、推演和对主要反对意见的回应。
⏱️ 时间戳
AI进步正在加速
00:20 AI研究达到顶尖水平，或许只需几个月到两年
01:09 METR称范围明确任务的AI进展速度翻倍
02:53 两年间，数学能力从做不出竞赛题到拿下金牌
自动化研究员的冲击
10:44 AI工作速度约为人类10倍，可全天候工作
14:15 点子变难找的速度，决定会不会出现纯软件奇点
15:10 一年压缩出约4年进展，可能从GPT-3.5跨到GPT-6
可验证性与瓶颈
25:35 AI最令人头疼的缺陷：样本效率不足
34:03 缺少持续学习，未必阻止研究工作自动化
40:05 一万个agent，或各自每天训练一个GPT-3规模模型
🌟 精彩内容
💡 AI研发效率已经在加速
METR在Anthropic观察3个月后称，范围明确任务上的AI进展速度是一年前的2倍。Anthropic报告称，Claude参与的AI研发工作从2月不到1%，升到26%；OpenAI高频使用内部 coding agent 的研究人员，每天使用的价值从约1000美元涨到8月底超过7000美元。
"如今这部分加速大半很可能是因为 Anthropic 广泛使用 AI 来做研发。"
💡 一年可能压缩出4年进展
如果AI自动化研究，研究员会更快、更聪明，数量也更多。Dwarkesh Patel估计，即使最终不是几个月内出现“纯软件奇点”，自动化后的第一个自然年也可能取得相当于当前速度4年的进展。
"这相当于从 GPT-3.5 到 GPT-6 Astra 那么大的跨越，只用了短短 12 个月。"
💡 数学能力的跃升让他改了判断
2023年，模型还不能稳定做四位数加法；2024年，几乎做不出高中数学竞赛题；2025年，已经能在国际数学奥林匹克竞赛拿金牌。随后，OpenAI用88小时解决了一道千禧年大奖难题。
"关于诸神的陨落，有一件事是确定无疑的。他们不会只是稍稍跌落，而是会轰然坠地，摔得粉碎。"
💡 缺少长期记忆，也未必拦得住
他曾认为，每次会话都像AI“上班第一天”，缺少持续学习会卡住研究自动化；但现在他认为，扩展上下文学习或在可验证任务上提升在线学习能力，或许能绕开这个瓶颈。他仍给“到2032年之后才自动化顶尖研究员工作”留了25%的概率。
"这些模型都已经在解决千禧年大奖难题了，却依然像一些没有长期记忆、傻乎乎的天才实习生。"
💡 一万个研究员agent，各自每天训练一个GPT-3
他用算力增长推演：到2027年底，OpenAI或许能给1万个agent分配足够算力，让每个agent几乎每天训练一个GPT-3规模的模型。作为对照，最初的Transformer论文训练最终模型用了8块P100跑3天，今天租用这批算力约需50美元。
"那么你觉得，一家 AI 实验室如果有 1 万名优秀研究员，每个人都有这么多算力，而且思考速度都快 10 倍，生产力会有多高？"
🌐 播客信息补充
本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的
使用 AI 进行翻译，因此可能会有一些地方不通顺
如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight
