202
1📝 本期播客简介
本期我们克隆了：知名播客 Unsupervised Learning: With Jacob Effron xAI Co-Founder: Igor Babuschkin Unpacks the Future of Model Development
原内容更新时间：2026-07-31
本期嘉宾是xAI联合创始人、River AI创始人Igor Babuschkin，主持人是Redpoint投资人Jacob Effron。Igor的职业生涯几乎横跨了所有顶级AI实验室：在DeepMind主导星际争霸和AlphaCode项目，在OpenAI推理团队早期加入、参与了o1模型诞生前的研究，随后联合创办xAI，在约120天内建成Colossus数据中心，并推动Grok系列模型达到前沿水平。
这期节目里，Igor首次深度分享了离开xAI后创办River AI的完整思考，以及他在企业AI、个人AI和本地硬件上的三个核心押注。他还坦诚聊到了与Elon Musk共事的真实体验、对Cursor收购的看法、为什么他认为闭源模型厂商作为生意正陷入困境，以及他对AI对齐、开源模型和人类未来的深刻反思。如果你关心AI行业的走向、模型训练的瓶颈，或者想了解顶级AI研究者如何看待这个时代的变革，这期节目会给你大量一手判断。
👨⚕️ 本期嘉宾
Igor Babuschkin，River AI创始人兼CEO，xAI联合创始人。他的职业生涯横跨DeepMind、OpenAI和xAI三大顶级AI实验室：在DeepMind主导了星际争霸AI项目和AlphaCode项目，在OpenAI参与了推理方向的早期研究，随后联合创办xAI并主导了Colossus数据中心的建设。2025年离开xAI后创办River AI，专注于企业AI、个人AI和本地硬件三个方向。他是一位兼具研究深度和工程能力的AI领域领军人物，对模型训练、强化学习和AI对齐有极深的理解。
⏱️ 时间戳
开场 & 播客简介
嘉宾登场与背景介绍
主持人Jacob Effron介绍Igor的传奇经历
Igor接受邀请，对话正式开始
从科幻小说到AI愿景
Igor谈为何写科幻小说：编程Agent的爆发
现代版《魔法师的学徒》：AI失控的隐喻
个人AI是Agent的下一个迭代方向
AI的下一步：从可验证到不可验证
科学发现是AI的下一个明确方向
数据瓶颈：物理世界实验的挑战
超级AI与日常AI的分化
River AI的三个赌注
创办River AI的动机：分发AI的控制权
三个项目：企业API、个人AI、本地硬件
第一个赌注：River API强化学习服务
第二个赌注：个人AI与个性化对齐
第三个赌注：本地硬件与推理算力
本地AI的隐私与控制
控制权是本地AI的核心动机
本地设备的低延迟优势
个人AI的隐私问题与数据安全
模型个性化与端到端训练
个人模型的持续学习与定制
端到端训练的重要性
以个体幸福感为奖励函数
企业AI与开源模型的未来
企业定制模型的成本与速度考量
专有模型与开源模型的竞争格局
开源模型变强带来的趋势变化
专有模型厂商的困境：两头受压
开源模型与地缘政治
中国开源模型的优势与风险
开源模型降低门槛的价值
对模型后门风险的评估
美国需要最好的开源模型
从DeepMind到OpenAI的旅程
回顾AI进展的惊人时刻
从物理学家到AI研究者的转变
星际争霸项目的技术挑战
AlphaCode：编程是下一个大方向
加入OpenAI推理团队
OpenAI与DeepMind的比较
两家实验室的文化差异
OpenAI的优势：人才密度与共识
对AI权力集中的担忧
xAI的创立与Colossus
与Elon Musk的相遇与共鸣
xAI的创立与人才聚集
Colossus数据中心：120天的奇迹
质疑传统数据中心建设方式
与Elon共事的体验
Elon对工程师的尊重
深入工程细节的领导风格
高能量与团队动力
Cursor收购与编程模型
Cursor收购是极其聪明的一步
真实世界编程数据的价值
强化学习环境的重要性
模型训练的瓶颈与突破
最大瓶颈：长时域与不可验证奖励
编程赛道的陷阱与长时域领域
Agent rollout时间对训练的限制
不可验证领域的进展
LLM裁判方法的兴起
模型自身判断力的可靠性
配方已存在，等待大规模实验
AI的变革时刻与未来
编程Agent的变革超出预期
阶跃变化时刻的不可预测性
人类与机器的共生
人类在AI时代的位置
与机器建立正确的共生方式
对齐需要更深层次的进展
AI安全与放缓的呼吁
对放缓AI发展的公开信的看法
AI已太大，难以慢下来
在安全技术上加速
开源模型与对齐研究
开源模型对安全研究的价值
网络安全能力是当前最大风险
AI的风险评估
AI放大不平等的直接风险
模型接管一切的远期风险
结尾与感悟
《向机器神祈祷》中的动人句子
第一次让模型跑起来的神奇感觉
收尾与感谢
🌟 精彩内容
💡 "我们想做爵士乐队，不想做军乐队"
Igor用"爵士乐队"形容Notion的组织状态：不是没有结构，而是在结构中允许即兴、协作和个人发挥。AI时代变化太快，传统计划与层级不足以应对每周都在变的技术环境。
"我们想做爵士乐队，不想做军乐队。"
💡 AI产品不是造桥，而是酿啤酒
传统软件像造桥，设计清楚结果可预测；用language model构建产品更像酿啤酒，你无法完全控制"酵母"，只能让最强的人一起实验、评估、打磨。
"用language model构建产品，更像是在酿啤酒。"
💡 编程Agent的爆发是所有人都没预料到的变革
Igor坦言，他原本预期编程模型会平稳进步，但2025年11月、12月编程Agent突然跨过能力门槛，使用量爆发式增长，这种阶跃变化完全超出预期。
"使用量的突然爆发，那真的是另一回事。"
💡 闭源模型厂商正被两头挤压
前沿模型强到可能不被允许发布，而开源模型每个月都在变强。Igor认为做专有模型其实不是个好位置，出路在于创新和走向分布式。
"你把模型做得太好了，不让你发布；但开源就在你身后，每个月都在变强。"
💡 个人AI的核心是端到端训练个体幸福感
Igor认为，未来的个人AI应该针对每个个体进行端到端训练，以最大化一个人的幸福感为奖励函数，而不是让模型在平均用户上表现良好。
"你真的要针对你想优化的那个真实信号去做端到端训练——也就是个体的幸福感。"
💡 本地硬件是AI控制权的根本
Igor强调，把推理算力带到用户本地，让模型真正属于个人，是解决AI权力集中的根本一步。这既是研究问题，也是工程问题。
"我们能不能把推理算力带到用户本地？要真正在办公室、在家里放一台小设备就能跑前沿模型，需要做到什么？"
💡 美国需要拥有最好的开源模型
Igor认为，美国拥有最好的开源模型至关重要，这既是地缘政治的需要，也是让更多人参与AI对齐研究的基础。
"我们应该都想办法，怎么让一个美国团队训练出全世界最好的开源模型，没有之一。"
💡 人类需要与机器建立深层次的共生
面对"机器能做所有工作，人类还剩什么"的问题，Igor认为关键在于找到与机器的正确共生方式，这需要对齐方面的新进展，甚至可能包括神经接口。
"我们应该努力的方向，是想办法让共生继续下去。而对我来说，这需要对齐方面的新进展。"
🌐 播客信息补充
本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的
使用 AI 进行翻译，因此可能会有一些地方不通顺；
如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight
