#571. Demis Hassabis:普通人如何理解 AI 权力中心,巨头竞赛下的安全与科学理想

#571. Demis Hassabis:普通人如何理解 AI 权力中心,巨头竞赛下的安全与科学理想

50分钟 ·
播放数580
·
评论数0

📝 本期播客简介

本期我们克隆了:Unsupervised Learning: With Jacob Effron《A Conversation With Demis Hassabis' Biographer

本期节目里,主持人 Jacob Effron 对话 Sebastian Mallaby,后者是 Demis Hassabis 传记《The Infinity Machine》的作者。为了写这本书,Sebastian 与 DeepMind 联合创始人、Google DeepMind CEO Demis Hassabis 进行了三十多个小时的深度访谈。

这期节目不仅是在聊一本人物传记,更像是借 Demis 的人生和 DeepMind 的历史,重新审视过去十几年 AI 竞赛是如何形成的:为什么最初想避免竞争的 DeepMind,最后也不得不卷入全球 AI 军备竞赛?为什么 OpenAI 和 Sam Altman 曾被过早加冕为赢家,而 Demis 和 Google DeepMind 却长期被低估?为什么 DeepMind 一边拥有顶尖科学成果和 AlphaFold 这样的诺奖级突破,一边又在 ChatGPT 和 coding agent 等产品浪潮中显得慢半拍?

节目还深入聊到了许多 AI 圈关键人物之间的真实关系:Demis 与 Elon Musk 从相互欣赏到紧张对峙,Elon 曾试图阻止 DeepMind 卖给 Google;Demis 如何看待 Sam Altman;David Silver 为什么离开 DeepMind;以及 Dario、Anthropic、Google、OpenAI 这些实验室之间不同的组织气质、战略押注和人才吸引力。

如果你想理解今天 AI 竞赛背后真正的权力结构、科学理想、安全焦虑和人物性格,这期节目会是一扇非常好的窗口。

👨‍⚕️ 本期嘉宾

Sebastian Mallaby,《The Infinity Machine》的作者,知名财经与人物传记作家。他曾写作关于风险投资、金融与全球经济人物的多部作品。本书中,他通过与 Demis Hassabis 超过三十小时的深度访谈,以及对 DeepMind、Google 和 AI 生态中多位关键人物的采访,讲述了 Demis Hassabis 与 DeepMind 的故事。

⏱️ 时间戳

00:00 开场 & 播客简介

AI 竞赛的起点

02:06 为什么写 Demis:三十多个小时访谈背后的 DeepMind 故事

03:36 AI 竞赛是否不可避免:强大技术注定吸引多个国家和实验室

04:19 “地堡里的唯一团队”:DeepMind 早期想避免竞赛的安全理想

05:53 SpaceX 安全峰会的反效果:共享进展如何刺激 OpenAI 的诞生

07:17 政府监管的可能性:AI 模型是否应该像药品一样接受事前审查

08:47 Demis 的乐观:为什么危机可能迫使政府采取行动

被低估的 Demis 与 Google DeepMind

10:06 最大误解:大众太快加冕 OpenAI,却低估了 Demis 和 Google

12:07 Google 的产品化困境:为什么 ChatGPT 和 Claude Code 都不是 DeepMind 做出来的

12:41 Demis 的知识背景:神经科学家如何影响 DeepMind 的“广撒网”路线

14:26 Google 的优势与代价:有钱、有算力、有耐心,但不一定能最早押中重点

DeepMind 与 Google 的复杂婚姻

15:29 Project Mario:DeepMind 曾秘密考虑从 Google 拆分

16:06 Reid Hoffman 的十亿美元承诺:拆分计划如何成为谈判筹码

18:12 创始人的天真:为什么 DeepMind 最后没有真正挥动拆分威胁

19:20 Demis 的后悔:AI for science 无悔,但错过 transformer 让他难以释怀

19:48 从 AlphaGo 到 AlphaFold:胜利十秒后就转向蛋白质折叠

21:47 Demis 的盲点:为什么他低估了语言模型通向智能的力量

巨头、创业公司与战略押注

23:22 风投创新能否战胜 hyperscaler:AI 时代资本与聚焦的拉扯

24:00 OpenAI 的商业模式压力:技术强,不代表一定能长期独立

25:09 Anthropic 的反事实:如果 coding model 晚爆发半年,故事可能完全不同

26:21 Demis 是否需要更公众化:回顾性叙事很强,前瞻性叙事不如 Sam

27:26 控制叙事的重要性:影响产品采用,也影响人才招聘

28:47 人才为什么离开 DeepMind:顶尖研究者更想加入“单点重注”的组织

29:57 Isomorphic 的独立化:让 AI for science 成为自己的核心赌注

30:11 Anthropic 的低流失率:强烈价值观如何带来高忠诚度

关键人物与关系网络

31:23 David Silver 的离开:强化学习信徒为什么想离开大组织创业

31:36 RL 与大模型路线之争:从经验中学习,还是从互联网数据中启动

34:05 为什么现在离开:强化学习重新流行,但组织押注仍不够集中

34:44 AI 实验室背后的少数掌舵者:个人关系如何影响行业走向

35:07 Demis 与 Elon:从 Founders Fund 场合相识,到 Elon 试图买下 DeepMind

35:29 “AI 会追你到火星”:Demis 如何说服 Elon 投资,又为何拒绝卖给他

38:21 Demis 如何看 Sam:科学家气质与硅谷融资高手之间的根本差异

AI 的伟人史观与精神追求

38:37 人物重要吗:竞赛动态不可避免,但领导者个性会改变路径

40:35 最改变作者看法的时刻:Demis 对科学奥秘近乎精神性的执着

41:48 AGI 的宗教意味:为什么追寻智能对很多人不只是技术项目

42:07 Demis 不愿谈什么:家庭、Google 内部冲突与 Mustafa Suleyman 离开

科学品味与未来可能

43:45 DeepMind 的真正启发:如何在前沿科学里判断什么时候该继续下注

45:00 AlphaFold 的关键转折:从“世界第一”到“真正解决问题”

46:37 被低估的 AI 英雄:Ilya Sutskever 与 David Silver 值得一部双人传记

47:11 Demis 会成为 Google CEO 吗:取决于他是否愿意牺牲科学时间

48:29 Sebastian 的写作体验:酒吧楼上三十小时对话如何改变一本传记的写法

🌟 精彩内容

💡 AI 竞赛几乎不可避免

Sebastian 认为,当一项技术拥有如此巨大的潜在力量时,不可能只有一个团队、一个国家或一个实验室去追求它。DeepMind 早期曾希望自己能成为那个在 AGI 边缘统一处理安全问题的团队,但现实证明,这种想法过于理想化。如今 Demis 已经转向另一种判断:AI 安全是集体行动问题,最终需要政府和国际合作介入。

“因为这项技术太有吸引力了,不可能只有一个团队对它感兴趣。”

🧠 被低估的 Demis Hassabis

节目中反复提到一个核心判断:公众太快把 OpenAI 和 Sam Altman 视为 AI 竞赛的最终赢家,却低估了 Demis Hassabis 和 Google DeepMind。Demis 早在 2010 年就创办 DeepMind,很多后来被 OpenAI 复制的 AI 实验室模式,最早都是由他开创的。Sebastian 认为,AI for science 这个方向在很长一段时间里几乎是 Demis 一个人真正坚持推动的。

“我觉得,人们太快就把 OpenAI 和 Altman 加冕为赢家了,同时低估了 Demis 这个人,也低估了 Google DeepMind 这家公司。”

🔬 DeepMind 的优势与短板:什么都想做

DeepMind 的一大特点是同时探索很多方向。Sebastian 认为,这与 Demis 的背景有关:他是神经科学 PhD,关心的是“智能到底是什么”这种宏大问题,因此很自然地倾向于广泛探索。Google 的资金、算力和人才让这种广撒网策略成为可能,但代价是,在 ChatGPT、coding agent 这样的产品化拐点上,DeepMind 往往不是第一个冲出来的玩家。

“只要有两条不同路线可以走,他们就会说,那我们两条都做。”

🧩 Project Mario:DeepMind 差点离开 Google

节目披露了 DeepMind 曾秘密考虑从 Google 拆分出去的 Project Mario。Reid Hoffman 曾承诺出资十亿美元支持拆分,Demis 试图用这一备用选项向 Google 争取更多安全监督权。但最终,他选择留在 Google:一方面不想陷入法律斗争,另一方面需要 Google 的巨大算力。这个选择后来帮助他推动 AlphaFold,并最终获得诺贝尔奖。

“我只想做科学。我不想被法律斗争分散注意力。我想要大量 compute 的访问权,所以我留下。”

⚖️ OpenAI、Anthropic 与 Google 的不同命运

Sebastian 认为,AI 竞赛也是风投支持的创业公司与 hyperscaler 巨头之间的竞争。Google 有近乎无限的现金与算力,可以承受落后一两年再追上;但创业公司更敢于做集中押注。OpenAI 押注 ChatGPT,Anthropic 押注 coding model,而 DeepMind 则往往同时推进许多方向。这种差异决定了它们在产品、人才和叙事上的不同表现。

🧲 公众叙事也是竞争力

Demis 擅长回顾性地讲述自己的故事,比如 AlphaGo 纪录片、《The Thinking Game》以及这本传记。但他不太像 Sam Altman 那样擅长在社交媒体上制造前瞻性叙事。Sebastian 指出,这会影响产品采用,也会影响人才招聘。AI 时代,谁控制叙事,谁就更容易吸引用户、资本和研究者。

“控制叙事确实很重要。”

🤖 David Silver 与强化学习信仰

David Silver 是 DeepMind 早期强化学习突破的关键人物,也是 AlphaGo、AlphaZero 背后的重要推动者。他坚信真正的超级智能必须从自己的经验中学习,而不是依赖人类留下的数据。Sebastian 认为,他离开 DeepMind创业,正是因为他希望在一个更小、更集中的组织里,让自己的强化学习愿景成为整个公司的核心路线。

“在他看来,一切都是 Agent,而且只能是 Agent,它们必须从自己身上学习。”

🔥 Demis 与 Elon 的复杂历史

Demis 和 Elon Musk 的关系非常戏剧化。Elon 曾投资 DeepMind,也曾试图阻止 DeepMind 卖给 Google。他担心 Larry Page 和 Google 不可信,甚至半夜通过 Skype 联系 Demis,试图说服他卖给 SpaceX 或 Tesla。但 Demis 拒绝了,因为 Google 有他需要的算力。此后 Elon 一度将 Demis 视为需要制衡的“邪恶天才”。

“如果你觉得自己在火星上就安全了,别忘了,我的 AI 会掌握太空飞行,然后它会一路跟你到火星。”

🧬 AI for science 是 Demis 的核心信念

AlphaGo 战胜李世石后,Demis 只享受了十秒胜利,就开始谈下一个目标:解决蛋白质折叠问题。Sebastian 认为,这不仅体现了 Demis 的雄心,也体现了他对 AI 社会合法性的判断:如果 AI 不能给人类带来明确好处,只带来工作冲击,那么社会可能会强烈反弹。AlphaFold 不只是科学突破,也是让人类接受 AI 的关键证据。

“如果 AI 不能给人类带来明确的好处,只是带来很多工作岗位的冲击,那 AI 能否大规模铺开就会成为问题。”

🌌 近乎精神性的科学追求

最让 Sebastian 改变对 Demis 看法的,是他发现 Demis 对科学奥秘有一种近乎精神性的执着。Demis 会拍着桌子说,我们其实并不理解这张桌子为什么是坚固的,也不理解一堆沙子和铜组成的电脑为什么能思考。对他来说,推动 AI 不只是技术竞赛,而是一种试图理解自然、智能乃至世界底层秩序的追寻。

“因为对他来说,这是一种近乎精神性的追寻。”

🌐 播客信息补充

本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的

使用 AI 进行翻译,因此可能会有一些地方不通顺;

如果有后续想要听中文版的其他外文播客,也欢迎联系微信:iEvenight