#623.Dylan Patel 谈驱动 AI 革命的基础设施

#623.Dylan Patel 谈驱动 AI 革命的基础设施

55分钟 ·
播放数591
·
评论数0

📝 本期播客简介

本期我们克隆了:知名播客 WisdomTree in Europe | Dylan Patel on the infrastructure powering the AI revolution | The Next Big Thing

原内容更新时间:2026-07-09

本期嘉宾是半导体与AI供应链研究机构SemiAnalysis的创始人Dylan Patel,主持人是WisdomTree的同事。Dylan带领着一个近百人的团队,为全球顶尖机构提供从芯片到数据中心的全面分析,他以对技术细节和供应链拐点的精准预判闻名业内。

这期节目是一场关于支撑AI革命的基础设施全景式深度对谈。话题从模型、芯片、存储、网络,一路延伸到数据中心背后的电力供应,几乎覆盖了整个技术栈的关键环节。Dylan不仅拆解了每个细分市场的供需错配和技术演变,还分享了他从论坛发帖少年到创办一家90人研究机构的独特历程。

如果你正在关注AI投资、半导体周期、数据中心能源,或者想理解NVIDIA、Anthropic、存储芯片、CPU、光通信这些关键词背后的真实逻辑,这期节目会提供极高密度的一手信息和独特框架。

👨‍⚕️ 本期嘉宾

Dylan Patel,SemiAnalysis研究机构创始人。SemiAnalysis是全球最具影响力的半导体与AI基础设施独立研究机构之一,客户涵盖顶级对冲基金、云厂商和AI公司。Dylan从十几岁起就在网上发表芯片和硬件分析,2020年创办SemiAnalysis,从一个人的Substack发展为拥有90人、覆盖芯片、网络、数据中心、能源全链条的研究平台。他的团队曾因对NVIDIA Blackwell性能的基准测试被黄仁勋在GTC大会上公开引用而备受瞩目。

⏱️ 时间戳

从论坛发帖到创办SemiAnalysis

01:18 播客开场:梳理AI基础设施现状

01:53 SemiAnalysis的起源:从十几岁在网上发帖开始

03:27 2020年创办公司:把技术、商业、金融、供应链揉在一起

06:51 从Substack到信息服务:2022年开始招人,雪球滚下山

AI模型的ROI与token经济学

14:22 核心问题:AI的ROI到底能不能持续?

15:58 Claude Code爆发:年度经常性支出从10万飙到400万美元

18:09 模型选择的两种逻辑:锁定质量等降价 vs 用最新模型反而更便宜

20:51 为什么Anthropic能打败OpenAI:token效率是关键

存储:正在发生的超级短缺

22:17 存储周期规律被打破:所有东西都缺货

23:18 存储价格已涨4倍,还会再涨两三倍

24:11 O1推理模型如何让内存成为最大赢家

25:56 未来三年内存产能只增20-30%,需求却在翻倍

CPU:被低估的补涨故事

30:11 为什么CPU突然到处都在被讨论

30:39 强化学习和Agent工作流如何引爆CPU需求

35:07 CPU架构取舍:要更多核心还是更快的核心?

38:22 CPU需求是“拨正”而非永久性超越:历史欠账正在集中回补

网络与光通信:CPO会来,但比想象中晚

40:08 从铜到光的过渡:共封装光学(CPO)的时间表

41:36 CPO不会在2027年到来,真正上量要到2028年底

42:55 中期反而看好铜和非CPO光通信,对CPO偏空

数据中心电力:从卡车发动机到太空太阳能

44:15 电力是数据中心最大的制约因素

46:18 表后发电模式正在飙升:一半新增电力将就地解决

47:59 把柴油卡车发动机改成燃气机来发电,有人已经在做了

51:49 变电侧同样关键:从脏电到芯片想要的超干净电

🌟 精彩内容

💡 "我们年度经常性支出从10万飙到400万美元,就是因为Claude Code"

Dylan用SemiAnalysis自身的数据证明了AI的ROI是真实的。公司员工支出中超过三分之一花在AI上,但回报巨大——每个人效率都提高了,能做出更多产品、卖出更多东西。那些砍AI预算的公司,在生产力上会被远远甩在后面。

"我们的员工支出里,有超过三分之一是花在AI上……回报巨大,因为我们能做出产品,能卖出更多东西。"

💡 "用最新模型反而更便宜"

很多人以为省钱的方法是换用更便宜的模型,但Dylan指出,当AI作为助手时,token效率才是关键。新模型可能用四分之一的token、一个来回就完成任务,而旧模型需要十万个token和反复拉扯。成本降低的路径不是用便宜模型,而是用越来越新的模型。

"Claude 4.8 Opus可能只需要四分之一的token,两万五千个,而且可能只需要一个来回就搞定了。所以,成本其实更低。"

💡 "内存处于短缺状态,不是短期短缺,是会持续好几年的短缺"

Dylan在2024年12月就提出,O1推理模型的KV cache会让内存需求爆炸式增长。未来三年内存产能每年只增长20-30%,但需求在翻倍。价格会持续飙升,直到智能手机、笔记本电脑这些对价格敏感的需求被挤出市场,把产能让给AI。

"内存价格会持续飙升。那些对价格弹性承受力较弱的内存用户,会被挤出市场。"

💡 "CPU需求是一次'拨正',不是永久性超越"

CPU需求确实在暴涨,但Dylan提醒,这很大程度上是在补历史欠账——过去几年卖了大量GPU却没配够CPU。一旦欠账补完,需求就会回落到稳态。大部分钱还是会流向AI算力和内存,CPU不会一直涨到超过AI ASIC。

"我现在经历的正是这种巨大的补涨,同时配比也上移了,再加上历史欠账在集中回补。它会慢慢消化,然后进入一个稳态。"

💡 "CPO肯定会来,但时间点要往后推了"

市场对共封装光学(CPO)过于兴奋,但Dylan指出制造产能不够、良率不行、芯片还没设计好。NVIDIA的Rubin和Feynman两代GPU都还是铜方案。中期反而看好铜和非CPO光通信,因为铜缆行业正在发生很多创新,在把CPO往后推。

"集成光学比用电传输贵太多了。除非我用电传输时,不加中继器或光模块就传不了多远。"

💡 "你可以直接把卡车发动机拿来改装,雇一群机械师,就这么把场站跑起来"

数据中心电力短缺有各种解法,从最"脏"的——把柴油卡车发动机改成烧天然气来发电——到最极端的——把芯片送到太空用太阳能。Dylan认为电力不会是永久瓶颈,因为解法光谱非常宽,而供应链其他环节就没这么多选择了。

"数据中心这个问题是有解的,不管你是走最脏的路子,还是直接上太空。而供应链的其他环节就没这么多解法了。"

💡 "供应链里全是这种不起眼的小环节,而且都会出现供需错配"

除了内存、CPU这些大块头,Dylan提醒投资者关注PCB钻头、铜箔等极偏门环节。这些做小部件的公司遍布全球,在台湾、日本、韩国上市,对大多数投资者来说并不容易接触到,但正是这些局部瓶颈蕴含着巨大的错位机会。

"供应链里全是这种不起眼的小环节,而且都会出现供需错配。"

🌐 播客信息补充

本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的

使用 AI 进行翻译,因此可能会有一些地方不通顺;

如果有后续想要听中文版的其他外文播客,也欢迎联系微信:iEvenight