167
0【节目介绍】
这一期，我们继续沿着黄仁勋“五层蛋糕”的思路往上走，从英伟达 GPU 的演进讲起，进一步拆开 AI 算力背后的另一条主线：GPU 为什么需要 HBM？为什么 GPU 越来越多以后，互联反而成为新的瓶颈？为什么铜线最终会把我们推向光通信和 CPO？AI 的竞争，正在从“谁能算得更快”，逐渐变成“谁能让数据移动得更快、更近、更省电”。从 GPU 到 HBM，从 NVLink 到光通信，再到 CPO，我们会看到一条非常清晰的演进路径：算力不断集中，数据不断膨胀，而解决问题的办法，却越来越接近物理世界——缩短距离、提高带宽、降低搬运成本。当计算、存储和通信的边界开始逐渐消失，AI 芯片最终竞争的，也许已经不再是一颗芯片的性能，而是整个系统作为一台“计算机器”的效率。
【时间线】
引言
AI 五层蛋糕中的第二层——芯片与系统层，重点讨论 GPU、HBM、互联和封装如何共同支撑 AI 算力。
英伟达的GPU
GPU 如何从游戏显卡发展为 AI 计算核心。CUDA 建立了英伟达的软件生态，而 NVLink、NVSwitch 等技术则让多颗 GPU 组成更大的算力系统。
AI芯片行业
英伟达的核心优势不只是硬件，而是 CUDA 生态。其他厂商则通过自研芯片、专用加速器和国产生态建设，寻找不同的突破路径。
高带宽内存 HBM
为了解决“内存墙”问题，HBM 通过缩短 GPU 与内存之间的距离，提高数据传输速度和能效，成为 AI 芯片的重要组成部分。
光通信
当AI集群规模扩大后，数据传输成为新的瓶颈。光通信、NVLink、NVSwitch 和 CPO 等技术，都是为了解决芯片和机架之间的高速互联问题。
总结
AI 算力竞争已经从单颗芯片性能，转向计算、存储、互联、封装和散热共同协作的系统级能力。
【参考资料】
The Age of Interconnection（互联的时代）
SerDes Part 1: The Technology You Should Know Before CPO（在成为 CPO 之前应该了解的技术）
SerDes Part 2: The Bigger Picture Behind the Copper–Optics WarSerDes （铜缆之争背后的真相）
【片头片尾音乐】
【感谢】
特别感谢[AIGC开放社区]和[AI重塑世界]的大力支持，请听友及时订阅微信公众号，查看本播客的文字版内容。欢迎订阅本播客节目，本节目在小宇宙、喜马拉雅、苹果播客、蜻蜓FM、网易云音乐、荔枝FM等平台均已上线。
