521
9大家好，这是一档由 Z 计划与 Z 基金团队打造的人物访谈节目。
「猫」象征着 AI 技术迈向复杂认知的开始。2012 年，Google Brain 团队在毫无先验知识的情况下，成功实现了通过深度学习，让计算机自主识别猫咪的突破。而「猫在」某个地方，在大多数方言里，指呆在某个地方，猫在大模型非常形象地描述了我们与大模型间的关系。况且，我们办公室里真的有两只可爱小猫咪～
在这里，我们将与活跃在大模型领域的创业者、投资人和科研学者展开对话，共同探讨这场由大模型技术驱动的商业与科技变革，从多元视角洞察这股变革浪潮背后的机遇与挑战。
第一期，我们邀请到了 Z 计划企业「行云」的创始人季宇。季宇是清华大学物理本科、计算机体系结构方向博士，也是“华为天才少年”之一。Z 基金（智谱生态基金）于 2023 年底支持了季宇的创业之旅💪。
作为全网“最懂英伟达的人”，季宇已被多次邀请分享他对英伟达成功原因的解读，以及关于如何“解构”英伟达体系，助推 AI 普惠的看法。而在本次访谈中，我们希望更深入地了解他选择从推理芯片入手，致力推动芯片产业变革的背后思考，以及他对整个 AI 产业未来发展的畅想。
我们将和季宇的对谈分为了上下两期。在上期，我们主要聊了聊大模型推理需求爆发的契机，以及推理芯片发展在其中的作用。
希望这一期节目对关注芯片产业发展，以及对 AI 技术和商业化进展感兴趣的朋友有所帮助。
【本期议题】
把大模型推理的价格“打下去”：为什么重要，以及怎么做？
【本期嘉宾】
Z 计划企业「行云」的创始人季宇。季宇（知乎账号：Mackler）是清华大学物理本科、计算机体系结构方向博士，也是“华为天才少年”之一，主攻体系结构、AI 芯片方向。在华为期间，季宇曾是海思昇腾芯片编译器专家，负责多个昇腾编译器项目。
【我们都聊了什么】
00:37 季宇是谁？季宇创办的行云集成电路在做什么？
01:18 大模型推理侧需求爆发的契机？
03:26 季宇眼中，AI 行业近半年来最令人兴奋的进展：o1 和 AI 编程
05:37 如何看待以 o1 为代表的推理模型带来的 AI 能力提升及其发展前景？
12:01 分离式推理架构和芯片针对性优化，都是在推动软件更精细化使用硬件
14:25 实现 AI 普惠，芯片需先迈一步
17:33 为什么针对芯片进行显存优化很重要？
24:57 关于 AI 商业化落地：现阶段算 ROI 本身是在限制 AI 行业的发展
31:29 作为芯片厂商，如何思考下游客户的商业场景和硬件需求？
36:10 如何看待大模型训练侧的成本优化？
37:34 推理侧成本优化的必要性？
43:01 降低推理成本的关键：从大型机到组装机，渐进式“解构”英伟达体系
47:20 应对生态挑战：用激进的性价比呼吁更多人拥抱组装机体系
*播客内容不代表智谱公司必然认同以上任何观点
【制作团队】
统筹：邓木木、沈筱
访谈：沈筱
剪辑：叶子绿、橙子
文案：沈筱、弓一、叶子绿
配图：丹妮
BGM：OrangeOcean
【内容详情】
访谈稿后续将在公众号「Z计划支持大模型创业」发布，欢迎大家关注。如果你喜欢我们的节目，欢迎把节目分享到更多的地方，也欢迎在评论区留言交流，让我们一起“猫在大模型”。
