大家好，这里是《猫在大模型》，一档由 Z 计划与 Z 基金团队打造的人物访谈节目。 在这里，我们将与活跃在大模型领域的创业者、投资人和科研学者展开对话，共同探讨这场由大模型技术驱动的商业与科技变革，从多元视角洞察这股变革浪潮背后的机遇与挑战。 第一期，我们邀请到了 Z 计划企业「行云」的创始人季宇。季宇是清华大学物理本科、计算机体系结构方向博士，也是“华为天才少年”之一。Z 基金（智谱生态基金）于 2023 年底支持了季宇的创业之旅💪。 上篇播客中，我们主要和季宇探讨了大模型推理需求爆发的契机，以及推理芯片发展在其中扮演的角色。在下篇，季宇从自己对整个 AI 产业发展趋势的洞察出发，分享他关于芯片公司生态建设重要性的理解，以及芯片初创公司如何与英伟达竞争的战略思考。 希望这一期节目对关注芯片产业发展，以及对 AI 技术和商业化进展感兴趣的朋友有所帮助。 【本期议题】 芯片企业的成功为何依赖产业和开发者生态，以及如何构建生态。 【本期嘉宾】 「行云」的创始人季宇。季宇（知乎账号：Mackler）是清华大学物理本科、计算机体系结构方向博士，也是“华为天才少年”之一，主攻体系结构、AI 芯片方向。在华为期间，季宇曾是海思昇腾芯片编译器专家，负责多个昇腾编译器项目。 【我们都聊了什么】 如何构建、维护产业生态和开发者生态 01:20 建生态的方法：将门槛降低到每个消费者都可以去中关村数码城传一台顶配 AIPC 05:21 什么是好的芯片：定义清晰，且与现有体系亲和，为开发者提供自由、高效的开发体验 07:09 芯片产业竞争逻辑：与现有体系亲和，让增量融入现有存量体系，并逐步提升占比 09:18 设计好的芯片，需要既懂芯片又懂软件，还懂开发者和开发者生态的人 13:09 英伟达是如何构建、服务开发者生态的？ 对 AI 产业未来发展的看法 16:31 短期看，大规模商业化落地不能奢求技术新突破，而需靠产品打磨 21:15 o1 的可扩展性关键不在数据，而是要寻找基于思维链 scale 的方法，本质是实现语言模型的自我校验 26:11 长期看，芯片解决下限问题，算法应关注突破上限，实现模型能力的持续自我提升 29:19 追求更强 AI 的三角：算法创新、硬件资源普及、下游应用场景繁荣 行云的发展规划 34:39 从整个 AI 产业如何闭环的角度，思考芯片厂商成功的确定性 44:39 与英伟达竞争：巨头破绽不一定在技术上 49:28 行云招人啦！ *播客内容不代表智谱公司必然认同以上任何观点 【制作团队】 访谈：沈筱 剪辑：橙子 文案：沈筱、弓一 排版：柚子 统筹：邓木木、沈筱 BGM：OrangeOcean 【内容详情】 今天的节目就到这里，感谢大家的收听。访谈稿也在公众号「Z计划支持大模型创业」同步发布啦，欢迎大家关注。 如果你对本期节目有什么看法和见解，欢迎在评论区与大家一同探讨；如果你喜欢今天的分享，请记得点赞、留言和订阅我们的节目，我们下期再见！ 【栏目介绍】 「猫」象征着 AI 技术迈向复杂认知的开始。2012 年，Google Brain 团队在毫无先验知识的情况下，成功实现了通过深度学习，让计算机自主识别猫咪的突破。而「猫在」某个地方，在大多数方言里，指呆在某个地方，猫在大模型非常形象地描述了我们与大模型间的关系。况且，我们办公室里真的有两只可爱小猫咪～

大家好，这是一档由 Z 计划与 Z 基金团队打造的人物访谈节目。 「猫」象征着 AI 技术迈向复杂认知的开始。2012 年，Google Brain 团队在毫无先验知识的情况下，成功实现了通过深度学习，让计算机自主识别猫咪的突破。而「猫在」某个地方，在大多数方言里，指呆在某个地方，猫在大模型非常形象地描述了我们与大模型间的关系。况且，我们办公室里真的有两只可爱小猫咪～ 在这里，我们将与活跃在大模型领域的创业者、投资人和科研学者展开对话，共同探讨这场由大模型技术驱动的商业与科技变革，从多元视角洞察这股变革浪潮背后的机遇与挑战。 第一期，我们邀请到了 Z 计划企业「行云」的创始人季宇。季宇是清华大学物理本科、计算机体系结构方向博士，也是“华为天才少年”之一。Z 基金（智谱生态基金）于 2023 年底支持了季宇的创业之旅💪。 作为全网“最懂英伟达的人”，季宇已被多次邀请分享他对英伟达成功原因的解读，以及关于如何“解构”英伟达体系，助推 AI 普惠的看法。而在本次访谈中，我们希望更深入地了解他选择从推理芯片入手，致力推动芯片产业变革的背后思考，以及他对整个 AI 产业未来发展的畅想。 我们将和季宇的对谈分为了上下两期。在上期，我们主要聊了聊大模型推理需求爆发的契机，以及推理芯片发展在其中的作用。 希望这一期节目对关注芯片产业发展，以及对 AI 技术和商业化进展感兴趣的朋友有所帮助。 【本期议题】 把大模型推理的价格“打下去”：为什么重要，以及怎么做？ 【本期嘉宾】 Z 计划企业「行云」的创始人季宇。季宇（知乎账号：Mackler）是清华大学物理本科、计算机体系结构方向博士，也是“华为天才少年”之一，主攻体系结构、AI 芯片方向。在华为期间，季宇曾是海思昇腾芯片编译器专家，负责多个昇腾编译器项目。 【我们都聊了什么】 00:37 季宇是谁？季宇创办的行云集成电路在做什么？ 01:18 大模型推理侧需求爆发的契机？ 03:26 季宇眼中，AI 行业近半年来最令人兴奋的进展：o1 和 AI 编程 05:37 如何看待以 o1 为代表的推理模型带来的 AI 能力提升及其发展前景？ 12:01 分离式推理架构和芯片针对性优化，都是在推动软件更精细化使用硬件 14:25 实现 AI 普惠，芯片需先迈一步 17:33 为什么针对芯片进行显存优化很重要？ 24:57 关于 AI 商业化落地：现阶段算 ROI 本身是在限制 AI 行业的发展 31:29 作为芯片厂商，如何思考下游客户的商业场景和硬件需求？ 36:10 如何看待大模型训练侧的成本优化？ 37:34 推理侧成本优化的必要性？ 43:01 降低推理成本的关键：从大型机到组装机，渐进式“解构”英伟达体系 47:20 应对生态挑战：用激进的性价比呼吁更多人拥抱组装机体系 *播客内容不代表智谱公司必然认同以上任何观点 【制作团队】 统筹：邓木木、沈筱 访谈：沈筱 剪辑：叶子绿、橙子 文案：沈筱、弓一、叶子绿 配图：丹妮 BGM：OrangeOcean 【内容详情】 访谈稿后续将在公众号「Z计划支持大模型创业」发布，欢迎大家关注。如果你喜欢我们的节目，欢迎把节目分享到更多的地方，也欢迎在评论区留言交流，让我们一起“猫在大模型”。