

EP006 | 肖志斌:AI芯片,英伟达,全球供应链,2纳米,中美日韩,Groq,Cerebras,SambaNova这期请到了肖志斌老师,从浙大、UC Davis,到 Oracle、阿里,再到自己创业,过去二十多年,他一直在跟芯片和计算机架构打交道。结果现在,他做起了一家不造芯片、专门帮 AI 系统做优化的公司。 我们从“一颗芯片到底怎么造出来”开始,一路聊到 AI 推理为什么慢、软件能追回多少硬件差距,还有 Groq、Cerebras 这些公司到底在做什么。最让我意外的是:我们做软件的人觉得英伟达日子过得太舒服了,但在他眼里,英伟达竟然是芯片行业执行力最强的公司。 后半段也聊了他的职业选择、创业,以及 AI 时代年轻人还要不要学计算机。 这期信息量真的有点大,我这个做软件的也是一边听一边补课。很多问题都是现场追问出来的,感觉肖老师脑子里装着一整张芯片行业的地图。大家可以慢慢看,一起把这些天天听到、又不太明白的东西捋清楚。 时间轴 0:00:00 精彩预告与嘉宾介绍 0:01:10 二十年芯片从业之路:为什么从造芯片转向系统优化 0:13:10 一颗芯片如何从设计走向量产,AI 又将如何改变这个过程 0:25:50 看懂全球芯片产业链、开源指令集与纳米制程 0:40:55 大模型如何生成回答,AI 推理究竟卡在哪里 0:50:57 GPU 之外的竞争者:Groq、Cerebras 与 SambaNova 0:59:13 软件能弥补多少硬件差距,英伟达的护城河有多深 1:05:43 让 AI 像水电一样便宜,还需要突破哪些瓶颈 1:09:54 从 Oracle 到阿里:职业选择、技术取舍与开源生态 1:29:21 从架构师到 CEO:寻找产品、客户与商业模式 1:34:13 ZFlow.AI 的实践:用虚拟仿真优化真实算力 1:50:46 AI 时代的工程师:薪资变化与年轻人的职业选择
EP005 | 徐天音:UIUC,教授,最佳论文,Agent Infra,云计算,形式化验证,容错,系统,纯粹本期UIUC 徐天音,伊利诺伊香槟的终身教授,拿了很多很多计算机系统领域的最佳论文,我心中的顶级研究者,最近学术休假,来硅谷的UC Berkeley的Sky Lab进行访问 时间轴 00:00:00 片头观点:取消最佳论文奖、AI 奖励投机与系统漏洞 00:00:34 嘉宾介绍:UIUC 教授徐天音,访问 UC Berkeley SkyLab 00:00:59 第一次申请美国 PhD:被 24 所学校拒绝 00:03:52 Gap Year:前往德国哥廷根大学交流 00:04:22 足球、竞技体育与系统研究的共同点 00:05:47 第二次申请:靠坚持拿到 UCSD Offer 00:08:37 加入 YY 实验室:导师如何系统化训练研究思维 00:10:26 PCheck:从配置错误到容错系统 00:13:23 为什么 Best Paper 具有随机性和主观性 00:15:49 《Do Not Blame Users for Misconfigurations》:不要把错误都归咎于用户 00:19:38 AI Agent 成为系统用户后,旧系统为什么会失效 00:21:58 为 AI Agent 重新设计登录、安全与操作接口 00:24:12 Rock-star Advisor:好导师如何影响研究热情与创业认知 00:27:00 为什么选择 UIUC 和香槟这座“玉米地” 00:28:29 如何选择学生:导师与学生之间的信任关系 00:32:56 人人都可以做 Research:研究是一种反复探索 00:36:09 PhD 前两年怎么训练:少从论文想 Idea,多从真实问题出发 00:38:37 AI Agent 能否取代导师和高年级学生 00:41:34 AI 时代,传统论文和同行评审要不要改革 00:44:08 AI 放大研究生产力,也可能进一步拉大能力差距 00:45:44 如何持续做出好研究:招对学生并理解他的目标 00:49:48 Fight Dragons, Not Windmills:解决真正重要的问题 00:50:28 如何从小问题挖到基础而深刻的研究问题 00:53:09 如何教操作系统:用 Linux 内核训练复杂工程能力 00:57:31 AI 时代计算机科学会不会消亡 00:58:38 AI SRE 能做什么,人类又该扮演什么角色 01:03:11 SREGym:在真实故障环境中评估 AI 运维能力 01:04:44 Benchmark 如何随着模型能力持续升级 01:09:14 AI 加形式化方法:把代码转化为形式化模型 01:09:30 Model Checking 入门:Safety、Liveness 与系统抽象 01:15:22 从五年到五小时:AI 如何加速形式化建模 01:16:29 形式化验证对企业的价值:从事后调试到事前证明 01:18:27 形式化证明的成本,以及为什么先选择 Model Checking 01:19:31 SDD:用规格驱动开发约束 AI 生成代码 01:21:28 形式化验证的鸿沟:最难的是定义正确的需求和规格 01:23:05 理想的 Agent-native 系统:容忍错误、提供反馈、持续恢复 01:24:21 ROC:面向恢复的计算与“系统一定会出错”的现实 01:26:15 人为操作为什么是系统故障的主要来源 01:29:13 Undo 与 Microreboot:把经典系统思想带入 Agent 时代 01:31:07 Reliability 与 Security 为什么迎来新的研究机会 01:33:00 学术休假:为什么到 UC Berkeley SkyLab 访问 01:35:26 UIUC 与 Berkeley:不同研究文化如何互相启发 01:38:22 工业界研究与学术研究的目标差异 01:40:23 PhD 实习:深入生产系统,而不是重复学校里的研究 01:42:44 去 Google 做核心系统,还是到大学当教授 01:45:52 如何判断一份工业界工作和一个团队是否值得加入 01:47:21 AI 时代最重要的能力:持续学习 01:49:05 给年轻研究者的三个建议:问题、方法与技能 01:53:32 想创业或进工业界,PhD 阶段应该怎样准备 01:56:17 结语:让 Research 成为每天的实践
EP004 | 李正韬:YC,明星初创,语音AI,客服,执行力,OpenAI,996,创2代本期采访嘉宾是 Retell AI 联合创始人 Todd Li。我们聊了他从 Google 工程师到 YC 创业者的经历、Retell AI 如何在两年内做到 8,000 万美元营收,以及公司如何与 OpenAI 等大厂竞争。访谈还涉及企业客户、团队管理、招聘理念、薪酬福利和财富自由。 时间点: 00:00:00:片头金句——财富自由、正面对阵 OpenAI,以及“客户和钱太多也可能有害”。 00:00:35:Todd Li 与 Retell AI 登场,参观办公室并介绍团队规模与分工。 00:01:16:回顾 Google 广告算法经历,以及早期创业项目的连续试错。 00:03:27:讨论“创二代”家庭背景、父母创业的影响和三类创业导师。 00:09:01:讲述离开 Google 创业的决定,以及硅谷资源、个人能力和竞争逻辑。 00:13:43:从两次申请 YC 到全职创业,解释技术窗口期与团队执行力的重要性。 00:18:25:Retell AI 从多个语音创意转向 AI 客服,介绍代表客户、营收与产品壁垒。 00:22:10:小团队如何依靠专注和深度定制,与 OpenAI 等大厂正面竞争。 00:25:59:YC 的反规模化启示——客户、资金和人员并非越多越好。 00:28:37:从实时配音转向 AI 客服,通过市场反馈找到正确方向。 00:31:35:YC 的真正价值——导师认知、云服务资源、投资人连接和品牌放大。 00:35:55:执行力才是最大的贵人,创业者可以通过业余项目进行低风险试错。 00:37:59:与 YC 争论后选择“难而正确”——克制招人,并转向大型企业客户。 00:40:31:五位联合创始人的职责分工、平分股权、冲突制衡与信任机制。 00:44:01:为什么更适合与朋友创业,以及 Todd 如何负责公司的各项运营工作。 00:47:50:Retell AI 如何借助科技社区引爆自然传播,并探索商业模式。 00:50:40:从小客户走向大型企业,通过合规能力满足 CVS 等客户的严格要求。 00:52:16:八千万美元增长背后的务实主义——重视客户价值、产品质量和扎实交付。 00:56:15:从 demo 到 production 的竞争壁垒,以及未来的产品和团队规划。 01:00:03:Retell AI 的招聘方法——重视学习速度、真实能力和文化契合。 01:03:00:高薪福利与共同财富——让员工共享公司成功并实现财富自由。
E003 | 孟子立: 15岁,清华,HKUST,教授,家庭计算中心,云游戏,WiCi,网络系统,创业孟子立:15 岁考入清华,清华博士毕业后,23 岁成为香港科技大学助理教授,并创立 WiCi。 本期聊了清华求学、MIT 访学及腾讯、阿里实习经历,分享 timing、connection、长期主义对科研和人生选择的重要性。 也探讨了 AI 时代的博士培养、论文评价、大学教育,以及适应能力为何比掌握具体知识更加重要。 创业部分介绍了 AI 考试眼镜、视频大模型评测平台 CallArena,以及 WiCi 正在研发的 wireless GPU。 WiCi 希望用 Wi-Fi 替代传统 PCIe 连接,让电脑、机器人等设备共享家庭算力中心。 00:00 精彩预告与嘉宾介绍 00:58 15岁考入清华:少年班与成长经历 03:22 年龄差、童工趣事与初入清华 06:51 辅修工商管理:不断折腾和尝试 08:01 大一进入实验室,开始网络系统研究 09:47 MIT访学:强化学习与科研启蒙 13:34 Timing、洞察力与科研品味 16:22 网络系统、底层编程与AI带来的改变 19:01 博士研究:降低视频通话延迟与卡顿 20:01 为什么选择留在清华读博 24:18 博士期间不要只做Research 26:41 腾讯、阿里实习:Production与Connection 30:28 导师毕军的影响与长期主义 32:44 23岁成为香港科技大学助理教授 37:12 年轻教授如何选择和培养博士生 41:44 AI会不会取代论文与科研评价 44:38 AI时代,传统大学还有什么意义 47:14 为什么从教授走向Deep Tech创业 49:02 在香港做教授和创业是什么体验 50:27 AI考试眼镜:从爆火到项目失败 54:25 AI时代最重要的能力:适应变化 55:55 CallArena:评测大模型的视频通话能力 58:07 创立WiCi:从云游戏到wireless GPU 1:01:50 家庭算力中心:让本地设备共享GPU 1:03:55 为机器人和智能设备提供更强算力 1:05:15 从原型机到产品:学习、求助与降低Ego 1:07:26 WiCi的To C愿景与目标用户 1:09:05 场景很多,不等于用户愿意付费 1:10:07 未来18个月:Inference Engine与Wi-Fi Driver 1:12:02 面对大公司竞争:速度、性能与生态 1:13:00 用Wi-Fi替代PCIe的技术挑战 1:15:00 深圳供应链与硬件量产 1:17:30 创业踩过的坑与显卡价格波动 1:19:10 成长与合作:换位思考、分享利益 1:22:07 给过去的自己:向前看,别回头 1:23:07 给奋斗者的建议:享受过程,保持长期主义 1:24:09 墓志铭:希望因一项伟大的工作被记住
E002 | 江鋆晨: 大模型记忆,KV Cache,清华姚班,CMU,教授,开源,视频流媒体在硅谷采访100个有意思的人,这里是月球大叔。今天我们请到了江鋆晨,先恭喜鋆晨这个月刚拿到了2000多万美金的融资。 鋆晨有很多身份哈。带领团队开发并开源了大模型基础设施LMCache,然后创建了公司Tensormesh,同时还是芝加哥大学的教授,之前博士毕业于CMU,本科毕业于清华姚班。 今天我们希望与鋆晨深入探讨一下,从10年前波澜壮阔的网络多媒体时代,到今天群星璀璨的大模型时代,个体是如何发展,以及积累了怎样的认知,等等 - 01:00 清华姚班 - 15:00 CMU/Hui Zhang/Ion Stocia - 26:00 视频流媒体/大数据 - 37:00 KV Cache - 44:00 融入工业界 - 55:00 高价值问题 - 59:00 多读科学史 - 62:00 找学生 - 65:00 All in ChatGPT 1:02-1:21 - 81:00 详解KV Cache1:21-1:40 - 100:00 Agent/记忆 1:40-1:50 - 110:00 创业/融资/进化1:50-2:03 - 123:00 未来infra/职业建议
E001 | 朱邦华: SGLang,强化学习,英伟达收购,二次创业,清华,伯克利今天对话RadixArk/SGLang的CTO 朱邦华 本科清华年级第一 伯克利师从Jiantao Jiao, Michael Jordan PhD结束后,2023年开启了第一次创业NexusFlow 开源社区中,最早跑通了PPO训练 之后2025年很快被英伟达收购 收购不到半年,就放弃后面的收购归属 又出来和好朋友盛颖 以SGLang为基础,创立公司RadixArk 最近拿到了1亿美金的融资 恭喜邦华,今天我们一起深入了解一下, 朱邦华的创业/读书/未来展望