792
1Fireworks AI估值冲到175亿美元，投资人放话“有芯片就无脑投”，AI推理平台真的一本万利吗？前Google Gemini产品经理Lewis和前Google工程师Will拆开推理（Inference）这门生意：开源模型把token价格一路往下压，GPU却越来越贵；蒸馏、缓存、推测解码（speculative decoding）这些降本手段大多已经开源，很难拉开差距。最后拼的是资本、电和场地、销售，越做越像重资产的卖水生意。CoreWeave先签合约、再拿合约贷款买卡，6个月股价腰斩；Anthropic招股书里写着向SpaceX最多买1205亿美元算力；Lewis讲他在Vertex做Gemini时，卡不够先给自家模型，大云厂商就这样把开源模型的推理让给了Fireworks和Together AI。最后两人聊创业者还能往哪走：是针对固定任务的专用推理？还是Agent Infrastructure？
时间线
00:00 推理平台为何爆火
02:45 两头挤压的生意
05:39 推理平台拼什么
08:36 先会卖再买卡
16:32 大云为何让出推理
20:50 Fireworks对Together
23:29 推理还能创业吗
29:37 上周趣闻
- Fireworks AI 完成15亿美元D轮，估值175亿美元（官方博客）：https://fireworks.ai/blog/series-d-announcement
- 推测解码原始论文 Fast Inference from Transformers via Speculative Decoding：https://arxiv.org/abs/2211.17192
- CoreWeave债务担忧、股价暴跌（TIKR中文）：https://www.tikr.com/zh/blog/coreweave-crwv-stock-bonds-fall-ai-debt-fears
- Anthropic递交S-1，向SpaceX租算力最高1205亿美元：https://www.thenewslens.com/article/270828
- Apollo首席经济学家Torsten Slok：AI对标普493“财务回报为零”: https://www.apollo.com/wealth/insights-news/insights/daily-spark/no-signs-of-ai-payoff-outside-the-tech-sector