Show Notes

• 核心焦点：AI 浪潮下数据中心的 “内存饥渴” 危机，揭秘训练与推理的内存需求差异、存储介质迭代及技术路线博弈。
• 关键数据：训练中等规模 AI 模型需约 1TB 综合内存，顶尖多模态模型训练数据达 1-5PB；训练对存储侧需求是推理的 100-1000 倍。
• 内存层级：SRAM（顶层高速）、HBM（核心瓶颈）、CPU DRAM（中坚力量）、SSD/HDD（持久存储）构成数据中心内存生态。
• 技术对决：SSD 凭性能与 TCO 优势逆袭 HDD；GPU（生态开放）与 TPU（能效领先）展开算力路线之争。
• 中美差异：美国前沿基础模型领跑，中国企业借 “知识蒸馏” 等算法创新追赶。
• 未来曙光：MoE 架构、量化技术、高带宽闪存（HBF）等有望缓解内存压力。
• 投资亮点：希捷、SanDisk、三星电子等存储企业获投行 “跑赢大盘” 评级。