181
1本次潜空间邀请了「陈贝迪 Betty Chen」，她分享了算法、系统以及硬件协同设计（co-design）的一些性质，以提升长序列生成的效率（for efficient long sequence generation）。
💡关于「奇绩潜空间」：
我们找到了 GenAI 时代冲得最快的一批创业者 / Researchers ，如月之暗面（Moonshot AI）创始人杨植麟、AI 硬件 Rabbit-R1 创始人吕骋等，来分享自己的亲身经历和见解，希望可以为所有 GenAI 时代的创业者、从业者提供可借鉴、可复制的经验。
本期文字稿：奇绩社区内容精选
🎙️本期嘉宾：
陈贝迪 Betty Chen
卡内基梅隆大学助理教授，前Meta研究员
研究方向：包括大规模的机器学习，system optimization优化，以及如何通过MLSys来提升efficiency
⏰时间轴
01:57 算法、系统与硬件协同设计
03:08 长序列语言模型的挑战
07:57 KV缓存的瓶颈
08:53 设计高效算法应对KV缓存的问题
12:13 静态KV压缩的探索
27:00 Dilemma的解法之一：GPU和CPU的Co-design
39:35 总结和展望
47:20 Q&A
👉【奇绩潜空间】报名通道奇绩潜空间是 GenAI 时代冲得最快的一批科研学者/从业者/创业者聚集的 AI 人才社区，我们定期邀请大模型前沿创业者分享产品实践探索，如杨植麟、吕骋、闫俊杰等，邀请前沿科研学者分享最新技术进展，如姚顺雨、蔡天乐等。欢迎关注奇绩，报名添加小助手
🙋活动报名 & 听友群，欢迎扫码加小助手:
