Cerebras CS-4:性能翻倍​ | WSE-3晶圆级引擎 | AI推理芯片 | 内存带宽

Cerebras CS-4:性能翻倍​ | WSE-3晶圆级引擎 | AI推理芯片 | 内存带宽

11分钟 ·
播放数107
·
评论数0

Cerebras 发布第四代推理系统 CS-4,沿用第三代 5nm 晶圆级引擎 WSE-3,通过翻倍时钟频率和供电实现性能翻倍。每晶圆每用户令牌生成速度从 2000 提升至约 4000 tokens/s,成本与上一代持平。CS-4 采用模块化"背包"式机架设计,单机架容纳三块晶圆,新增可现场升级的 I/O 模块支持异构解耦推理,与 AMD、AWS Trainium 对接。片上 SRAM 容量仍为 44GB,长上下文推理的 KV 缓存成本显著。路线图显示新一代平台 Nexus 和每年 2 倍性能提升目标,2027 年瞄准 20 倍吞吐改进。

原视频来自:youtu.be

聊天讨论群,可加微信gxjdian入群,需备注,来自播客AI前沿