202
2白宫科技政策办公室公开指控月之暗面蒸馏了 Anthropic 还没发布的下一代模型来训练 K3。一个还不存在的模型被蒸馏了？
这期我们把 Kimi K3 的架构拆到底——2.8万亿参数但只激活1.8%、896个专家只派16个干活、注意力计算大量跳过而非压缩存储。和 DeepSeek 完全不同的省钱路线：把巨大的模型只"启用"一小部分。
适合：关注 AI 模型选型的技术人和产品经理、想降低 API 成本的开发者、对中美 AI 竞争格局感兴趣的听众。
=====================================
00:01 白宫指控：未来模型泄露
03:17 本期看点
05:06 月之暗面：杨植麟
08:32 17岁高中生：K3 核心架构的共同第一作者
12:03 架构拆解：896个员工，只让16个干活
15:28 Quantile Balancing：不让明星员工过劳死
17:30 KDA：注意力本身变稀疏，6.3倍解码加速
20:25 AttnRes：让深层回看浅层的"存档快捷方式"
22:34 QAT：模型为自己的芯片量身定做的训练
25:30 只需要记住一件事
26:44 赢在哪
30:33 输在哪
34:00 价格不是让利
36:29 和 V4-Flash 的定位差
38:36 模型不可知架构
41:15 self-hosting 的经济账
44:47 收尾：回到开头那个问题
47:11 片尾曲 Dark Side of the Moon
歌曲suno链接： suno.com
=====================================
Kimi K3 官方博客 — www.kimi.com
Kimi K3 技术概览 (OpenLM) — openlm.ai
Moonshot AI 官网 — www.moonshot.ai
Transformer-XL — arxiv.org
RoPE (旋转位置编码) — arxiv.org
MoE (混合专家模型) — arxiv.org
MXFP4 Microscaling 规范 — www.opencompute.org
Arena AI 排行榜 (K3 前端代码 #1) — arena.ai
SWE-bench — swe-bench.com
Kimi K3 API: Input $3 / Output $15 / Cache $0.30 — openlm.ai
Claude Fable 5: Input $10 / Output $50 — www.anthropic.com
DeepSeek V4 API: Flash $0.14/$0.28 — api-docs.deepseek.com
NVIDIA Blackwell 架构 — www.nvidia.com
NVIDIA H200 — www.nvidia.com
=====================================
前游戏开发者，现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客！
帮助互联网｜游戏从业人员
拆解全球游戏 AI 前沿动态，深挖技术落地干货。
让你轻松拿捏行业脉搏，预判 AI + 游戏的 "下一帧"。
对未来好奇？速戳订阅！
小红书b站同名：反向弯曲
