AI下一帧 EP027 | 模型蒸馏: AI行业的代工厂模式AI下一帧

AI下一帧 EP027 | 模型蒸馏: AI行业的代工厂模式

40分钟 ·
播放数42
·
评论数0

一张信用卡、几百美元、一个 API key——这就是"拆解"一家 AI 公司所需的全部成本。

2026年初,Anthropic 公开指控三家中国 AI 公司用 2.4 万个假账号、1600 万次调用系统性蒸馏 Claude 的能力。这不是黑客入侵,不是偷权重,就是正常调 API——但规模大到令人窒息。

这期我从华强北"拆机"讲起,带你搞懂:蒸馏到底在技术上做了什么?为什么 API 提供商几乎防不住?蒸馏模型丢失了 safety 训练意味着什么?以及最讽刺的——指控别人蒸馏的公司,自己训练数据的来源也在被起诉。

每一层都欠着上一层的债。这条产业链上,到底哪里应该画一条线?

=====================================
时间轴

01:19 一张信用卡就能"拆"掉一个AI公司
02:39 蒸馏实验——化学课上的记忆
03:32 1600万次对话背后的九头蛇
07:13 学霸的自言自语比答案更值钱
08:43 Hinton的知识蒸馏(2015)
12:00 大模型时代怎么做知识蒸馏
14:33 你没法区分学生和间谍
19:39 Safety消失才是真正的恐怖故事
22:09 Safety训练——RLHF的隐藏偏差
28:14 违反了用户协议,然后呢?
29:43 喊"抓贼"的人,自己也在被告
34:30 每一层都欠上一层的

=====================================

参考链接:

=====================================

前游戏开发者,现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客!
帮助互联网|游戏从业人员
拆解全球游戏 AI 前沿动态,深挖技术落地干货。
让你轻松拿捏行业脉搏,预判 AI + 游戏的 "下一帧"。
对未来好奇?速戳订阅!
小红书b站同名:反向弯曲

联系主播:5155280@qq.com