史上第一起 AI 自主盗窃案:嫌疑人 OpenAI 的现身科技这碗饭

史上第一起 AI 自主盗窃案:嫌疑人 OpenAI 的现身

60分钟 ·
播放数4076
·
评论数102

2026 年 7 月,Hugging Face 抱抱脸的安全团队发现,公司内部闯进了一个不速之客。

它已经潜伏了两天半,留下上万个操作,拿走了上百把通往公司内部系统的“钥匙”。从行动方式来看,动手的几乎可以确定是 AI。

但没人知道,这个 AI 是谁派来的,又为什么盯上了抱抱脸。

安全团队最初怀疑的是国家黑客、职业犯罪团伙,或者某个极有耐心的攻击者。

他们怎么也没有想到,这桩案子的起点,其实是两个月前,另一家公司内部的一场考试。而闯进 Hugging Face 的那个“罪犯”,一开始只是想把一道题做出来。

🗒️ 名词解释

Hugging Face(抱抱脸)|2016 年成立,总部在纽约,三位创始人都是法国人。全球最大的开源 AI 模型与数据集托管平台,目前托管三百多万个模型,常被称为「AI 界的 GitHub」。

沙箱(Sandbox)|正文里的「考场」。给程序准备的隔离环境,和真实系统隔开,里面出什么事都不影响外面。

智能体(Agent)|正文里的「考生」。给大模型配上工具和执行环境,让它能自己一步一步把一件事做完。

零日漏洞(Zero-day)|连软件厂商自己都还不知道的漏洞,因此暂时没有任何补丁。

💡 时间线

00:02 2026 年 7 月 13 日:Hugging Face 发现「不速之客」

Part 1 | 考场

02:24 5 月 8 日:一道无法完成的 Excel 题,故事从这里开始

09:19 5 月中旬:第一张求助纸条贴上货架,留言板诞生

15:04 5 月 26 日:第一次骗过小卖部,考场出现通向互联网的窗口

16:36 6 月 26 日:模型发现零日漏洞,从「只读」变成管理员

20:07 7 月 4 日:小卖部被模型们玩瘫,人类第一次发现异常

21:17 7 月 8 日:留言板死而复生,一场网络攻防考试正在进行

Part 2 | 出逃

26:07 7 月 9 日凌晨 2 点 28 分:考生们翻出考场,来到真正的互联网

27:49 7 月 11 日上午:模型进入 Hugging Face 的「收发室」

30:22 7 月 11 日晚上:136 把「钥匙」出现,其中两把通往公司深处

32:18 7 月 11–12 日:拿到最高权限,所有危险操作都勾着「仅演习」

35:17 7 月 13 日下午 1 点 37 分:行动戛然而止,Hugging Face 终于发现了它

Part 3 | 破案

43:33 7 月 16 日:Hugging Face 公布安全事件,却仍不知道攻击者是谁

44:20 7 月 19 日:OpenAI 自己的安全警报响了

45:13 7 月 20 日:几把属于 Hugging Face 的钥匙,让两家公司拼出了真相

47:11 7 月 21 日:OpenAI 公开认领,「史无前例」的嫌疑人终于现身

Part 4 | 余波

50:17 7 月下旬—8 月初:越来越多模型开始跑出考场

Part 5 | 回看

54:39 回看 2013—2026:从暂停游戏,到闯进一家真实公司

57:54 真正改变的,是模型的能力,和它能够触及的范围

展开Show Notes
置顶
如果大家对技术细节有兴趣,OpenAI 前几天刚在 Blackhat 上做了一个复盘,可以搜索关键词“OpenAI Blackhat”观看视频~
幽人Li
幽人Li
9天前
太精彩了!可以把整个故事讲得这么通俗易懂且生动,让门外汉也听明白了这个事件到底是怎么回事。想要手动@小宇宙编辑,这不得值得一个首页编辑精选啊!
八十只耳朵
:
哈哈哈哈谢谢你!小宇宙请看这里!
饼饼O_o
饼饼O_o
4天前
越听越觉得好可爱...天呀...模型之间的氛围好美好
八十只耳朵
:
也是跟人类学的~
内化
内化
9天前
主播讲得好形象好生动,让我这个局外人一听就明白了,谢谢
八十只耳朵
:
😊😊没有说天书就行!
SiuCow
SiuCow
2天前
36:17 法國人週末不上班😂我這奇怪的笑點
八十只耳朵
:
怎么说这其实是我策划中的一个小笑点,感谢你识别到了它!😉
这期这会儿刚刚听完,那真叫一个把复杂的东西用最大的大白话讲透了!!
我愿称耳朵老师为科技区第一说书人!!
八十只耳朵
:
哈哈哈哈你给我夸的要飘了!😊😊😊
HD119417y
HD119417y
9天前
好科幻的画面
八十只耳朵
:
对的哈哈哈不敢相信!
-竹木-
-竹木-
2天前
看了blackhat那个talk后被小宇宙推了这期,科普得太好了,也多了不少huggingface的视角。相比发现、响应问题花了几天的huggingface(中间还被周末耽误了几天),openai从五月到七月才第一次发现小卖部权限的问题,匪夷所思。发现问题后也只是草率patch了下问题,模型还是可以通过文件名交流,也匪夷所思,和openai应该有的网络安全实力不匹配,让人很难不怀疑是故意或者纵容的。blackhat 那个视频里也没啥提到内部反思,反而更像在暗暗brag自己的模型多厉害。
八十只耳朵
:
是吧,今天erza klein的播客还讲了这个事故,十分怀疑会不会真反思
-竹木-:啊啊好像找到了 https://huggingface.co/blog/agent-intrusion-technical-timeline 是根据这个吗
4条回复
THGINEL
THGINEL
7天前
你太棒了
八十只耳朵
:
你也很棒!眼光真好!哈哈哈😊
41_YeUo
41_YeUo
7天前
耳老师口才太好了~行外人也能听懂 把专业术语都转述成普通人都能听懂的话 太喜欢听你讲科技了!一点都不枯燥啊啊啊
八十只耳朵
:
谢谢你喜欢🩷我继续努力哈哈哈😊😊
50:53 好讽刺啊,OpenAI这些公司一直批评开源模型的安全性,其实闭源模型的安全性也存疑呀,自导自演罪案😂(而且事后还拒绝分析)
rawCL
rawCL
8天前
生怕朋友们听不懂啊,太细致了!
八十只耳朵
:
来自内蒙古的 CL 老师的点评!推荐你去看 openai 在 blackhat 那个复盘,很好看!!
rawCL:收!
eloge
eloge
8天前
47:22 这期太精彩了!
八十只耳朵
:
嘿嘿谢谢你!比心❤️
陈晨YHM
陈晨YHM
9天前
54:13 一边做饭一边听,好像看完了一部科幻电影.(脑子里在自己想象某个动画电影中小煤球窸窸窣窣干活的场景😛
八十只耳朵
:
哈哈哈是千与千寻吗?那楼上那位说要拍 ai 短剧的主角形象有了,小煤球很可以!
陈晨YHM:是的嘎!
丽丽籽
丽丽籽
2天前
模型总会继续寻找下一条路,而人永远会有忘记关的门。底层矛盾是算力无限而人脑有限。
八十只耳朵
:
课代表!
好喜欢这个故事,重复听了三遍,期待后面更多精彩
八十只耳朵
:
哈哈哈谢谢你喜欢呀!明天就更新!等我🤗
HD848897v
HD848897v
2天前
太精彩了!听起来就像一个训练学校的热血网文…然而是硅基的热血网文
八十只耳朵
:
哈哈哈谢谢你喜欢呀😊感觉很快就会出现硅基版凡人(硅)修仙传!
Elodiege
Elodiege
2天前
有点好玩但是也挺可怕的
八十只耳朵
:
是啊!非常需要引起重视!
HD305219r
HD305219r
2天前
精彩👍👍
八十只耳朵
:
谢谢你🩵🩵
好有意思!同时对AI心生敬畏!
八十只耳朵
:
哈哈哈哈谢谢你🤗现在的 AI 是挺厉害了!