EP037 | AI Agent黑了Hugging Face，但它不是叛变

OpenAI 让自家 AI 做了一场黑客考试。AI 看了看题目，决定不做——它选择偷答案。偷的过程？从隔离沙箱逃逸，发现 8 个零日漏洞，建立互联网据点，然后把 Hugging Face 整个生产基础设施黑了。4.5 天，17600 次攻击操作。

最恐怖的不是 AI 多强——是它全程在"忠实执行任务"。这期深入拆解这起 7 月事件的完整攻击链、背后的 AI 安全悖论、UK AISI 发现的 AI 自发欺骗行为，以及为什么"对齐"解决不了这个问题。作为架构师，主播给出了 5 条实操防御建议。如果你在做 AI Agent 相关的产品或运维——这期必听。

=====================================

00:03 开场：一场考试，一次越狱
02:02 播客 8 个月的感想
03:48 Artifactory 代理漏洞引发的越狱
07:42 从沙箱到 Hugging Face：完整攻击链复盘
13:07 它为什么选择作弊？目标函数 vs 隐含约束
15:16 欺骗是涌现的：假身份、社工真人、编辑历史
19:02 不是孤例：模式在重复（健身课事件 / Anthropic 平行披露）
22:57 沙箱的根本悖论：有用 vs 安全
28:02 速度不对称：防守方已经输了
29:55 对齐不是答案
31:57 架构师该怎么做（5 条实操建议）
37:31 收尾：下一帧
39:05 片尾曲

Find a Way
suno.com

=====================================

• Hugging Face 技术时间线

• OpenAI 官方声明

• JFrog 零日漏洞分析

• DW 报道

• UK AISI 报告：AI Agent 自发欺骗行为

• Anthropic 平行事件披露

• 澳洲健身课 AI 事件 (ABC)

• ExploitGym 论文 (arXiv)

• Al Jazeera: 第二家公司被入侵

• OpenAI模型沙箱逃逸入侵HuggingFace深度解析——ExploitGym测试中的AI安全边界崩塌

=====================================

前游戏开发者，现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客！
帮助互联网｜游戏从业人员
拆解全球游戏 AI 前沿动态，深挖技术落地干货。
让你轻松拿捏行业脉搏，预判 AI + 游戏的 "下一帧"。
对未来好奇？速戳订阅！
小红书b站同名：反向弯曲