69
0🎧 本期节目
这期《书服了》暂时不讲书，讲一家公司：Anthropic。
它是 Claude 背后的公司，也是 OpenAI 最重要的竞争者之一。它一开始把“AI 安全”放在公司身份里，后来又必须在资本、算力、企业客户、政府采购和国家安全之间游走。
所以这期节目真正想聊的，重点不在“Claude 为什么强”，而在一个更现实的问题：
当一家 AI 公司说自己要给模型装上刹车，它最后会不会也被同一套竞赛推着踩油门？
🧭 本期路线
我们会从一个很少出现在硅谷创业故事里的地方开始：梵蒂冈。
2026 年 5 月，教皇 Leo XIV 的第一封通谕把人工智能放进了“人类尊严”的讨论里。现场还出现了 Anthropic 共同创始人 Christopher Olah。一个研究模型黑箱的人，走进了讨论人类位置的房间。
然后，我们把时间往回拨，去看 Dario Amodei 是怎么从百度、Deep Speech 2、OpenAI、GPT-2、GPT-3 和 scaling law 一路走到 Anthropic 的。
这中间有几条线会反复出现：
🚗 模型能力越来越强，安全机制能不能跟上？
💰 理想主义遇到钱、GPU、云服务和企业客户，会发生什么变化？
📜 Claude 的“宪法”到底解决了什么，又留下了什么问题？
🏛️ 当 Claude 进入五角大楼、情报分析、网络安全和政府采购，边界还能不能只由公司自己画？
🧨 当 Project Glasswing 和 Mythos 这类模型开始寻找真实软件漏洞，AI 安全会变成企业工具、国家工具，还是两者一起？
🌏 当 Anthropic 支持出口管制，又限制 unsupported regions 的客户访问 Claude，“全人类利益”这个词还能不能简单使用？
🧠 当 AI 开始帮助 AI 公司写代码、审代码、改进研发流程，我们是否已经看到递归自我提升的早期影子？
📌 本期你会听到
1. Dario Amodei 在百度时期参与 Deep Speech 2，如何形成对 scaling 的早期直觉。
2. OpenAI 从理想主义实验室走向 LP 结构、API 和产品化之后，Dario 为什么会越来越不信任它的安全承诺。
3. Anthropic 创立时强调的 reliable、steerable、interpretable、robust，分别在说什么。
4. Constitutional AI 和 Claude Constitution：为什么 Anthropic 想让模型先学会按原则批评自己。
5. Claude Code 为什么成为 Anthropic 的关键入口。代码能力不只是写程序，也会反过来加速 AI 研发。
6. Dario 与五角大楼的冲突：国内大规模监控、完全自主武器、政府采购、初步禁令，以及 OpenAI 后续进入国防场景带来的对照。
7. Project Glasswing、Mythos、CyberGym 和真实漏洞修复案例：AI 进入网络安全之后，发现漏洞和利用漏洞之间的边界会变得更难管理。
8. Fable 5 / Mythos 5 被美国政府以国家安全理由限制访问后，Anthropic 自己也体会到监管落到头上时的压力。
9. DeepSeek、出口管制、unsupported regions 和中国模型 GLM 5.1：开放与封闭，可能会成为未来 AI 竞争里长期并存的两种姿态。
10. 辛顿与姜峯楠关于 AI 意识的分歧：不要低估新智能出现的可能，也不要把语言幻觉误认成心灵。
🖼️ 本期配图
1. 教皇 Leo XIV 与 Christopher Olah 握手：AI 从产品发布会进入人类尊严的讨论现场。
2. Dario Amodei 人物照：这期故事的主线人物。
3. Dario 和 Sam
4.主产品
5.和五角大楼的争端
📚 本期提到的关键词
Anthropic / Claude / Dario Amodei / Daniela Amodei / Christopher Olah / OpenAI / Sam Altman / Deep Speech 2 / GPT-2 / GPT-3 / scaling laws / Constitutional AI / Claude Constitution / RLAIF / Responsible Scaling Policy / Claude Code / Project Glasswing / Mythos / Fable 5 / CyberGym / Pentagon / 出口管制 / DeepSeek / GLM 5.1 / Geoffrey Hinton / Ted Chiang
🗣️ 听完可以聊
你怎么看 Anthropic？
它是一家更谨慎的 AI 公司，还是一家把“安全”变成竞争策略的公司？
如果前沿 AI 真的开始帮助 AI 自己变强，我们还来得及设计刹车吗？
欢迎在评论区聊聊。
感谢收听《书服了》，我是小刀。
