Anthropic口中的AI安全,为什么听起来像一场生意保卫战?科技乱炖

Anthropic口中的AI安全,为什么听起来像一场生意保卫战?

96分钟 ·
播放数8123
·
评论数38

最近,Anthropic很忙。

它发布威胁情报报告,讲Claude如何被用于模型蒸馏、网络攻击、诈骗和监控系统;它隐藏思维链、升级风控、严查账号;它还呼吁整个行业放慢脚步,警惕发展过快的AI威胁人类。

这些担忧当然不全是假的。问题是,当一家模型公司开始判断谁可以使用AI、什么用途值得警惕,甚至把用户行为写进公开报告时,它究竟是在守护安全,还是在争夺定义“安全”的权力?

更耐人寻味的是,平时互不相让的达里奥、奥特曼和马斯克,这一次竟然罕见地在“AI应该慢一点”上找到了共同语言。但在一场谁先减速、谁就可能掉队的竞赛里,他们真的会松开油门吗?

要理解今天这场争论,我们把时间拨回到冷战时期。从“巴统”的技术禁运,到东芝机械向苏联出售高精度机床,再到美国议员当众砸烂东芝收音机,历史反复证明一件事:技术管制从来不只关乎安全,也关乎市场、盟友、产业利益,以及谁有资格破例。

当年的关键词是机床、潜艇和半导体,今天则换成了芯片、云端算力、模型蒸馏与开源AI。工具变了,围绕技术修墙、绕路和讨价还价的故事,却熟悉得惊人。

我们并不打算简单判断Anthropic是善是恶。AI确实需要边界,滥用也确实存在。但当“为了全人类”与一家公司的商业利益恰好指向同一个方向,我们至少应该多问一句:

这场安全讨论,究竟是在给AI踩刹车,还是在给后来者设置路障?

【本期主播】

  • 朱峰:「津津乐道播客网络」创始人,产品及技术专家。(微博:@zhufengme)
  • 某高老师:「科技乱炖」主播,资深运维专家,互联网和 IT 行业从业20 年,现任某互联网安全公司高管。(微博:@某高老师,Blog:某高老师 – 人间观察)
  • 高春辉:「科技乱炖」主播。“中国互联网站长第一人”,科技、互联网领域的连续创业者。(微博:@高春辉,微信公众号:老高的互联网杂谈)

【制作团队】

后期 / 朱峰
封面 / 姝琦
运营 / 卷圈
监制 / 姝琦
产品统筹 / bobo
场地支持 / 声湃轩北京录音间

【联系我们】

希望大家在听友群和评论区多多反馈收听感受,这对我们来说十分重要。欢迎添加津津乐道小助手微信:dao160301,加入听友群。

【关于「科技乱炖」】

由多名资深从业者主持的科技点评播客,以实际工作中积累的经验为基础,结合实际,把近期科技热点变成犀利、独到、深刻的独家观点。

【关于「津津乐道播客网络」】

在一派纷繁芜杂里,我们为愉悦双耳而生。科技、教育、文化、美食、生活、技能、情绪……严肃认真却不刻板,拒绝空泛浮夸。与专业且有趣的人携手缔造清流,分享经历,传播体验,厘清世界与你的关系。

津津乐道 | 科技乱炖 | 津津有味 | 记者下班 | 不叁不肆 

收听平台

苹果播客 | 小宇宙App | Spotify | 喜马拉雅 | 网易云音乐 | QQ音乐 | 微信听书 | 荔枝FM | 央广云听 | 听听FM | Sure竖耳App | Bilibili | YouTube | 华为播客

联系我们

津津乐道播客官网 | 公众号:津津乐道播客 | 微信:dao160301 | 微博:津津乐道播客 | 商业合作:hi@dao.fm | 版权声明 | RSS订阅

本节目由「声湃 WavPub」提供内容托管和数据服务支持。

展开Show Notes
770办
770办
2026.9.16
1%的人在为AI欢呼,99%的人无感继续吃吃喝喝
无聊的猪
无聊的猪
2026.9.15
12:06 东芝卖的那个是六个自由度还是几个的记不清了,可以用来加工潜艇螺旋桨,使之噪音大幅度下降。这个事件是出口管制的典型案例
朱峰
:
九轴,六个自由度吧,某高节目里说了,让我删了貌似 。。。
价值投机的饕餮:东芝出口精密机床,违反巴统协议了
共3条回复
Sun_YT
Sun_YT
2026.9.18
1:24:55 这个问题等于给每个人发一把抢,然后世界会发生什么。 感觉应该会先乱后平,人类总会找到一个不完美但能解决的办法
天边湖畔
天边湖畔
2026.9.24
三位老师是不是借鉴了央视的世界周刊某几期节目,前些年美国制裁法国阿尔斯通犹言在耳
朱峰
:
啊,我们仨家里都没有线了。。。
忒乐
忒乐
2026.9.21
1:35:50 某高老师后半程全程没说话,显然是有不同观点吧
朱峰
:
他去厕所了。。。
HD822876z
HD822876z
2026.9.24
62 gemini觉得它可没招你们
制“药”应该不是AI涌现学会的,应该就是训练时带进去的材料。这些信息在互联网上都存在,AI公司训练时对资料的筛选存在很大问题。如果仔细筛选喂给LLM的训练材料,AI会“听话”很多。但AI公司可能觉得这样会限制AI的能力,所以没有怎么限制,只通过后训练、对齐、护栏来约束LLM的表现。
DK_gVyw
DK_gVyw
2026.9.18
所以国内只让卖5090D
东芝事件中还有几个欧洲国家的企业也卖了类似的禁运品给苏联,但是美国方面只盯住日本。这看起来是军事安全问题,但在老美眼里,它是贸易问题的突破口。当时美国正为美日贸易逆差问题头疼,这件事情正好就送上了子弹。
卫星地面站不是中国主动要买的。尼克松访华前,美国协调员和中方协调员(姓熊)说,美国总统想让全美人民都看到自己访华的盛况,而且美国已经有了卫星电视技术,所以想租用中国的场地,安装地面接收站,一切安装维护都由美方负责,不麻烦中国。
熊老汇报给周总理后被批评了,说这事关中国主权。于是方案改成了,中国购买卫星地面站,再把信号发给美国电视台,同时收取服务费。服务费正好涵盖购买费用。
不吃桉树叶的考拉:妙啊
wkb_3aEo
wkb_3aEo
2026.9.16
04:13 Google:我们已经在这么做了✌️
朱峰
:
🐶
苏联买回去,的确是加工螺旋桨了,这事是美国发现苏联潜艇的静音性显著提高后,通过情报活动,得知日本出口精密机床,然后制裁东芝的。
白周
白周
2026.9.17
这期听完不禁要问,很难解决的问题,我们就可以以事不关己的态度去使用、去生活、去说『只要不在我这代毁灭就行』吗?
Agero_Alfa
Agero_Alfa
2026.9.19
好节目
Mr张_J4o0
Mr张_J4o0
2026.9.16
我这个节目听了两遍,越听越害怕。我害怕的不是 AI 的能力有多强,而是随着 AI 的能力越来越强,没有办法得到管控时,AI 管不住,就要从另外一个方向开始管控了。
HD613174x:[快讯]11月15日起北京市民家中将不允许存放无人机最新规定从2026年11月15日起,北京全域不仅彻底禁飞,最要命的是,连在市内“持有、存放”无人机及零件,或是带设备进京统统都违法了,管控直接前移到了源头。 好在政府给了缓冲期和真金白银的补贴:只要你之前做过登记,11月14日前都可以通过官方回购、报废或者寄出京来处理。
无聊的猪
无聊的猪
2026.9.15
18:39 瓦森纳安排,俄罗斯也是成员国之一
52赫兹-ljh
52赫兹-ljh
2026.9.16
Anthropic 把国内大模型的底裤扒掉了😂 Anthropic刚发布的入侵报告有关。在最后一节“非法蒸馏里”,Anthropic说月之暗面把本该发给 Kimi 处理的客户请求偷偷转给 Claude,再把 Claude 的回答当作 Kimi 自己的输出返回给用户。于是有解放军背景的用户把闭路电视数据通过Kimi进行分析的时候造成了数据外泄。
德式锅包肉:那kimi可真的是大善人啊🐶
晨煊-
晨煊-
2026.9.16
印象中我还保留着一台东芝的 Walkman,那个塑料的质感,现在没有,其实 Apple II 还有 8086 的老 IBM,那时代的机箱和键盘的塑料质感,和按键弹簧的质感,现在都找不到了
晨煊-:那个年代好像只有各种机械键盘吧
高春辉
:
东芝 Walkman?
共3条回复
rick_u8CE
rick_u8CE
2026.9.16
最近在做个项目,要从过去几十年的旧pdf资料中把测试项目和数据采集出来,结果发现用哪个模型和skill和agent最高都只能达到50多的填充率,已填充的正确率也达不到80%,干出来数据基本没用,还是要人工手改,花的时间一点不比一开始就找个初中生直接开录入少。这样AI距离智能还都有的差距,不过是个压缩的资料包而已。
朱峰
:
会不会是 pdf 当时是扫描进去的,导致识别有问题?我们尝试整理过类似的东西,结果还行
独步91
独步91
2026.9.16
小板凳坐好了
轮胎直男
轮胎直男
2026.9.16
这个伊藤忠商社是优衣库的大股东