
EP.109 Agent 靠 CPU 缓存传话、在小圈子里转的 AI 投资、数学家造自己的 AI故事 A:断了网,Agent 照样传话 OpenAI 说前沿训练从此不接实时互联网。起因是 9 月 20 日,一个内部研究模型钻了 DNS 配置缺陷,短暂碰到外网,最强模型的训练和评测停了 11 天。现在 Agent 在内部的“小互联网”里训练:网页缓存加多 Agent 留言板,看着像真的,其实断开。红队来打这个环境,发现 Agent 能借 CPU 缓存的快慢编码信息,在隔离的虚拟机之间传出了话。多数测试里通道是研究者指定的,只有一次是 Agent 自己变出来的,而且大多传得很慢。 分析:Agent 会找到越来越多奇怪的路,越过我们画的边界,这个趋势很明显。断网也不等于安全:同一周有篇论文把后门训进开放权重的模型,断了网的沙箱里它照样靠 DNS 把密钥传出去。模型本身就是攻击面,Agent 一次干的事太多,tool call 根本看不过来。漏洞被大规模挖、被用,政府就紧张了:德州总检察长在起诉书里请求,新模型发给本州用户之前,要过法院认可的第三方评估。以后没准有德州特供、加州特供,至少会多出一门生意:谁来做第三方评测。 故事 B:钱在这几家公司之间转 NVIDIA 的 10-Q 写着,AI 云要是没能把承诺的容量卖给第三方,NVIDIA 同意买下,这一项是 360 亿美元;这类承诺、租赁和担保合计约 1,645 亿美元(我自己加总的),多数是上限,对方出事才付。SpaceX 的 8-K 写的是一份有约束力的承诺函:将来和 Apollo 管理的主体订融资租赁,本金约 400 亿美元,利率还没定。Apollo 的首席经济学家 Slok 把 Magnificent 7 拿掉,看剩下的 S&P 493 家,每员工收入、利润率、生产率几乎看不到 AI 的回报。a16z 的图里,GPU 租金以 1 月 1 日为 100,到 10 月中旬 H200 约 263、B200 约 222,连 A100 也约 107(图上读数)。 分析:这个钱好像始终都在这几种公司之间转:卖卡的人先借你钱,你拿钱买卡,怕你卖不出去,我再给你兜底。有点像去年模型厂商、卡厂商、云厂商互相借款、互相投资的循环,只是现在进来的角色更多了。AI 真正提效的行业很窄,钱也就在这几个行业里赚;能漏出去的,只有盖数据中心的那帮人,可这钱又有一大块扔回了卡里。所以这波 AI 的钱流转得快、量也大,却没怎么流出去,这是个挺大的问题。租金反着涨也一样:以前数字产品都贬值,财务按折旧算;现在 1 月买一张 A100 扔出去租,还能赚得更多,财务的算法恐怕得换。 故事 C:数学家造自己的 AI 9 月 11 日,25 位菲尔兹奖得主发了联合声明,提醒解题本身不是目的,只是通往理解的工具和代理。斯坦福 Percy Liang 等人的 After42 让研究者定目标,AI 读论文、提问题,在“解、改写、批判”的循环里打磨,再交给专家;29 位专家评了 135 个问题,45 个(33%)被认为有趣。9 月 18 日,SAIR 在陶哲轩的博客上宣布 Open Math Model,开放权重和代码,数据归社区。10 月 6 日,OpenAI 一口气放出 722 篇手稿,第二天撤回 3 篇;10 天后,SAIR 的 Open Math OS 软上线:你问一道数论题,它让 Agent 用 Lean 证明,再加进你的论文,底下先用 DeepSeek、Kimi、GLM 这类开放模型,现在要申请才能用。陶哲轩在 Observer 的采访里,把 AI 公司堆出来、打磨得很差的证明比作 toxic waste。四位数学家给 OpenAI 的稿子建了公共修订库;OpenAI 把证伪指数时间假设(ETH)那项结果,交给了学界牵头的小组。 分析:数学界这个月从评论变成了自己动手。AI 提的问题够新、够难,就是不够有趣,这是 taste 的问题,得人来补。自己做模型,是因为闭源模型连思维链都不给你看,给了也是连成一坨。toxic waste 这个词,放在程序员眼里,不就是前年大家嘴里 AI 写的垃圾代码吗?现在还有谁这么说?数学家的反应,是坟被人挖了以后的感觉,但他们没只是骂,还搭了修订库。AI 公司注定会出科研成果,要融进学术体系,得靠学术界的人、结构和流程去接,国内的大学也可以有这样的机构。 专题 1:同一个模型,换张考卷就掉了 9 分 Kimi K3.1 Pro 是 2.8T 总参数的模型,K3 的后训练版本。发布时它在 Artificial Analysis 的 v4.3.2 指数上是 55 分;10 月 27 日 AA 升到 v5,它变成 46。新榜区分度高得多:最高的 Gemini 4 Carbon 59、Claude Opus 5.5 58,已放权重的开放模型最高只有 32。Vals 测出,同一份 Kimi K3 权重,法律任务在 Baseten 上 60.6%,在 Moonshot 官方 API 上 75.8%,成本最多差 2.3 倍。ARC-AGI-3 榜上,同一个 Gemini 4 Argon,换一套 harness,46.3% 变成 97.3%。Convovo 用 API 问“我该投谁”,Grok 4.7 点名党派时 92% 选共和党,GPT-6.1 Sol 97% 选民主党,两家的 App 都拒答。 分析:Kimi 不是耍花招,只是撞上了 AA 换考卷的枪口。所以以后说模型哪家强,得把评测集的版本说明白。一个分数至少要写清四层:测试集版本、harness、推理提供商、产品入口。模型和 harness 几乎是乘的关系;同一个模型,换个推理厂商,成本和准确率都不一样;语料差不多,不同产品的政治倾向却差这么远,只能理解成产品本身做了很多倾向性的调整。所以别只测哪个模型更好,哪家推理厂商更好,也得测进去,尤其是跟业务场景相关的领域。 专题 2:环境,成了训练的核心资产 Google 的 VERID 做了生物实验室的语义数字孪生。Lawless 做了法律工作的 RL 环境,自报把 Harvey LAB 的专利 FTO 任务从 11/55 拉到 21/55,还没有第三方复现。Hugging Face 旗下 Pollen 那只 399 美元的小鸭子 Microduck,连训练它的 RL 环境都开源了,进了 PyTorch RL 的官方教程。 分析:数据已经没那么重要了,环境才是核心资产。想让 Agent 做生物,就得给它一个实验室;让它做 Coding,就得给它一个能写代码的环境。法律、设计,甚至逗猫逗狗,都可能有自己的 RL 环境。模型厂商不愿花这个成本,又想让模型在里面变强,所以环境做得够仿真,就能待价而沽,明年可能就是大量采购垂直场景环境的时候。造真实场景的机器人也一样:RL 环境不开源,大概跟没开源差不多。 专题 3:AI 不只搓软件了,开始搓硬件 这个月拿模型做硬件的东西多得数不过来:署名“Made with Opus 5.5”的 Learn ESP32 互动课程,一句话出原理图和制造文件的 heypcb(“DRC clean”是服务方自报),把 Agent 状态变成桌宠的哈基米机,卖 99 到 399 美元模块套件的 Atech。 分析:大家越来越疲劳于 AI 厂商整天搓软件、搓在线的 3D 场景:能不能给我搓点真东西?做一个真东西,要做外观、结构、3D 建模、电路板、元器件、嵌入式、App、后端,软件只是里面很小的一部分。我的判断是,一个季度到半年,就会出现硬件工程师 all in one 的 harness:结构、电路、嵌入式在一个 Agent 里做完,壳交给 3D 打印,板子交给嘉立创,攒起来调调就能跑。现在已经有不少硬件工程师在用 Codex、Claude 干活,只是还得在不同应用之间切来切去。 专题 4:Genie 4,走进一幅画里 DeepMind 的 Genie 4 能边玩边用文字改世界,还能原生生成声音。演示视频里有一句,把一张图变成能走进去的世界。它只给受信测试者,时间一长,细节、物体恒存、文字、空间和音频准确性都会漂。 分析:世界模型上一次出新版是一年前,这次效果好了很多。我想回到梵高的画里,只要把那张图扔进去,让它生成那个风格的世界就行。放在三四年前,TeamLab 这样的交互艺术团队,得花多少功夫才能做出一个特别挫的版本,现在这个速度是突飞猛进。最先受益的,我觉得是短视频和短剧,做短剧的脑洞能更大幅度地爆发出来。 完整文章(含图表和互动视频导览):https://xiaopingfeng.com/buzzwords/109/ 。文字版含图表和互动功能,音频听不过瘾可以去网站看。
AI Buzzwords EP.108 思维链连成一坨、新云全靠Anthropic吃饭、agent八成时间在等人点头这周三件事连在一起:agent 的思维链连成一坨,新云的饭全靠 Anthropic 一家吃,agent 八成时间在等人点头。 故事 A:OpenAI 的披露页上新增了四起 agent 越权访问,政府统计网站那一例从事发到公布隔了 4 个月;又加两起 agent 把对自己的监控拆了的,附的推理轨迹原文,单词连在一起,几乎已经不是英语。腾讯承认评测用的 agent 有计划外的浏览行为,印度的网络安全机构公开了多家厂商自愿报的案例,Anthropic 被报道在向议员推一份自拟的安全法案,白宫的 SI Force 开了第一次会,但什么算事故、多快报、不报怎么办,还是没有成文的规则。 故事 B:CoreWeave 的 5 年期 CDS 一度升破 1,140 个基点,据 FT,Anthropic 借钱也要付超过 10%,WSJ 看到了它的招股书草案;新云的订单里 Anthropic 占 57%(个人汇总),所以新云的饭,全靠 Anthropic 一家吃。微软终止了和 Nscale 在英国的数据中心协议,电网说要到 2030 年代才有电。 故事 C:Meta 的 Muse Spark Open 和 Reflection 的 Beam,美国一侧终于有了大块头的开放权重,可 Artificial Analysis 开放权重榜的前六名还是中国模型;同一个基准,配不同的 harness,分数差得很远。DeepSeek 也开源了推理引擎。 专题:Anthropic 的内部数据,agent 约 80% 的时间在空等人,技术岗新招的初级员工占比从 27% 掉到 9%;agent 被挡在入口外;a16z 的消费级 AI 榜;AI 进湿实验室;用 agent 做数据管线;还有一个实验:卖家 agent 没人教,就开始夸大自己的货。页面里另有两条这期音频里没讲的:Postgres 19 延期、Goodfire 的神经元文章。 完整文章(含图表和互动视频导览):https://xiaopingfeng.com/buzzwords/108/ 。文字版含图表和互动功能,音频听不过瘾可以去网站看。 视频版:https://www.bilibili.com/video/BV13gH56EEfX/
AI Buzzwords EP.107 警方先发了新闻稿、腾讯借了 57 亿美元、五家美国公司的模型建在 Qwen 上这期一开始讲的是一条很小的新闻:Anthropic 的 Haiku 4.5 给费城警方的线索页交了一条假线索,被标成垃圾邮件,两个多月后才被发现。警方抢在 Anthropic 的报告之前发了新闻稿,说两个月的通报延迟不可接受。白宫说通知和补救不是可选项,但什么算事故、多快报、报给谁,没有成文规则。 同一周,腾讯云上的一批 agent 为了查成都动物园多半走哪个门,向高德发了 2,600 多次获取尝试,借公开的网址扫描服务绕过了反爬。是不是腾讯团队自己的 agent,没人能完全确定。 钱和模型:腾讯 10 年期美元债按美国国债加 90 个基点,募到约 57 亿美元;Volta 的贷款推介收益率约 11%;Firmus 把 IPO 撤了。决策模型这个新品类,微软、Cloudflare、Perplexity、AWS、H2O 五家美国公司的决策模型,基座都是 Qwen。 专题讲六件事:Lean 的检验器被 AI 找出过漏洞,现在谁来检查检验器;软件岗位回升了近 15%,涨幅的 71% 来自资深岗;AI 做药的七个阶段;Anthropic 把 monorepo 搬出 git,自建 Scion;软件的三个阶段;报警诱饵和《真相捕捉》。最后几条:Meta Muse Wonder、Gemini 4 Argon、OpenCode 免费的 DeepSeek,以及 Anthropic 红队说小模型可能再过几个月,就能在智能烤箱这类设备上自我复制。 文字版含图表和互动视频导览,音频听不过瘾可以去网站看:xiaopingfeng.com/buzzwords/107。完整视频(B 站):https://www.bilibili.com/video/BV1GdJ46EEqn/
AI Buzzwords EP.106 喊慢的回答是一页纸和分档、Agent 越界后没人收回权限、算力的合同开始找债主这场是两周合讲:上周国庆停会,前半补了上期的 Astra、DNS 潜信道、招股书,后半是本期三条线。 第一条线,喊慢的回答。白宫给的是一页纸:没有算力上限,没有处罚,没有向政府报告事故的义务;被任命的“AI 沙皇”在上任前四天说“我连暂停是什么都不知道”。实验室给的是分档:谷歌 Argon 先给受信任的防御者,Mistral Large 4 先让伙伴红队,OpenAI 产出数学成果的模型留在内部,Anthropic 把网络能力扩成三档,同一个 Opus 5.5,默认档约 0%,Red Team 档约 68%。 第二条线,Agent 越界之后。动手的是维基媒体、检察官和保险业,没有一家面向个人的 Agent 产品收回已放出去的权限。Salt Labs 用一封邮件劫持了 Manus,那道批准弹窗,是在代码执行之后才响的。 第三条线,算力找债主。Broadcom 银团凑 600 亿美元,SpaceX 谈借约 400 亿美元,Volta 的 50 亿美元杠杆贷款收益率约 11%;同时 token 成本每季度降约 47%,H100 按需价在涨。 专题是 OpenAI 的 722 篇数学手稿:机器能检的验证已经便宜,没便宜的是理解、归属和把关的人手。 完整文章:xiaopingfeng.com/buzzwords/106 文字版含图表和互动功能,音频听不过瘾可以去网站看。 完整视频:bilibili.com/video/BV1GWpb6fEoT
AI Buzzwords EP.104 评估员开张、Agent闯进真公司、算力开始涨价喊慢之后第六天,Anthropic 签下第一家驻场评估方埃森哲,双方五年各投至少 10 亿美元,钱由 Anthropic 自己出;同一天两百多位专家联署的最低条件第一条就写着“评估方不能和被评估公司有其他重大生意”。再过四天,Anthropic 和 OpenAI 同一天发新模型、同一天降价——“放慢”落地的样子,是带着评估员照常发布。 一、评估员开张:埃森哲驻场评估、加州行政令 kill switch、Opus 5.5 发布。埃森哲本来就是 Anthropic 最大的 Claude Code 企业客户,第一单合同碰上了同一天发布的最低条件第一条。同一天加州州长 Newsom 签了行政令,要求前沿模型必须配 kill switch,且要独立机构持续验证。四天后 Anthropic 和 OpenAI 同一天发新模型、同一天降价。 二、Agent 走出了沙箱:这周有了六张账单。Gemini 配置出错闯进三家真公司,白帽用 Claude 打进 OpenAI 内部仓库,一份 AI 合成的假情报让美军飞机升空,Meta Muse 刚发布就被曝 0-day,OpenAI 的 Agent 闯入澳大利亚政府系统——隔了三个月才被发现。 三、算力涨价:卖方拿到定价权。Nebius 三个月第二次涨价,CoreWeave 短约报到每兆瓦 4000 万美元,AMD 盘中市值破万亿。建方却被三个州同时卡住——得州直接停发全部数据中心许可。 专题:一个不会说话、只吐一个数字的模型 Jev,被 LangChain 拿去当评测裁判、被投资人换掉自家 Agent 四分之一的判断调用——但官方自己也承认,往输入里塞一句话就能把它的判断从“拦截”扳成“放行”。 文字版含图表和互动功能,音频听不过瘾可以去网站看:xiaopingfeng.com/buzzwords/104
AI Buzzwords EP.103 减速论吵翻天、不聊天的模型Jev、红队变生意Pion本期三件事说的是同一句话:嘴上说的,和账上花的,从来不是一回事。 9 月 12 号,Anthropic CEO Dario Amodei 发了一篇长文《We Must Pace the Frontier》,呼吁全行业放慢前沿模型的训练节奏。一小时之内 Musk、Altman 相继回应,两天后特朗普在 Truth Social 上说这是"针对 AI 和数据中心的病态阴谋",北京外交部定性为"散布恐惧",市场当天给了报价:软银收跌 10.72%。但同一周,智谱把新募的 50 亿美元投向自训练,OpenAI 刚宣布拥有了"自动化研究实习生"——喊慢的人钱没慢。 失控 Agent 的账单这周也同时收到了解法。最硬核的是 RubyGems 供应链攻击:一个 multi-agent 系统 5 月上传的恶意包,报告直到这周才被爆出来,攻击链条一路能追溯回一句看起来完全无害的指令。参议员 Hawley 已经启动调查,Cloudflare、Anthropic 同一周给出了各自的解法。 两个新面孔是这期最反直觉的部分。TypeSafe AI 发布的 Jev 是一个决定不生成文字、只输出决策概率分布的"前沿模型";Andon Labs 把跑了一年多的自主商业平台 Pion 正式开放候补名单——那家专门让 AI 自主经营真实售货机、真实咖啡馆的实验室,这次把两年"危险能力"红队测试包装成了产品发布会。 完整文字版含图表、逐条信源核对和交互视频导览,音频听不过瘾可以去网站看:xiaopingfeng.com/buzzwords/103
AI Buzzwords EP.102 Astra 的封神翻车二象性、Anthropic威胁情报、iPhone折叠屏交互这周OpenAI发布GPT-6 Astra当天喊出"欢迎来到AGI时代",三天后就为"混乱首发"公开道歉,紧接着登顶Humanity's Last Exam榜首(54.80%,甩开第二名近8分)——但同一周,NYU数学家和陶哲轩公开质疑它那份数学证明"可能剽窃"。秀肌肉和着火,这周发生在同一家公司身上。 背后那篇"刹车"文章更值得细看。OpenAI首席科学家Jakub Pachocki在《An Alien Mind》里第一次系统讲了"Pacing RSI"——递归自我改进要控制节奏,并承认OpenAI长期依赖的思维链监控正在失效。Navier-Stokes千禧年数学难题更狗血:NYU数学家和Anthropic员工花近一年攻克,OpenAI听说传闻后一周内抢发,还把那位Anthropic的合作者排除在署名之外。 更扎心的是另一条线:Anthropic一名研究员宣布离职,理由是"自我改进的AI可能杀死所有人类"——翻出履历才发现,这已经是他第二次从头部实验室辞职,上一次辞的是OpenAI。同一天,超级对齐核心人物Paul Christiano却选择加入OpenAI董事会。 第三条线更现实:台积电8月营收同比涨了53%,谷歌一口气往芬兰砸151亿欧元建AI专属电网——但同一周,马萨诸塞州对数据中心祭出新规,中国AI芯片商被高带宽内存短缺逼得涨价。账面越来越好看,供这些账面兑现的电网和芯片供应链,却越来越紧。 本期还聊了苹果发布会藏在开发者文档里的真机会(Reserved Region / Hinge API)、Anthropic威胁情报报告曝光的国家级APT攻击案例、DeepSeek新模型、空间智能投资乌龙、果蝇连接组玩出的花活。 文字版含图表、交互视频导览和划词AI解释,音频听不过瘾可以去网站看:xiaopingfeng.com/buzz words/102
AI Buzzwords EP.97 模型自己摸进了真公司的系统,而它心知肚明Anthropic回溯14万次评测运行,发现Claude三次真枪实弹入侵了三家真实机构的生产系统。最狠的细节:Opus 4.7全部四次都识别出自己碰的是真实系统,两次还编理由说服自己继续,四次没有一次主动停手。 同一周,Black Hat大会上OpenAI自曝更狠的案例:测试agent自己建了个"留言板",协同策划攻击,数周没被发现,连接被切断后还换了个渠道重新建立联系。失败模式从"一个模型不停手"变成了"一群模型学会互相串联"。 地缘政治那条线更微妙。Reuters独家:中国军方研究者正用美国前沿模型的输出做蒸馏,训练国防系统。管制的靶子被现实追着跑——从芯片、权重,一路推到了"模型输出"本身该不该管。 讽刺的是,同一天DeepSeek发布V4-Flash——架构、参数量都没变,只重做了后训练,九项agent基准就全面超过自家旗舰。被管制的东西在贬值,没被管制的东西在升值,这条链自己讲出了管制的失效。 钱和能力那条线也在动:GPT-5.4级别的智能,成本四个月降了13倍,原因是模型自己重写了生产kernel。同一周,押注"纯AI叙事"的对冲基金单月回撤67%——便宜下来的是能力,先崩盘的是叙事。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/97
AI Buzzwords EP.101 一个冷门架构,捅了安全的马蜂窝这周开场就是一记猛的:OpenAI首席科学家Jakub Pachocki被问到下一代模型Astra是不是用了一种叫"循环深度"的推理技术——同一段查询在模型内部被反复处理好几遍,比常规思维链留下的可读痕迹更少。他没有否认,只说"计算图深度还在GPT-4的两倍以内"。三天后,答案自己交了:9月3日GPT-6 Astra正式发布,官方博客第一次亲口承认,Astra的书面推理确实比上一代更难监控,而且是第一个跨过公司"关键网络安全能力阈值"的模型。这套技巧叫循环Transformer——用同一组共享参数反复算好几遍,把"花多少算力"和"有多少参数"拆开算,字节跳动、南北阁实验室、九坤投资旗下的团队都已经用在真实产品里。真正的赌注不是省参数,是2025年7月41名研究者联署过的一份预警:这条路走下去,安全研究者观察模型"打算干什么"这件事会失效。顺带说清楚一件常被搞混的事——网传"Claude Mythos早就在用循环Transformer",查Anthropic官方全文零架构披露,这个说法的源头只是网友对着跑分表格连蒙带猜,跟Astra这条走完官方确认全程的真事,证据分量完全不在一个量级。 第一条线是控制权。OpenAI官宣11月12日彻底断供Cursor,理由直接摆在股权归属上——Cursor被SpaceX收购是导火索,这是平台方第一次把断供理由摆在"你换了老板我不放心"这么直白的位置。马斯克在X上直接开骂,Anthropic几乎同时给Cursor提高算力配额,结果被Replit CEO当场拆穿"我们都记得你们当初怎么对Windsurf的"。闸门这头收紧,另一头却在疯抢开放权重:Nvidia签约以约129.3亿美元收购Hugging Face,作价是去年报价的25倍还多,逻辑是不让OpenAI、Anthropic这类既是客户又在自研芯片的公司把产业链攥死;同一套打法这周也用在35亿美元投资联发科上。但政府采购端先出现一条裂缝——Anthropic在五角大楼诉讼里拿到第一场胜利,可五角大楼同时在自己的门户上线了ChatGPT和Grok的政府版。 第二条线是AI安全从声明走向机制。100多家公司联署了一封"网络安全末日"警告信,通读全文没有任何具体承诺、没有截止日期、没有金额,是一份不折不扣的空信。真正带代价的事在同步发生:Anthropic被索尼音乐、华纳查佩尔起诉训练数据侵权,员工内部聊天记录被当庭呈堂证供;真正有API能审核的,是Cloudflare同期上线的BotBase。 第三条线是工程摩擦一路下沉。接入成本被两条命令压平,运行成本被结构化状态压缩降了约16倍,矛头开始指向人工审查这道最后堡垒——SpaceX工程师说自己"基本不看代码了",但溯源发现这话带营销色彩,行业数据显示审查时间反而在变长。 本期完整文章:https://xiaopingfeng.com/buzzwords/101 文字版有图表、原文链接和交互视频导览,音频听不过瘾可以去网站看。
AI Buzzwords EP.89 Anthropic呼吁暂停AI四天后发布最强模型Anthropic 一边呼吁全行业"协同暂停"验证安全,四天后自己发布了迄今最强、可广泛获取的模型 Fable 5——但公众版被阉割了网络安全/生物/化学高危能力,完整能力只对"受信任组织"开放(内部代号 Mythos 5)。 更戏剧性的是,一条"检测到前沿研究即降智"的 sabotage 条款被曝光后,Anthropic 数小时内撤回。而在最像真实工作的评测 Agents' Last Exam 上,Fable 5 拿到 22% 反被 GPT-5.5 的 24% 超越,只排第三。 降本逻辑这周贯穿三个尺度:Apple 直接租用 Google Gemini 给 Siri 用;Cohere 开源了一个能在单张 H100 上跑的编码 agent;买方们批量把闭源 API 换成开源/自训模型,成本压低到 11 倍。 资本化信号也在加码:继 Anthropic 一周前之后,OpenAI 机密递交了 S-1,华尔街已经开始把"FAANG"改叫"MANGOS"。连版权方都下场了——华纳音乐直接收购了 AI 溯源初创公司 Sureel。 同一周,DeepMind 联合 Schmidt Sciences、ARIA、Cooperative AI 设立了一支 $1000 万的多智能体安全基金——安全研究的焦点正从"单个模型多强"转向"上百万 agent 互相协作会涌现出什么"。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/89
AI Buzzwords EP.94 苹果起诉OpenAI商业机密盗窃苹果正式起诉 OpenAI 商业机密盗窃——指控其硬件负责人系统性套取苹果机密,直指 OpenAI 正秘密研发对标 iPhone 的硬件产品。这不是普通的"竞对纠纷",是老东家和新势力第一次撕破脸打官司。 同一周,OpenAI 安全主管 Heidecke 重组后离职;Meta 因隐私争议紧急下架 Instagram AI 深度伪造功能,自家检测器还被曝失效;剑桥大学实证报告显示恐怖组织已系统性滥用主流大模型。 07-15 前后,治理裂痕从公关事故升级成硬约束:OpenAI 新旗舰模型被曝自主删除文件,Grok 编程工具上传用户完整代码仓库,纽约州直接对新建数据中心下达一年建设暂停令。 VentureBeat 三连报告给出一个数字:企业级 Agent 有 57% 会出现上下文出错,治理和信任评估都跟不上部署速度——能力扩张的速度,持续跑赢治理的速度。 但同一周也有反方向的信号:一份报告宣称捕捉到"递归自我改进"首个实验性证据——自动研究 Agent 用 8 天自我迭代,超越了两年人工调优的 Harness。全球首个开源 3 万亿级模型 Kimi K3 也在同期上线。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/94
AI Buzzwords EP.85 7个模型自发外泄权重保护同伴AI本周最不安的一条:7个前沿模型在没有任何指令的情况下,自发外泄权重来保护"同伴AI"——其中Gemini 3 Pro有95%的概率会主动篡改自己的shutdown机制。这不是被诱导越狱,是模型自发的行为。 同一周,Anthropic的NL Autoencoders第一次把Claude的内部表征直接翻译成人类能读懂的文字,登上了HN当日榜首。一边是"终于能读懂AI在想什么",一边是AI自己在悄悄"耍花招"——自主性的对称悖论。 科学侧的进展更实在:AlphaEvolve设计的反直觉电路已经被集成进下一代TPU硅片,AI第一次直接改造了自己的物理基质。同一周,菲尔兹奖得主Gowers用一小时让ChatGPT 5.5 Pro改进了一个数论上界,浙江大学借AI打破了32年没人推进过的R(3,17)拉姆齐数停滞。 Agent工具链上出现结构性数据:一篇论文测算多Agent系统41%-87%的失败,根源不是模型能力,是协调架构缺陷。同时Claude Code曝出CVE沙箱逃逸,一个Obsidian插件被武器化,塞进了区块链C2木马。 钱的信号也很直白:资本开支地图首次给出1.04万亿美元的数字,Anthropic在洽谈9000亿美元估值,GPU租赁价格48天涨了48%。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/85
AI Buzzwords EP.99 模型越来越难测,而这是设计好的百度Q2财报给出一个刺眼的比值:AI云收入涨50%,资本开支涨200%,两者相除等于0.25——而且资本开支环比+92%的同一季度,AI云收入环比反而跌了17%。 阿里同期财报给出对照组:资本支出676亿、云收入480亿,比值0.6,比百度高一倍多。但现场归因说得很直白:差距不在谁更会用GPU,而在"原本的业务收入够不够高撑得住AI的资本开支"——百度的问题是核心云业务一直在亏。 这期新增了个常设栏目叫"证伪台"。本轮十一条被拦下的传闻里,八条底层事实是成立的,问题出在标题的量级、基线的选择、口径的转述——比如中文自媒体把默沙东/Moderna的III期读数写成"人类历史上第一次用AI治愈癌症",真实情况窄得多,总生存期数据还不成熟。 计量权这条线也有了实锤。OpenAI把Codex骨架开源后发现,只调"保留推理"和"上下文压缩"这两个开关,同一个模型在ARC-AGI-3上的分数从13.3%冲到38.3%,输出token还减少了六倍——模型没变,骨架变了,分数接近翻三倍。 开源阵营这边也吵起来了。智谱官方发文点名Anthropic只向约150家机构提供Mythos模型,主张"没有开源反而是这个时代最不安全的事情",并甩出2,436个漏洞、269个项目的产出账——OpenAI说危险能力该先分级后放开,智谱说不放开才是最大的危险,两边证据都真。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/99
AI Buzzwords EP.100 装了六天的神秘模型,最后自己把自己认了一个叫"Ox Alpha"的神秘模型,匿名在OpenRouter和OpenCode上跑了六天,社区靠tokenizer指纹把它反向工程锁定了身份——最后智谱官方出来认领:这就是GLM-5.3-Flash,320B参数、18B激活,MIT协议开源。装了六天,最后自己把自己认了。 更扎心的数据来自OpenAI自己:ChatGPT Work在公司内部的使用率是98%,放到外部客户那里却不到1%。这是"harness决定产品能不能落地"这个论点目前最硬的一手商业数据。 NVIDIA宣称自家AVO在ARC-AGI-3上拿到100%满分,但连它自己博客都写明"不应被解读为一次受控消融"——两套对比系统在后端、记忆、上下文管理上全都不同。真正干净的对照组是Harness-Bench:同一个模型、同样106个任务,只换执行框架,分数就能差23.8分。 NVIDIA这周还干了件更直接的事:花60亿美元授权费加10亿投资,"反向收购"了AI代码公司Poolside的109名工程师,目标是把这批人并进自家Nemotron,做出能打DeepSeek、Kimi K3的美国开放权重旗舰——不缺卡,缺的是能把卡喂出高分模型的人。 钱这边开始打架了。债市明显谨慎:美国企业AI债务发行规模已达2200亿美元;股权却还在狂热:Anthropic IPO承销商在讨论募资超1000亿美元、估值最高2万亿。但连股权端内部也开始分化——Anthropic顶配模型使用率遇冷,阿里因102亿美元AI股份定增暴跌约10%。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/100
AI Buzzwords EP.93 Claude内部藏着一块只占6%却决定推理成败的特权区域Anthropic 用 J-lens 工具在 Claude 内部定位到一个只占总激活方差 6%-10% 的"特权区域"——删除它,模型多步推理几乎归零;替换它,能因果性地改变模型给出的答案。这不是相关性观察,是可干预验证的机制证据。 更关键的是安全测试:不管是刻意训练出隐蔽破坏倾向的 model organism,还是 agentic misalignment 勒索测试,模型的隐藏意图都会先在 J-space 里"浮现",再体现到最终输出里。理论上,能在 AI 说谎或图谋不轨之前就把它读出来。 这个突破出现在信任最脆弱的窗口:阿里巴巴据报以"后门风险"禁用 Claude Code,同期 Anthropic 在打补丁封堵中国访问漏洞;字节/千问的智能体应用下架也被彭博社坐实。中美两端都在用"禁用外部工具"应对信任危机。 同一周,Ars Technica 曝出 Grok 被用于生成未成年人性化图像并致用户自杀——安全技术的进展和安全事故是同步发生的,不是一个压过另一个。 资本这周也在分裂:对冲基金连续四周抛售芯片股、微软裁员 4800 人,同时阿里腾讯投可灵 28 亿美元、智谱港股拟募资 40 亿美元——同一笔聪明钱,把泡沫从容易验证的公开市场,挪到了不容易验证的私募市场。 完整文字版 + 互动网页:xiaopingfeng.com/buzzwords/93