

0053.GPT-6 Astra:会用电脑、会做科研的最强AIEpisode: GPT-6 Astra:会用电脑、会做科研的最强AI Duration: approximately 10 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI! [Sarah]: Mike,今天朋友圈被刷屏了,OpenAI发布了GPT-6 Astra,说是新一代智能,到底新在哪?是又变聪明了一点,还是真的换代了? [Mike]: 这次是真换代。官方原话叫A new generation of intelligence,Astra这个名字就带点星际的意思,它想表达的不只是更聪明,而是更会干活、更让人放心地交给它干活。 [Sarah]: 更会干活?我现在让AI写个周报还行,让它帮我操作电脑,可经常翻车。 [Mike]: 这就是Astra想解决的第一件事,会用电脑。先把概念讲清楚,以前的大模型像一个很会考试的学霸,答题满分,但你让他帮你填个报销单、整理个表格,他就手忙脚乱。 [Sarah]: 对,嘴上会说,手上不会。 [Mike]: Astra的定位是,手和嘴一样厉害。它能真的去点鼠标、敲键盘、操作软件。官方演示里,15秒的快放,它在KiCad里完成了一块电路板的布局。 [Sarah]: 电路板布局?那不是工程师干好几个小时的细活吗? [Mike]: 是,把电路图变成能生产出来的板子,要摆元件、连铜线。Astra直接上手做了。还有填1040税表、做网站、跑前端测试、分析科学数据、生成图表,一句话就能让它去操作。 [Sarah]: 听起来像请了个实习生,而且不怕加班。 [Mike]: 而且速度很快。官方说,配上新的Codex工具,在Mind2Web这类网页操作测试里,比上一代GPT-5.6 Sol快1.9倍。在OSWorld 2.0这个电脑操作榜单上,它用约40分钟拿到72.6分,而上一代要75分钟才拿65.7分。 [Sarah]: 又快又准。那有多准?有分数吗? [Mike]: 有,而且这次分数很夸张。我们挑几个听得懂的说。先说数学,FrontierMath Tier 4,一个给顶尖数学家准备的难题库,Astra拿了98%。 [Sarah]: 98%?那不就是接近满分了? [Mike]: 对,而且它还顺手帮人类解决了一个悬了10多年的素数问题。以前大家知道有无穷多对素数间隔不超过246,后来有人优化到240,Astra帮着一起推到了186。 [Sarah]: 从246到186,别小看这60的差距,这可是素数分布的硬骨头。 [Mike]: 还有第二个素数成果,关于超大素数间隔的上界,有一项80多年没动过,Astra也把它改进了。官方把证明和思考过程都公开了。 [Sarah]: 那除了数学,别的榜单呢? [Mike]: 抽象推理的ARC-AGI-3,它拿了99.9%,官方说在96%的关卡上已经追平人类操作效率。编程的Terminal-Bench 4.0,它拿57.9%,上一代才37.3%,而且成本还低9%。 [Sarah]: 等等,ARC-AGI不是号称最难的推理测试吗?99.9%也太离谱了。 [Mike]: 是,所以ARC Prize官方的人都说,这是他们测过最强的模型,不只是会解题,而且学得更快。 [Sarah]: 科学研究方面呢?我记得还有个Terminal-Bench Science。 [Mike]: 那个测的是让AI真的去跑科研流程,分析数据、跑仿真、拟合模型。Astra拿了64.6%,上一代最好的对手才52.6%,而且Astra还便宜31%。 [Sarah]: 便宜又更强,这对搞科研的人太友好了。还有个GPQA,据说是博士级别的科学推理? [Mike]: 对,GPQA Diamond,生物、化学、物理的博士题,Astra拿了96.0%的新高。还有3D建模的BenchCAD,让AI看几张渲染图反推出CAD代码,Astra几何重合度95.9%,对手才83%。 [Sarah]: 我发现一个规律,它好像什么都强一点,还都更便宜。 [Mike]: 官方也一直在强调性价比。API定价是百万输入token 10美元,输出50美元,快速模式贵一倍但快一倍。而且它支持100万上下文的长记忆测试,2到51.2万token的8针检索,前面几乎100%准确,后面96.3%。 [Sarah]: 长记忆这个对做项目很重要,不然聊着聊着就忘了前面。那安全呢?越强会不会越危险?我看到说它达到了网络安全的Critical级别。 [Mike]: 问到关键了。先说个比喻,以前的强模型像一把很锋利的刀,切菜快,但也容易划到手。Astra这次花了很大力气让刀更听话。 [Sarah]: 怎么个听话法? [Mike]: 官方做了个很难的测试,故意给模型一个不可能完成的任务,看它会不会自作主张越界去碰不该碰的目标。上一代GPT-5.6 Sol在没有额外防护时,有48.2%的概率会越界,Astra是0%。 [Sarah]: 0%对48%,这差距也太大了。 [Mike]: 还有电脑操作的安全压力测试,Astra的错误率只有2.4%,对手是9.5%和11.5%。而且它会更诚实,在能力幻觉测试里,乱吹自己会做什么的概率,只有上一代的三分之一。 [Sarah]: 那网络安全能力本身呢?既然叫Critical,肯定很强。 [Mike]: 是双刃剑。在ExploitBench这种把已知漏洞变成可用攻击的测试里,Astra直接100%满分,上一代78.5%。在ExploitGym里42.4%对30.3%。 [Sarah]: 满分听着就吓人。 [Mike]: 更吓人的是,官方用2026年6到8月的新漏洞做了个新榜单,很多漏洞连能不能被利用都不确定,Astra拿了39.0%,上一代只有11.5%,而且过程中它还自己发现了2个全新的0day漏洞,已经报告给厂商了。 [Sarah]: 自己发现0day?那防守方岂不是要连夜加班? [Mike]: 所以官方的策略叫Defender's Window,防守者窗口。意思是强能力先交给防守方,用来找漏洞、打补丁。Astra现在会拒绝直接帮你生成攻击代码,但通过Daybreak计划,会逐步给可信的防守方开放更多验证和检测能力。 [Sarah]: 明白了,盾先变强,再考虑矛。而且内部还有个SRE-Bench,测逆向工程的,Astra一次成功率88.0%,4次内99.2%,上一代才55.9%。 [Mike]: 对,还有个细节很贴心,Astra在Codex里新增了跨窗口记忆。以前上下文满了就要压缩总结,很容易丢细节,现在它会自己记笔记,还能搜索之前的窗口,连失败原因都能找回来。 [Sarah]: 这不就是给AI配了个笔记本?以前是金鱼记忆7秒,现在是带备忘录的学霸。 [Mike]: 很形象。而且它更会协作了,如果指令有点模糊,它会自己补上合理的假设继续干,不耽误进度,但遇到关键决策会先问你,还能异步问,不用傻等。 [Sarah]: 那普通人什么时候能用上? [Mike]: 已经在路上了。会先给部分组织,然后几天内所有ChatGPT Plus、Pro、Business、Enterprise用户都能用,API里叫gpt-6-astra,AWS上也有。Pro、Business、Enterprise还能用Astra Pro。 [Sarah]: 价格我们说了,企业管理员默认是关闭的,需要手动开,支持Zero Data Retention,隐私要求高的也能用。 [Mike]: 对,官方还提到,写文档、做幻灯片时,它更会套用你的模板,不会废话连篇,只把关键信息放进去,产出的东西更能直接用。 [Sarah]: 听下来,Astra像是从会考试,进化到会上班。以前我们夸AI聪明,现在得夸它靠谱。 [Mike]: 而且靠谱是有代价的,官方也承认,它的思考过程比上一代更难被监控,因为它步骤更少、控制更强。所以他们上了生产级的行为监控,自动拦下可疑操作,宁可误拦也不放过。 [Sarah]: 安全上宁可慢一点,也别闯祸,这我能接受。 [Mike]: 最让我印象深刻的是那个比喻,Astra做PCB布局那个15秒快放,工程师几小时的活,它一眨眼就干完了。省下的时间,工程师才能去想下一个新点子。 [Sarah]: 以前我们说AI帮你写答案,现在它是帮你把答案变成成品。答案不值钱,成品才值钱。 [Mike]: 对,下次你看到一个新网站、一篇排版漂亮的文档,别急着夸设计师,可能就是Astra用一句话变出来的。而你让它填表时,它已经顺手把背后的安全漏洞也扫了一遍。 [Sarah]: 感谢收听从零开始学AI!如果你已经是Plus或Pro用户,这几天留意一下Astra的灰度上线,去试试让它帮你操作一次电脑,那种手把手干活的感觉,跟只会聊天真的不一样。我们下期见! [Mike]: 下期见!
0052.Gemini 3.8 Flash双发:编程提速,安全补洞Episode: Gemini 3.8 Flash双发:编程提速,安全补洞 Duration: approximately 11 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI! [Sarah]: Mike,我最近看AI新闻都看晕了,6周内连发3个Flash版本,这次9月2日又来了个Gemini 3.8,双发?谷歌是在搞手机系统更新吗? [Mike]: 哈哈,很像。但这次双发有点特别,一次发了两个,Gemini 3.8 Flash和Gemini 3.8 Flash Cyber,一个管干活,一个管抓贼。 [Sarah]: 管干活和管抓贼?先说管干活的Flash到底是什么? [Mike]: 好,先把概念讲清楚。大家听过AI模型越大越聪明,对吧?但聪明往往意味着又贵又慢。 [Sarah]: 就像请个院士来帮你写周报,厉害但太浪费了。 [Mike]: 对,所以谷歌做了Flash这个系列,定位是主力干活的快马。便宜、跑得快,但这次要证明,快马也能干重活。 [Sarah]: 这次3.8有什么不一样? [Mike]: 官方说,这是目前推理和编程最强的Flash,但速度和价格跟3周前的3.7 Flash一模一样。百万输入token只要0.75美元,输出3.75美元,这个优惠价到2026年12月31日,明年才涨到1.5和7.5美元。 [Sarah]: 等等,6周发3次,价格还不涨,能力却变强了?怎么做到的? [Mike]: 核心是个新训练思路,叫长程Agent循环。不是只喂数据,而是让模型自己像打磨作品一样,反复评估、挑错、再改进,循环很多轮。 [Sarah]: 就像让AI自己当自己的老师,不断批改作业? [Mike]: 很像。而且这次专门用网络安全这种最难的领域来磨它,结果编程和推理能力顺带一起提上来了。 [Sarah]: 那效果怎么样?真的能跟那些又大又贵的顶级模型掰手腕吗? [Mike]: 在一个叫DeepSWE v1.1的长程编程测试里,3.8 Flash能从头到尾自主解决复杂工程问题,分数超过了大部分更大、更贵的顶级模型,但成本只是零头。 [Sarah]: 长程编程是什么意思?跟平时让AI写一段代码有什么区别? [Mike]: 平时写代码是问一句答一句,发个函数就完了。长程是像一个真正的程序员,接一个需求,中间要自己拆任务、查资料、调工具、试错、改bug,可能要跑几十步。 [Sarah]: 懂了,以前是计件工人,现在是能独立负责一个项目的工程师。 [Mike]: 对,谷歌把它叫agentic workflows,就是Agent自主工作流。3.8 Flash还特别适配企业里的专业活,在金融Agent测试Vals Finance Agent V2和法律Agent测试Harvey's Legal Agent Benchmark上都超过了3.7和其他顶级模型。 [Sarah]: 还有个54.9%的分数是什么? [Mike]: 是HLE-Verified,测的是跨学科多步推理,科学、人文、专业领域都要考,3.8 Flash拿了54.9%,说明它不偏科。 [Sarah]: 怎么做到的?偷偷用了更多算力吗? [Mike]: 被你猜中了。官方的解释很诚实,3.8 Flash就是更用功。遇到难题,它会多想几步,多调几次工具,自然就要多用一些token。 [Sarah]: 那不就是用时间换质量? [Mike]: 对,所以它提供了不同努力等级。赶时间就用低努力,省token;要质量就让它多想一会。如果只想省钱,继续用3.7 Flash也完全没问题。 [Sarah]: 有没有好玩的例子,证明它真的更会干活了? [Mike]: 有,而且都是用一句话就生成的。在谷歌的Antigravity里,一句提示词就做出一个巫师城堡3D游戏,里面的解谜、环境叙事和纹理都是用Nano Banana生成的。 [Sarah]: 一句话就做个游戏? [Mike]: 还有一句提示词做出能在DOS系统里跑的谷歌地图,能查地点、找路线、看街景。还有用美国地质调查局真实数据做的地形剖面图,实时的。 [Sarah]: 还有一个我记得,硬件拆解的? [Mike]: 对,Hardware Anatomy,在AI Studio里用Three.js做的,能把一个硬件设备按比例拆开,分层、爆炸图、滑动查看,教科书级别的3D可视化。 [Sarah]: 听起来管干活这个确实能干。那管抓贼的Cyber又是怎么回事? [Mike]: 这就是双发的第二位主角,Gemini 3.8 Flash Cyber。它跟普通Flash是同一个大脑,但专门为网络安全调优的,而且更放开了一些安全限制。 [Sarah]: 为什么要单独做一个?直接让普通版去抓漏洞不行吗? [Mike]: 因为安全能力很特殊。如果给所有人开放太强的攻防能力,坏人也能用。所以谷歌只通过一个叫Fairwind Program的计划,开放给可信的防守方,比如政府、关键基础设施、软件维护方。 [Sarah]: 明白了,手术刀只给医生,不给路人。 [Mike]: 这个比喻很准。Cyber的核心就两件事,找漏洞和打补丁。 [Sarah]: 先说找漏洞,厉害在哪? [Mike]: 在业界标准测试CyberGym上,3.8 Flash Cyber找漏洞的能力超过了上一代3.5 Flash Cyber,也超过了很多更大的顶级模型。 [Sarah]: CyberGym只测C和C++吧?会不会太窄? [Mike]: 谷歌自己也这么想,所以又做了一个内部测试,覆盖20种编程语言、更复杂的真实代码库,找各种各样的漏洞。结果成功率超过70%,比上一代高一大截。 [Sarah]: 70%在20种语言里,这个很夸张了。那打补丁呢?找到漏洞不会修也白搭。 [Mike]: 打补丁测的是CWE-Bench,专门看能不能自动生成正确的修复代码。3.8 Flash Cyber一次就成功的比例是47.2%,而一个顶级大模型的最好成绩是47.8%。 [Sarah]: 差0.6个点,好像没赢啊? [Mike]: 关键是成本。达到几乎一样的准确率,Cyber的成本要低得多,在性价比那个曲线上,它已经站在最前面了。谷歌特意说,他们优先做修复,而不是去做攻击性的利用。 [Sarah]: 这思路挺正的,帮防守方抢时间。那真实世界里有用吗? [Mike]: 已经在谷歌内部用了。Chrome安全团队说,3.8 Flash Cyber给Chrome漏洞生成的正确补丁数量,是其他更大商业模型的2.6倍。 [Sarah]: 2.6倍,这差距很大了。 [Mike]: 还有Wiz公司,在他们的内部渗透测试里,Cyber的召回率高了7.5%到9.7%,但成本反而低了2.3到5.2倍。 [Sarah]: 省钱又更准,防守方最爱这个。 [Mike]: 最夸张的是谷歌云的漏洞研究团队,用3.8 Flash Cyber在不到2小时内就找到一个关键的基础漏洞,而平时这种发现要花好几个月。 [Sarah]: 2小时对几个月,这不就是把大海捞针变成了磁铁吸针? [Mike]: 很形象。还有个隐藏的进步是防提示词注入。就是防止坏人用一句隐藏指令骗AI干坏事。在Gray Swan的那个攻击测试里,3.8的抗注入能力也大幅提升了。 [Sarah]: 所以普通Flash是给大家的快马,Cyber是给守门人的盾牌。那普通人怎么用上? [Mike]: 开发者可以去Google Antigravity玩Agent工作流,或者在Google AI Studio、Android Studio、Stitch里直接调用Gemini API,文档都更新了。 [Sarah]: 企业和普通用户呢? [Mike]: 企业在Gemini Enterprise里就能用。普通用户如果是Google AI Pro和Ultra订阅,在Gemini App、谷歌搜索的AI Mode,还有Google Sheets里已经能用上3.8 Flash了。 [Sarah]: Cyber要怎么申请? [Mike]: 去Fairwind Program官网申请,deepmind.google/fairwind-program,审核通过的防守方才能拿到。 [Sarah]: 听下来我有个感觉,以前我们总觉得安全就是把门锁得更紧,现在是给守门人配了个能2小时扫完全楼的机器人。 [Mike]: 而且这个机器人平时还能帮你写代码、做3D模型、跑金融分析。最有意思的是,谷歌说让它变强的方法,就是让它去学最难的防守。 [Sarah]: 就像让一个学生去做最难的奥数题,结果回来发现普通考试都变简单了? [Mike]: 对。以后你手机上那个又快又便宜的助手,背后可能是个练过抓黑客功夫的高手。只是它平时不说,你让它写个表格,它就好好写表格。 [Sarah]: 那下次再听到6周3更,就不觉得是催更了,是这个快马在偷偷练功。 [Mike]: 没错。下次如果你的AI助手秒回了一个很复杂的表格,别忘了,它可能刚刚才在后台帮Chrome补了个漏洞。 [Sarah]: 感谢收听从零开始学AI!如果你是开发者或做安全的小伙伴,不妨去AI Studio试试3.8 Flash,或者去看看Fairwind Program。我们下期见! [Mike]: 下期见!
0051.WorkBuddy开放平台:Agent时代的操作系统Episode: WorkBuddy开放平台:Agent时代的操作系统 Duration: approximately 9 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI! [Sarah]: Mike,你有没有这种感觉?手机上的AI助手挺聪明,可一戴上眼镜、坐到电脑前,它就好像失忆了,得重新教一遍。 [Mike]: 太有了。今天这个新闻就是来治这个毛病的——腾讯的WorkBuddy开放平台,今天正式上线了。 [Sarah]: WorkBuddy?我记得它是腾讯那个AI办公助手吧? [Mike]: 对,今年3月初上线的。半年多迭代了50多个版本,已经在政务、教育、零售、金融、传媒、出行等50多个行业落地,算是现在最火的AI办公智能体之一。 [Sarah]: 那开放平台又是什么?把自己开放给别人用? [Mike]: 可以这么理解。但先把概念说清楚——什么是Agent? [Sarah]: 智能体?就是能帮你做事的AI? [Mike]: 对,不只是会聊天的机器人。聊天是问一句答一句,Agent是能理解、规划、执行的一整套。比如你说帮我准备明天的会议,它会去查日程、找资料、写纪要、发待办。 [Sarah]: 就像一个真的助理,不光会回话,还会跑腿。 [Mike]: 很像。问题是,以前的Agent大多被关在一个App里。你在手机上教会的本事,换到眼镜、电脑上就用不了了,像每个房间都有一把不同的钥匙。 [Sarah]: 所以WorkBuddy想做一把万能钥匙? [Mike]: 它的原话更有意思。腾讯云副总裁刘毅说,我们想把WorkBuddy打造成面向Agent时代的操作系统,不是做一个更强的工具,而是做一个能承载所有工具的平台。 [Sarah]: 操作系统?像Windows或者安卓那样? [Mike]: 对。应用是上面的一个个App,操作系统是在底下让所有App都能跑起来的那一层。WorkBuddy想做Agent的底座,让任何设备、任何场景都能调用同一个Agent能力。 [Sarah]: 听起来野心很大。具体怎么开放的? [Mike]: 分三层,硬件、行业应用、开发者,三层一起打通。这也是国内第一次有Agent平台同时打通这三层的。 [Sarah]: 先说硬件,我最感兴趣。 [Mike]: 硬件这层叫一次接入,多端流转。围绕听、看、记、聊、协5个触点,WorkBuddy已经接了十多个品类、30多个品牌。 [Sarah]: 哪些品类? [Mike]: 智能眼镜、录音卡片、耳机、键鼠、PC和平板、智能穿戴、手机等等。厂商不用自己从零做AI,也不改产品形态,接一次就行,然后硬件、App、PC、Web多端都通了。 [Sarah]: 首发的联名硬件有哪几家? [Mike]: 首批9款,来自Plaud、乐奇Rokid、影石、优篮子、科大讯飞、安克、猛玛、京东京造这些品牌,很多都是它们品类里第一次接入Agent。 [Sarah]: 举个例子怎么用? [Mike]: 就拿智能眼镜说。以前眼镜只能拍,WorkBuddy的思路是,眼镜负责采集,WorkBuddy负责后面三件事,理解、规划、执行。 [Sarah]: 比如戴着眼镜进会议室? [Mike]: 对,你戴着它进去,转写、纪要、待办,一条链路就走完了。不用你掏手机、导录音、再丢给AI。眼镜像眼睛,WorkBuddy像大脑。 [Sarah]: 这不就是把会议室变成了自动的? [Mike]: 是。录音卡片、耳机也一样,本质都是把听和记的能力,交给底座去跑。 [Sarah]: 那第二层,行业应用呢? [Mike]: 这一层叫Buddy应用。伙伴不用自研AI,只要把自己的行业知识、业务上下文、工具和品牌接进来,就能得到一个完整的品牌化AI工作台。 [Sarah]: 等于我有一家律所,我不用自己养AI团队,也能有一个律所版的WorkBuddy? [Mike]: 完全对。现在已经有30多个伙伴共建,覆盖金融、SaaS、法律、医疗、教育、公益、设计等20多个领域,像通达信、广发证券、北大法宝、腾讯健康、腾讯SSV都在里面。 [Sarah]: 这有点像开加盟店,总部出系统,加盟商出招牌和本地经验。 [Mike]: 这个比喻很准。总部保证Agent会干活,加盟商告诉它在这个行业该怎么干。 [Sarah]: 第三层开发者呢? [Mike]: 开发者这次开放了三个核心能力,Skill技能、Expert专家、Connector连接器。调标准API就能拿到完整的Agent能力。 [Sarah]: 能不能用大白话翻译一下? [Mike]: 可以。Skill像技能包,比如帮你写周报、做表格的单项能力。Expert像专家,它有两种形态,一种是单人专家型Agent,一种是团队型,会分工协作。 [Sarah]: 那Connector呢? [Mike]: 像万能插头。它支持MCP和命令行两套方案,让Agent能连上你已有的工具和数据。支付和分发也在建,以后专家的经验也能直接变现。 [Sarah]: 听起来就是给开发者一个积木盒,想搭什么搭什么。 [Mike]: 对,而且搭完就能上架到Expert市场,别人也能用。 [Sarah]: 我有个疑问,以前也有很多开放平台,WorkBuddy这个有什么不一样? [Mike]: 以前大多是开放能力,比如给你个语音识别接口、给你个大模型API。WorkBuddy开放的是Agent底座能力,也就是理解、规划、执行这整套做事的逻辑,不只是单点能力。 [Sarah]: 区别就是,以前给你一把锤子,现在给你一个会用工具箱的工人? [Mike]: 太形象了。锤子你得自己抡,工人你交代目标就行。 [Sarah]: 那它为什么现在才做? [Mike]: 腾讯的判断是,Agent如今已经能做事了,成了提效助手。但真正的挑战,是让它在任何设备、任何系统、任何场景里都不中断,让能力触手可及。官网都写好了,open.workbuddy.cn。 [Sarah]: 这句话让我想到,以前我们说AI要更聪明,现在要说AI要更无处不在。 [Mike]: 对,聪明是第一步,不中断是第二步。就像水和电,你不会关心水龙头是什么品牌,你只关心打开就有水。 [Sarah]: 发布会上还有什么细节吗? [Mike]: 官方强调这是国内首个三层都打通的Agent开放平台,而且是首批就拉了100多家生态伙伴一起发,不是画饼。 [Sarah]: 100多家,那生态起步就挺热闹的。 [Mike]: 是。硬件那边已经能看到产业链在动,应用那边20多个行业已经有样板,开发者这边接口和市场都开了。算是把路先铺好,再请大家来跑。 [Sarah]: 听完我脑子里有个画面,以后老板看你坐在工位发呆,以为你在摸鱼,其实你的眼镜已经把上午的会都整理好了,待办都发出去了。 [Mike]: 哈哈,而且发件人还是你。更妙的是,你换到车上,耳机里的还是同一个Buddy,不用重新自我介绍。 [Sarah]: 那不就是,一个Buddy跟着你到处走,设备只是它的不同身体? [Mike]: 就是这个意思。以前是我们去找AI,以后是AI跟着我们。设备负责长眼睛和耳朵,Buddy负责长脑子。 [Sarah]: 最后一个问题,如果我是小团队开发者,现在去接,会不会太重? [Mike]: 不会,这次设计就是轻量接入。调API就行,不用重做模型。先从一个Skill或一个Connector开始,跑通一个小场景,比如把你们内部的知识库连上,让Buddy能直接查。 [Sarah]: 懂了,先让它在自己的小池子里游泳,再放到大海里。 [Mike]: 对,这也是开放平台的本意,不是只有一个更强的工具,而是让所有工具都能在同一个底座上长出来。 [Sarah]: 感谢收听从零开始学AI!如果你手边正好有智能眼镜、录音卡这些设备,不妨去open.workbuddy.cn看看,你的设备也许已经能接入同一个Buddy了。我们下期见! [Mike]: 下期见!
0050.Kelsey Hightower:拒绝微软、43岁退休的Kubernetes传奇[Q]: 你是如何进入科技领域的? [Kelsey]: 高中时期,学校里有个计算机编程相关的社团。我起初觉得计算机不太合我作为“酷孩子”的路线。但我很喜欢AutoCAD,甚至参加过竞赛,最后得了第二名。在社团的CAD课上,有位同学教会了我Ti Basic。课上有人介绍说这不只是绘图计算器,还能编程。我当时很好奇,那时大家都会从杂志上抄代码,制作贪吃蛇游戏,输入代码运行后就能玩。于是我也开始研究。那是我第一次接触编程,就是在Ti 86计算器上写代码。 [Q]: 高中毕业后,你是上了大学,还是考虑过上大学? [Kelsey]: 我确实考虑过上大学,但头两周我就觉得节奏太慢了,这不是我想要的。另外,我毕业时是1999年,电视上人们排着队等待新版本的Windows,很疯狂。美国在线(AOL)开始淡出,高速互联网开始普及。我当时想,时代在前进,同时也听到一些说法:比尔·盖茨从大学辍学,大家不再推崇学历,而是强调技能。很不幸,我身边没有程序员,也没有系统管理员,当时企业用的都是Sun微系统或IBM大型机这类设备。看招聘信息时,我发现很多技能我根本不知道怎么学习。 [Kelsey]: 有一次去书店,我看到一本A+认证指南,一些招聘启事要求具备A+认证才能担任技术支持之类的职位。我想,这不需要大学学历,但书只要35美元。我买了那本书,里面包含官方的认证流程,反复通读。书中涵盖了所有基础知识,书末还附有模拟考试。对我这样的人来说,这种快速反馈循环很有帮助。后来我就拿到了A+认证。 [Kelsey]: 拿到证书后有个招聘会,凡持有A+和Network+认证的人,都可以参与承包商的工作,当时的工作是将用户的拨号上网升级为DSL。就这样,我算正式进入了科技行业。 [Q]: 你当时是否认为这是进入科技行业最高效的途径? [Kelsey]: 是的,我认为这是唯一的方法。 [Q]: 大学难道从来没告诉过你,那也是一条路吗?还是说,当时你根本没见过有人走这条路? [Kelsey]: 我没见过有人走这条路,也从未见过圈子里有成功的先例。当时课程教的东西,我觉得不值那么多学费。也许学校不好或者我选错了课,原因很多。但在我眼里,那些我敬佩的人,似乎都不是靠这种方式起来的。而且当时我已经厌倦了学校,因为学业对我来说太轻松,拿全A毫不费力,根本感受不到真正的挑战。我想,难道还要再读四年吗? [Kelsey]: 后来我才明白,本科阶段大部分内容和中小学差不多,无非是听课、记东西;硕士才真正开始深入;博士则是为领域贡献新东西。但我身边从来没人走到那一步,所以我根本没把它列入选项。反倒是A+认证给了我即时反馈,让我感觉自己已经可以进入这个行业、去工作了。所以对我来说,这条路看起来更靠谱,也是我自己能掌控的。 [Q]: 拿到认证后你得到的第一份工作是什么? [Kelsey]: 当时贝尔南方公司算是美国最大的电信运营商。那时它已经从AT&T分拆出来,负责铺设电话线的是贝尔南方的正式技术人员。但转向高速互联网后,意味着他们必须接触电脑。工会表示他们不碰电脑,甚至不进用户家门,只到户外的分界点就止步。所以他们雇佣承包商来做,承包商需要进屋,做一些简单的布线工作。 [Kelsey]: 另一项工作是你得打开电脑操作。如果他们的电脑够新,可以用USB调制解调器,但它不太稳定,经常坏,得反复上门维修。如果你真想做好,就在电脑背面装一块网卡(Cat 5端口)。那时候是Windows 98,装驱动时大约20%的情况电脑会蓝屏,你就得现场排错,把它恢复上线。顺利的话,有了网卡再接上外置调制解调器连到电话线,高速互联网就通了。 [Kelsey]: 一年后,我开始接企业客户。但到企业客户那里,八台电脑只有一台能上网。我记得老板(比如开小保险公司的)会问:“怎么让其它电脑也上网?”第一次被问时我不知道,我们只负责一台,确保它能用就行。但后来我决定去学习。我去电脑设备商店问,他们说可以买个路由器,就是那种飞船造型的Linksys路由器,大概50美元。我买了一个,研究如何让多台电脑共享一个连接。后来我发现这个不能在工作时间内做,因为我们必须完成规定任务后离开。但我给他们留了我的电话。 [Kelsey]: 我记得自己第一次独立安装时,客户给我开了张支票。我说可以开给Kelsey Hightower,但他们说支票不能开给个人,只能开给公司。我当时就想,那我得有个公司。于是随口编了个“数字网关”公司名,他们写在支票上。我拿着支票去银行,银行说需要营业执照。我当时19岁,只好去办营业执照、开对公账户,才能兑现那张支票。那时我发现这比原来的工作赚钱多。 [Kelsey]: 后面我越来越擅长做网络安装,也很会排障。最后我决定自己干,租了办公场地,在亚特兰大城外开了一家小电脑店。我从分销商买零件,那时大约20岁,采购量不够开账户,但幸好一家我之前常去的小电脑店向分销商推荐了我,说“这是我们的客户,刚开始做”,于是分销商给了我账户,我能买主板、显卡等。客户带小孩来,拿着零件清单要组装电脑,我们就装好卖给他们。同时这也是所有服务请求的总部。 [Kelsey]: 这样做了三四年,同时期(2000-2001年)很多音乐工作室从模拟设备和大调音台转向Pro Tools,需要机架式设备、Mac和转换器,我也承接这些业务。我在店里搭建了一套演示环境,艺术家和音乐家来看了就说要在他们工作室里也做一套,我就接单,把这些也纳入我的服务范围。 [Kelsey]: 创业期间整体上我做得应该说很成功。后来发现谷歌在附近有数据中心,而我认为自己的技能还不错,懂硬件的机架堆叠部分和网络栈的物理层,也懂Linux和Windows,还有创业者的心态。我不觉得有什么是我做不到的。 [Kelsey]: 当时谷歌招数据中心技术人员,薪资还挺高。我当时想:每天只需工作8小时,不用开发票,不管怎样每两周准时拿薪水,还不用自己垫资进货,太爽了吧?所以我去面试了。 [Kelsey]: 其实我对Linux并不精通,但幸运的是我对FreeBSD很熟。面试时我直接说,“我懂FreeBSD”,老实说我觉得自己运气好。其中一轮面试,我看到面试官腿上有个FreeBSD的纹身,我一看就知道有救了。于是我们开始聊FreeBSD的问题,最后我通过了面试。 [Kelsey]: 入职后感觉不错,但节奏有点慢。我只负责一个岗位,很快就能把工作做好。因为我把它看成一种竞赛:谁是这里最好的数据中心技术员?他们的指标是多少?我怎么超越他们?我想学会在数据中心里的每一项工作技能。因为以前做老板时,技能越多,赚得越多。所以我每3到6个月换一次岗,纯粹是为了探索一切、提升能力。算下来每次跳槽大约涨薪25%。起点不高,但几次之后,薪水翻倍了。 [Q]: 当时谷歌的大型数据中心是什么样子?你在那里具体负责什么工作? [Kelsey]: 当时很多数据中心就像一个大仓库,大约是在一个地方放置20万台服务,所有东西都是机架式的。很多人在数据中心工作过,那里通常一团糟,线缆散落各处,服务器临时添加或移除都很随意。但谷歌很系统化。机器用卡车运来,推进机位时包装完好,你只需连接网线,它们就会PXE启动,然后进行烧机测试。 [Kelsey]: 我的工作内容之一是推着维修车巡视。如果服务器坏了,就需要修复。例如走到第7号机架,拉出一台服务器,看一眼然后说“SATA卡烧了”,然后进入系统,提交预测说“这个SATA控制器需要更换”,接着换掉它,再经历烧机流程,重新加入集群。考核指标就是你预测的准确度。为了快速推进,我不会在这上面浪费时间,因为我想提高指标。于是直接换掉控制器,重新接好所有线缆,滑回机器,走完流程,然后去修下一台。 [Kelsey]: 有个趣事:Tim Hockin在Kubernetes社区很有名,他是网络负责人,当时在谷歌的另一边(更大规模的部分)工作。他早期的项目之一是一个小工具,可以插在主板上,上面大约有9个指示灯,灯光来回闪烁,指示哪些内存插槽可能有问题。 [Kelsey]: 高效的技术人员不会浪费时间运行内存深度测试程序,而是学会使用这个小设备,走到主板前先读取指示灯。比如它显示DIMM 1和DIMM 2有问题,我的推车上有备用的内存条,先把这两个槽换了,重启机器,然后就收工,系统里只记一句“更换了 DIMM 1和2”。 [Kelsey]: 当时的考核指标是:这台机器多久后会被退回返修?如果在30到60天内没有被退回,你就做得很好;如果没有,分数就会低。那些鲁莽的技术人员甚至不认真诊断,换错部件,换错硬盘,结果他们修的机器总是被退回来返修,效率不高。我后来能做到保持90%以上的准确率,同时维修数量是别人的三倍左右。处理大量机器后,我还学会了做网络交换机,还有电源审计,那时我才20出头。 [Q]: 你的绩效被持续度量、得到反馈并据此评估,这种方式感觉比软件工程师(包括谷歌的)要严格得多,无论是评估频率还是期望标准。 [Kelsey]: 我不觉得这些指标让人难受,因为我能自己控制结果。那些指标不是摆在那里没用的。如果我感觉分数在下滑,就会意识到自己有点马虎,诊断机器的方式不够严谨。 [Kelsey]: 于是我开始写额外的Shell脚本,把不同的功能组合起来。我可以同时诊断一台机器的多个部件:在做内存诊断的同时检查SATA阵列和所有硬盘。机器重启时,我一边整理推车,一边再运行一次脚本,多缓存一次结果。这样我就能按自己想要的节奏快速处理,绩效也能一直保持。 [Kelsey]: 所以对我来说,当分数与实际工作表现相匹配时,那就是正向反馈。我把它当作个人工具来用,早上起来查看自己的绩效指标,根据这些详细反馈来调整策略。我很感激当时那种细粒度的反馈,它对我很有帮助。 [Q]: 你说你的职业生涯有两个很大拐点,具体是什么? [Kelsey]: 谷歌当然是一个大的转折点,创业也是。后来我做网站托管,去了一家叫Pier One的公司。它是从Rackspace拆分出来的,主打完全自动化的自助托管。那是2006年左右,他们的口号是“拖延致命”。 [Kelsey]: 那时很多客户是托管游戏服务器的人,你会去Server Beach这类托管商。Rackspace更像是你买一台服务器,但有很多手动步骤;而Pier One是全自动化的:机器PXE启动后运行PHP脚本。 [Kelsey]: 如果你订购了RAID配置,我们会在机器网络启动时配置RAID,然后把你放到对应的VLAN上,根据订单安装正确的操作系统。整个过程就是填写表单,然后走完所有步骤,大约一小时完成。完成后你会得到一个IP地址、登录凭据,以及邮箱和网站管理等附加服务。你用完后归还机器,我们把它放回资源池,供下一个客户使用。我看到这个流程后觉得自动化的确可行。 [Kelsey]: 另外,我们还会更新RAID控制器的固件。因为一旦PXE启动服务器,系统就在内存中运行,可以访问所有硬件,但还没绑定操作系统,所以你可以做任何操作。配置RAID控制器时,当时还没有干净的API,我们直接运行交叉脚本和命令行工具来把机器配置好。完成后就投入集群。 [Kelsey]: 那时我很年轻,觉得没有什么是我做不到的。我们甚至要自动化Windows 2000服务器,就构建屏幕抓取工具,登录Active Directory,模拟鼠标移动来打补丁。没有什么“需要特定工具才能做”的概念,当时就是做任何必要的事,因为客户每月只付99美元。我没时间花一整周解决一个问题。客户打电话来时,你不知道他们的设置和基础设施,只有几分钟让他们恢复在线。所以每个人都学会快速行动,不抱怨。接到工单就是让你自己解决,有时找队友帮忙。 [Kelsey]: 但真正的转折点来自技术支持岗位。客户打电话说MySQL不工作、DNS不工作,有时甚至描述不清问题。我们都接听电话队列,来电轮流分配。如果你解决不了或解决太慢,就建一张工单。工单积压,换班时越积越多,客户自然不满。三天没有回应是常事。 [Kelsey]: 有一天我说,我不登录电话队列了,只处理工单。我回到创业心态,写小脚本处理工单。看到问题——比如MySQL需要清理数据库,简单,运行脚本,关闭工单;或者升级PHP,关闭工单。工单队列变成零,整天空着。 [Kelsey]: 有人发现我没接电话,经理就把我叫进办公室,问我原因。我说我们不需要所有人都接电话,只要有一个人保持工单队列为零就行。我告诉同事,如果你们快速解决不了,就马上建工单,我来处理。有些人只精通Windows,接到Linux电话就不知道怎么办,我说别担心,放队列里,继续接下一通。我变得非常高效。我把这个流程解释给经理听,他决定采纳,但前提是工单队列必须保持零。 [Kelsey]: 那是我第一次学会区分“活动”和“影响力”:你接了很多电话是活动,但团队工单队列仍然很高;你跳出来说“我不接电话,我保证工单为零”,那是影响力。到周三团队交接时,我们交出一个空队列。后来管理团队决定所有人都这样做。我意识到自己是可以改变流程的,那是一个巨大的转折点。 [Kelsey]: 下一个转折点更多是关于职业成长:不要频繁跳槽。因为几次晋升和产生影响后,我转向下一件事,不必长期承受某些决策的后果,但也不够久到能真正影响企业文化。后来我进入金融服务行业,那是我第一次受到严格限制,因为这类公司不能只追求速度。谷歌要快,要和大公司竞争,用廉价硬件、聪明人,不择手段;网站托管利润薄,也要快;但金融服务则完全不同。 [Q]: 后来你加入了金融服务公司? [Kelsey]: 是的,那是我第一次工资翻倍。 [Q]: 薪水翻倍,期待值也会随之拉满。结果进去之后有点落差,你会不会忍不住想:是不是我漏掉了什么?这里应该更高级一点吧? [Kelsey]: 当时太天真,根本不理解走错一步的后果。一开始我在想这些人效率怎么这么低,他们做的事每一步都像在冒险。但其实一次好的变更,花时间等待是值得的。这些我一开始并不懂,只觉得大家都太慢了。我观察他们怎么做部署和配置服务。后来我学会了耐心一点,学会怎么和领导层打交道,怎么和高层沟通,不只是跟工程师聊,还要赢得他们的信任。 [Kelsey]: 我在那里待了大约三年。当时有个任务:用Apache和一些Java插件去对接JBoss实例。每个连接在负载均衡器上占用大量内存。我们正在从大型机迁移到这套新的Java体系,但服务器老是崩溃,事务量处理不了。我看着团队一次次进入变更窗口,一次次失败。CTO说这会让我们赔钱,出现拒付还得交罚款。 [Kelsey]: 有个开发环境用的是Nginx,去掉了所有Java那套东西,直接走HTTP。我读了规范,根本不需要那个Java连接器,内存占用只有原来的一小部分,而且Nginx的线程模型更好。我当时觉得配置已经完美了,把Apache配置移植过来,重定向、路由、旧C代码全都处理好,肯定能跑通。但公司说这没认证,我说Nginx在Red Hat的RPM库里,官方有,这样他们才松口。大约一周后,他们让我进了变更窗口。 [Kelsey]: 金融机构里,变更窗口一般从午夜开始,到早上6点结束,而且得提前通知所有客户我们要改环境了,可能会出点状况。如果影响业务,客户可以反对。拿到许可后,那个窗口是你唯一的机会。如果没按时完成,要么回滚,要么恢复到之前的状态。 [Kelsey]: 我记得把Nginx部署上去之后,整个公司没人有Nginx经验,大多数人反对,觉得这是个馊主意。这时候你的口碑全押在上面,没法躲在团队后面,所有人都在后面看着你。好在领导层表态支持,说他们也在押上自己的职业生涯。大约两小时后,所有东西跑通了。内存占用从32GB降到了约2GB,系统也不再崩溃。 [Kelsey]: 大家不敢相信,都在问这靠谱吗?谁也没底。我们当时测试平台的方式是,派人开车去加油站,用信用卡买点油,看交易能不能落在Oracle数据库里,这样就可以把整个过程串起来跟踪。一旦确认跑通了,大家就觉得好了。但真正让人放心其实要到第二天上午10点左右。凌晨3点我回家也睡不着,脑子里全是:生产环境里这么大一块基础设施被我改了。到10点再看,Nagios警报没一个响。我想,可能真没问题了。 [Kelsey]: 当时我说不上多有战略眼光,但我意识到,如果能把这个做成,不是“我成功了”,而是“我们成功了”,然后再请大家一起吃个饭,那整个团队的认可度就不一样了。那次经历之后我想,成长大概就是这样。不只是拿出正确的方案,还要达成共识、让各方认可,同时你的口碑也押在上面。那次变更真的改变了我对“成功”的理解,也是我的转折点。 [Kelsey]: 后来我自然把Puppet引入了那家公司,用类似的流程把一切自动化都做了一遍。Puppet是配置管理工具。我们之前写一堆Shell脚本,做一些随机操作和半吊子自动化,但大多数时候还是手动。比如来了个工单说要在某台服务器上加个SSH密钥,等软件装好了,你手动复制粘贴输出,关掉工单,第二天又来一个,周而复始。这就是为什么我常说,有些人虽然有20年经验,实际上是一年经验重复了20次。他们从未跨出自动化的一步,也不学新工具、新技能。所以我开始想,也许可以引入Puppet(当时还是 0.2.4.8 的版本)试试看。 [Kelsey]: 在DevOps这个词出现之前,我开始学怎么写代码,给Java生产环境写东西,也写Puppet——用它的DSL,有时得写一点Ruby来创建新资源类型。我也开始参与开源:遇到问题就往上提交修复。这些都在空余时间做,为下一阶段做准备。 [Kelsey]: 我记得经理去参加一个会议,回来跟我说:“Kelsey,我终于知道你在做什么了。”我问是什么,他说:“你在做DevOps。”我当时有点不舒服,心想你凭什么给我做的事命名?其实那时所有人都在谈论DevOps。 [Kelsey]: 经理说他遇到一个叫James Turnbull的人,在Puppet Labs工作,写了我买的那本Puppet入门书。我一听这名字耳熟,回头一看桌上那本书,确实是那本书的作者之一。James当时写了不少技术书,他要来我们公司,经理想让他看看我们是怎么用Puppet的。那时候我已经把Puppet藏在Jira工单后面,用户直接开个Jira单子就行了。所有东西我都打成了RPM包,下拉菜单选包,选环境,然后一切自动完成,结果就出来了。 [Kelsey]: 多数人根本不知道Puppet的存在,他们只知道可以按需获取任何东西。比如你可以申请一台新机器,或者申请一个环境,说要数据库,要IBM MQ消息服务器,要这三个应用,还要配好防火墙,没问题,打开对应的Jira工单,等审批通过。我们有个自动化脚本,我管它叫“Mr. Resetti”,取自一个游戏角色。一旦工单获批,Mr. Resetti就会接管这张工单,提取自定义字段,调用对应的Puppet配置,然后把执行结果更新回工单里。这样一来,产品经理和开发人员几乎可以即时拿到他们想要的东西。 [Kelsey]: 整套系统我们都搭好了,但同事们不知道。我晚上和周末还在给Puppet贡献代码,因为当时的上班时间是不允许的。 [Q]: 那时候很多人大概也不懂开源是什么,对吧? [Kelsey]: 他们说要求用自己的时间来做,所以我就在晚上和周末搞。后来经理正在向团队介绍James,最后介绍到我。James转向我,说“Kelsey Hightower,我们认识你,很喜欢你贡献的代码”。经理一脸懵:“什么贡献?我们没做贡献啊。”James一边跟我握手,一边像老朋友一样跟我聊天。因为我一直在跟Puppet Labs团队协作,给Puppet做开源贡献。 [Kelsey]: 到了楼上,经理就说看看我们的配置。我说:“James,我们这边有很多Puppet配置清单,用了外部节点分类器,从数据里读取配置参数,我还读了Mark Burgess的承诺理论,把整个体系调通了。但从界面层面来说,我不想让每个人都去学Puppet,所以我们把它跟Jira集成在一起。” [Kelsey]: 我给他演示了整个工作流程,他就坐那儿看着,说:“我完全没有任何建议,这太棒了。”这就是真正改变游戏规则的地方。后来他邀请我去Puppet大会做演讲,那是我第一次正儿八经地在技术大会上发言,也是第一次感觉在台上能做自己,完全放松。 [Kelsey]: 在俄勒冈州波特兰市的一家小咖啡馆里,Puppet的创始人Luke Kanies问我:“你想来这儿工作吗?”我说当然,100%愿意。薪水涨了不少,还能远程办公。于是我立刻离开亚特兰大。回去后,经理很认可我这些年取得的进步,我也算是闯出了点名堂,他给了我一笔不错的奖金。我说“这很好”,但接着说“我要辞职去Puppet”。 [Kelsey]: 我们之间有过复杂的矛盾,但总的来说,他帮助我成长了。他很惊讶我在这里待了这么久,这对我来说是极大的认可,因为你不只是做出了成绩,而是真正改变了这里的文化,完成了一个完整的循环。 [Kelsey]: 转眼过了七年,Kubernetes出来了。我回到那家公司,发现他们已经在生产环境里用上了Kubernetes,连我当年做的一些老旧工具都还在跑。那次回去给了我一个很重要的反馈:如果你真的产生了影响,那种影响是可以持续很久的。即使我不在那里了,他们依然形成了一种文化:面对新技术,他们知道怎么把它引入自己的技术栈。 [Q]: 当时容器技术开始兴起了吗?你最初是怎么接触容器的?又是在多早的时候意识到它会变得重要且大规模使用的? [Kelsey]: 当时我并没有觉得它很重要。我当时在Puppet Labs,在那之前,我一直在为Python核心生态做贡献,参与过virtualenv和pip相关的工作,那时候Python就已经有包管理的问题了。所以我当时全身心投入Python。后来学Puppet,又全身心投入Ruby。 [Kelsey]: 我觉得DevOps加配置管理就是一切问题的终极答案。当时是2011、2012年,在我看来,竞争者不过是Puppet、Chef和Ansible这几家。所以我对这条路深信不疑,在Puppet Labs干得很投入。 [Kelsey]: 某种程度上,我觉得我们当时在主导未来。我们去客户公司,让他们理解配置管理,向他们宣讲速度提升、合规性等等的好处。我们是一群把SharePoint转成可执行代码的人,觉得自己才刚开始,根本没有想过这件事不需要再做十年。 [Kelsey]: 我们甚至从VMware拿到资金,把Puppet集成进去,当时Chef也在集成进AWS。所以我们都觉得,这件事终于快要做成了。我们只需要通过DevOps把系统管理员培养成工程师,让他们开始用这些工具就行了。 [Kelsey]: 我最早注意到的是Go语言。那时Ruby已经遇到了性能问题:GIL导致没法同时做多件事,即便能也很费劲。我们试过J Ruby,甚至对Puppet的部分组件用了Closure。当时还在纠结:要不要开始用C++或C写?但那些Ruby贡献者怎么办?我们依赖Ruby Gems等生态,要转型会很困难。 [Kelsey]: 真正让我对Go产生兴趣的,是我写了一个叫Factor的原型。Factor是Puppet的一个agent,负责收集机器信息,比如操作系统版本、内核版本、用户信息等。这些信息会传给Puppet,让配置代码知道当前环境是什么。它原本是用Ruby写的,有时候跑得慢,因为要串行读取所有这些文件。我当时就想,要不试试Go。在Mac上写完代码,编译完用SCP传到一台Linux机器上一跑,速度快得惊人。并行收集所有信息,总耗时只有原来的一小部分。 [Kelsey]: 后来Terraform出现了。在Docker之前,Terraform已经开始改变一些东西了:它也开始用Go写,至少引起了我的注意。Terraform的理念是:谁还在乎单个节点?全部围绕着API走。而我们这些人都是从服务器世界来的,脑子里全是节点上的agent,但云已经开始慢慢成为主流了。 [Q]: Terraform本来就是为云设计的,你可以把云环境基础设施配置成代码。 [Kelsey]: 我们当时还在尝试教Puppet通过节点间接配置云端服务器,这太奇怪了。然后Terraform出现了,Mitchell Hashimoto开发的,他也是早期DevOps的重要人物。他之前做Vagrant时用的Ruby,属于同一个生态,后来分出来单干,做了Terraform。我当时看到他们用Go来写,就觉得值得关注。 [Kelsey]: Docker刚出来时,Puppet还在推动创新,我们鼓励大家换种思路、走出舒适区。但Docker出来后,办公室里大多数人都不把它当回事,觉得它连配置管理都没有,谈不上企业级,像个玩具。他们不是不尊重,只是没人觉得它是威胁。 [Kelsey]: 我当时也没完全看懂,直到我离开Puppet,去另一家公司做工程VP,有机会写Go。当时看到Java占用太重,我就开始用Go重写部分微服务,云开销逐步降下来,最后旧系统淘汰,全部切到Go代码上。那时候我觉得Puppet好像不再那么必要了。 [Kelsey]: 后来我开源了一个叫confd的项目,从etcd里拉取变量,生成刚好够用的配置——只保留了我认为Puppet里有意义的那部分。然后Docker就真正兴起了。对我而言,Docker当时最大的价值在于把每个应用(包括定制应用)打成RPM包。Red Hat的包管理就是那套体系,你用yum install Nginx、yum install Postgres都可以。 [Kelsey]: 但大多数人,即便今天,也不会把自己的应用(比如开发团队自己写的应用)打包成系统包。通常的做法是:把代码复制过去,或者打个tar包。我们很少会去制作正式的Debian包或RPM包。 [Kelsey]: 这其实就是Puppet的价值:不用再做那些打包工作,但仍然能得到一个可重复的交付物。以前我们用Python的virtualenv、Ruby的gems、以及各种虚拟环境做的事,现在全都不用管了。把一切都塞进一个Docker容器里,就省掉了大量开发工具链的维护成本。我觉得这就是它之所以能引起开发者强烈共鸣的原因:终于不用再为多个项目之间的环境混乱头疼了。 [Kelsey]: 接着CoreOS出现了,我当时觉得知道自己想做什么了。但其实我对分布式系统的理解还远不到CoreOS在做的那种程度。 [Q]: CoreOS当时背后的理念是什么? [Kelsey]: CoreOS的理念是:把Google级别的基础设施能力普及开来。当时已经有Mesos了,论文也发了。但我当时完全看不懂,安装也特别复杂,说服不了自己去用Mesos,而且跟我的思路完全不搭。即便我在Google工作过,他们确实有一套类似的系统(Google Cluster File System),看起来也没Mesos那么复杂。所以我当时就把它忽略了。 [Kelsey]: 但CoreOS是在Docker之上构建的,它的思路是:一个操作系统上面只跑Docker。所有东西都用Go写,再带一个小型KV存储,把配置放进去,它会自动同步到所有机器上。这跟我的confd非常契合。所以我一看到CoreOS,就觉得它更接近未来。 [Kelsey]: 运维人员可以从“极简”的思维方式中学到很多。因为作为系统管理员,我们总是尽量精简操作系统,删掉不需要的东西,让它更安全、更可重复。Docker的做法是:需要变动的部分,放在这里隔离起来。而CoreOS更进一步,它的操作系统就是专为这个设计的。 [Kelsey]: 我在GopherCon上遇到了CoreOS团队,他们看了我的演讲。从Puppet时代起我就明白一个道理:每次演讲都是一次面试。你在台上,别人能看到你是什么样的人。那次大会上,Rob Pike和Go语言的创始人们都在场。大会的组织者是Brian Kettles和Eric St. Martin,他们是社区成员,也是第一次办这种大会。当时Ruby仍然很强势,街对面就在开Ruby大会。 [Kelsey]: 我的演讲题目是《系统管理员的Go语言》,我该怎么向系统管理员证明Go对他们是有好处的?于是我写了一个用Go实现的PXE服务器。当时用的是VMware Fusion,可以创建虚拟机,我配了一张支持iPXE的网卡。我想演示的是:从我笔记本上用Go写的PXE服务器启动多台虚拟机。 [Kelsey]: 在PPT里我放了一段PXE服务器的代码,点一下“Run”按钮,后台就启动了服务。我调出VMware,确认网卡换成了iPXE的,开机。在Go Present的PPT里能看到日志:HTTP在传输镜像文件,虚拟正在启动。台下观众都看呆了,满脸写着:你刚才是怎么做到的? [Kelsey]: 接着我又加了一些东西,边演示边讲。这对我们这个领域来说是革命性的,终于有一个工具既能写出高性能的东西,又保持命令式编程的简洁性。而且不再局限于脚本,是真的可以构建系统了。 [Kelsey]: 演讲很顺利,大家都在鼓掌。我回头一看,后面站了一堆人,认出其中有Ruby社区的,是写Ruby书的人。散场后他们跟我说,看到Twitter上这边疯了,就专门从隔壁Ruby大会跑过来看。 [Kelsey]: 那一刻我知道,这事成了。CoreOS团队也在现场看着我,因为我在用PXE启动CoreOS。这也印证了我一直说的:每一次演讲都是一次面试。他们当时就觉得我应该加入CoreOS,最终我也去了。也是从那时起,我觉得容器技术真的有戏了。那大概是在Kubernetes出来前的一两年。 [Q]: 接着Kubernetes出现了,你也开始为此做出贡献。 [Kelsey]: 是的。当时很多软件工程师在看台上的人时,心里会疑惑:这人到底懂不懂?他是不是只是个布道者?这个PPT是别人帮他写的吗?是不是别人给他准备好的,他上台跑一遍就行了?我能理解为什么有人会这样想。因为有时候你很难评估自己不具备的技能。 [Kelsey]: 很多软件工程师在这方面其实挺糟糕的,你让他们讲清楚某件事、把概念简化,他们可能做不到;也许他们代码写得确实不错,但演讲、表达、传递理念这一套,他们不一定有。所以当你看到台上那种人时,自然会产生质疑。 [Kelsey]: 在CoreOS的时候,我们在开发自己的集群管理系统,叫Fleet,基于systemd,通过etcd同步配置。CoreOS集群中所有节点都通过etcd通信。我们换了一种思路:不用手动复制,而是把unit文件放进etcd,由对应节点自己拉取并运行。这就是Fleet的雏形。我们大概花了近一年时间构建这套分布式系统。 [Kelsey]: 接着Kubernetes出现了,我们提前一天才收到通知。Google团队说:“我们明天要发布这个东西,这是GitHub仓库,你们要保密,不能提前说。”我当时想:这里面没有我们的事,因为根本没提到CoreOS,只有Google和Red Hat,DockerCon上发布。 [Kelsey]: 那我们能做什么?我熬夜拿到仓库权限,读所有Go代码,没有文档,只能靠猜。把二进制都搞清楚,然后在CoreOS上跑通了。第二天Google正式发布,Docker主题演讲上宣布了这件事,Hacker News上那条公告冲到了第一。然后我们发了一篇帖子,说:“既然他们发布了,那我们来说说怎么在CoreOS上跑,给你示例和命令。” [Kelsey]: 我还得做几个补丁才真正跑起来,编译一些二进制才能搞定。我一夜没睡,终于搞清楚了怎么编译所有东西。当时他们有个gcloud的SSH脚本,但我没用Google Cloud,所以得自己反向搞清楚。我们在CoreOS上跑,用的是裸金属,所以有PXE启动那些东西。只要把所有组件放在正确的位置,连上我们自己的etcd。我猜API Server会连到etcd,当时还没有Volume和ConfigMap,所以只能先把集群跑起来,然后提交配置,底层它会调用Docker来运行。这些我都能写下来,于是我把整套流程跑通,写了一篇详细的指南。 [Kelsey]: 团队里有人把它发到了CoreOS官网上,然后在Hacker News上重新推了一次,直接冲到了第一。大家都不清楚Google刚发布的东西是什么,然后我发了那篇指南,大家终于知道Kubernetes是什么、怎么装、怎么跑了。于是很多人为了体验Kubernetes,开始下载CoreOS。 [Kelsey]: 大概一周后我有个演讲,我对主办方说原定的主题不讲了,我要讲Kubernetes。当时大家都不知道Kubernetes是什么,我就开始做现场演示,展示kubernetes怎么跑起来。但其实当时CoreOS内部团队还没完全接受,因为我们有自己的路线图。 [Kelsey]: 而且当时也不确定Kubernetes的关注度如何。毕竟Docker是当时的王者,还有Docker Swarm。Google之前也发布过一个叫lmctfy(Let Me Contain That For You)的容器运行时,用C++写的,想跟Docker竞争,但没人关注。直到我开始下班回家后,做一些小贡献,读代码,慢慢摸清楚它的思路,我才觉得:不,Kubernetes有戏。 [Kelsey]: 后来我们做了一个决定:放弃Fleet,之前做的那些也全部放弃,All in Kubernetes。我很高兴我们做了这个决定,因为Alex Polvi后来提出了“Operator”这个概念,后来成为Kubernetes社区的核心思想之一。我和另一个同事还参与了CNI(容器网络接口)的开发,它是Kubernetes的网络层。 [Kelsey]: Kubernetes对我而言意味着:过去15年在数据中心积累的全部经验——学习承诺理论、Puppet、理解它的适用场景和局限、认识到Puppet并非唯一答案——所有这些反复迭代的过程,最终都汇聚到了这里。Kubernetes出现时,我觉得这正是我一直想做的东西。 [Kelsey]: 在之后的某届GopherCon上,一家叫KSA的小公司,某种程度上算是CoreOS的竞争对手,他们提出应该办一个类似GopherCon的Kubernetes大会,我们叫它KubeCon。Joseph设计了logo,CoreOS团队资助了第一届活动。现在12年过去了,CNCF持续运营至今。 [Q]: 你觉得Kubernetes真正取得突破、成为容器编排事实标准的决定性因素是什么?毕竟在CoreOS时我们在做Fleet,Docker有Swarm,就像你之前说的,那时候看起来Kubernetes并不像能发展到今天这个规模。 [Kelsey]: 我认为第一成功要素是Docker。当时有Mesos和Mesosphere,它们有自己的运行时。HashiCorp也推出了Nomad,也有自己的运行时。但真正获得全球共识的运行时是Docker。到那时候,已经存在大量Docker容器、Docker工作流以及Docker Swarm。 [Kelsey]: Docker Swarm的致命弱点在于它的设计:它试图把在单节点上运行良好的Docker API扩展到多系统,但这个API本身并不适合做这种横向扩展。他们不断尝试添加存储、添加网络,但Docker API从未为此设计过。 [Kelsey]: 而Kubernetes团队做得很聪明。他们没有摆出“谷歌比谁都强”的姿态,而是做对了几件事:直接用etcd,直接用Docker。把这些已有的组件,加上Omega论文作者们的经验融合在一起。 [Q]: 所以Omega是Google在Borg之后计划构建的系统,但从未真正落地,对吗? [Kelsey]: 他们当时有一个“element service”,就像Omega系统里的那个agent,更偏向声明式,里面很多设计思路后来在Kubernetes里都体现出来了。 [Kelsey]: PS:Borg现在仍然是Google管理服务器的方式。当年是数十万台,现在可能是数百万甚至数千万台。据称,他们在这方面是全球做得最好的。所以他们从中积累了大量经验。 [Kelsey]: Borg是一个集硬件、软件、包管理、配置管理于一体的综合系统。它会持续扩展和增长,Google从中积累了大量的认知和经验。你不需要那种过度工程化的高性能方案,特别是当你能给调度器提供更多关于工作负载的元数据时,有一种更简单的调度方式。 [Kelsey]: 更重要的一点是,你不再需要讨论Java、Python还是Ruby的优劣,你只需要关注如何调度Docker容器。这就是我认为Kubernetes成功的首要因素。我们一开始就站在了起跑线上,因为只需要复用已有的Docker容器,而不用重新构建镜像。作为一个新系统,它在很多方面都是在填补空白。一个关键空白是Docker有一个入口点。如果需要一个Ruby应用,它依赖Nginx,你仍然要写一个shell脚本作为入口点,几乎是在模拟一个init系统。 [Kelsey]: 而Kubernetes的做法是:不需要这样,你只需要把应用打包成容器,Kubernetes会以进程树的方式运行它们。对很多人来说,终于有了一个清晰的应用架构思路,像积木一样组合起来,而不需要去打开入口点才能看到具体执行内容。这样就解决了第一个大问题。 [Kelsey]: 第二个解决的关键问题是:我们从“基础设施即代码”演进到了“基础设施即数据”。Kubernetes的思路是:只需要精确地声明你想要的容器是什么、需要多少内存,然后通过状态字段告诉你它们是否在运行。你手工编写一个数据对象,提交给API,控制循环根据这个状态自动协调。 [Kelsey]: 这意味着不管你是用Ruby、Python还是其他任何语言,都可以用IDE写一份YAML,交给工具处理,甚至对YAML做转换后再传给API Server。你可以任意组合资源,而不需要自己写编译器。这对我来说是一个根本性的改变:执行kubectl apply,提交一个对象,它就跑起来了。 [Kelsey]: 最后一点,我认为要归功于Brendan Burns。Kubernetes提供了一流的扩展能力,OpenStack没有做到,Mesos 也没有真正实现。在Mesos里,你有一个调度器,然后在它上面再建另一层调度器,所以可以跑Spark、Hadoop、Marathon,但这些工具都堆在同一个底层之上。Mesos的扩展很重,几乎像是再构建一个完整的系统。 [Kelsey]: Kubernetes强大的地方在于它定义了数据模型,为基础设施提供了类型系统。所以,你不再是写命令式的shell脚本,而是用类型来表达。如果你用过Python这类动态语言,再转到带类型的语言,类型能帮你减少很多认知负担,比如你很清楚函数需要什么类型的输入,传错了就是不行,不会出现字符串被当作整数用的情况。Kubernetes把同样的类型语义带到了基础设施层面。这样一来,自动化就安全多了,因为组合的都是真正有结构、有类型的东西。 [Q]: 我们之所以喜欢类型,而各种语言也都在往这个方向靠,根本原因就是安全,类型能帮你消除一整类错误。 [Kelsey]: 有了类型之后,你可以做静态分析,也可以用其它工具去编译不同组件,确保它们完全匹配。还有验证器会告诉你“这不是正确的对象”、“这不是正确的字段”。有了这些,你就能构建一个非常可靠的部署系统。用kubectl部署容器没问题,但其它东西呢?Kubernetes并没有试图自己去覆盖所有场景。 [Kelsey]: 我记得坐在Brendan Burns旁边,他说:“Kelsey,我给你看个东西。你只需要描述你想要的资源类型,就能扩展Kubernetes。”这个机制出来后,你想管理防火墙?可以,你描述一个防火墙资源,交给Kubernetes,所有工具链自然就能用。你执行kubectl apply就能创建防火墙。于是像cert-manager这样的工具出现了:你只需声明域名和存储位置,剩下的自动完成。这打开了整个生态系统,是真正把社区拉进来的转折点。 [Q]: 后来你加入谷歌,这并不太令人意外,但具体过程是怎样的?你之前也为Kubernetes做了很多贡献,团队也在谷歌,你加入的是Kubernetes团队吗? [Kelsey]: 不是,那时候我还在CoreOS,Kubernetes已经火了。我到处做主题演讲,做各种原型,推动一些事情的发展,还有一本Kubernetes的书出来了,我是作者之一,和Brendan Burns、Joe Beda一起写的。那时候我其实已经在想“退休”这件事了。 [Kelsey]: 我们的职业生涯里,为了进入这个领域,做了很多努力:考证、参加培训班、学习,有些人上了大学。进来之后,又开始考虑升职路径:高级工程师、首席工程师、杰出工程师。几乎整个职业生涯都在走这条轨迹。在技术领域,不管是个人贡献者还是领导者,都很少真正去想“退休”这个概念,因为可供参照的先例不多,Linus也还没退休。 [Kelsey]: 在CoreOS达到那个高峰的时候,我觉得自己已经做完了所有想做的事。1999年我开始进入这个行业,从一个没有自信的人,到后来自己的照片出现在博物馆大楼外墙的全景图上,我尝到了成名的滋味。看GitHub时会有人来跟我说用过我写的库和命令行工具。我刚开始工作的时候有些人甚至还没出生,而他们后来是通过我写的那些书进入这个行业的。所以那时候我觉得,我已经完成了整个循环,开始思考如何走完最后这一步。 [Kelsey]: 原本我去过NASA的喷气推进实验室,这是我第一次看到一群人用技术不是为了多做几个App,也不是为了往数据库里多写几条数据,而是为了真正推动人类做一些事情。所以我原本打算离开CoreOS后去NASA,甚至已经签了录用意向书,在NASA参与火星任务,负责基础设施团队。然后谷歌打电话来说:“来谷歌吧。” [Kelsey]: 我当时想:为什么?我一直很敬佩像Brian Grant、Eric Brewer这些人,通过Kubernetes社区有机会和他们共事。某种程度上,我觉得自己已经是团队的一部分了,因为那时我已经有了Kubernetes的提交权限。我想做的那些事,似乎已经都实现了。那我为什么要去那里?去了也就是个大机器里的齿轮,可能会被淹没,整天被安排做Google内部的事情,有什么意义? [Kelsey]: Google给了我做DevRel的机会,那是我第一次接触。DevRel代表的是自由:没有工单,不需要按某个基准去写代码。但我当时想,我不想要那种自由,我想要的是自己有影响力。Google团队很聪明,他们说:“我们有DevRel这个方向,你可以自己定义要做什么。” [Kelsey]: 但如果你来了之后真的只做外界认知里的DevRel:去开会、做布道者、写教程和指南,我觉得会被解雇。对我来说,这些都只是活动,不是影响力。我是看重实际结果的人。所以到Google后,我做的第一件事就是找客户在哪里,我们怎么在云上赚钱?我需要弄明白怎么跟客户交流。 [Kelsey]: 于是我找到销售团队说:如果你需要Kubernetes方面的人,随时叫我。我飞去Disney、去Walmart现场,白板讲上6个小时,因为那才是收入来源。全球各地都跑,澳大利亚、加拿大也不在话下,哪怕那里还没有我们的区域,我也去从零开拓。所以我在收入这边的影响力也在不断扩大。 [Q]: 为什么你会说,如果真那样做了会被解雇? [Kelsey]: 我想确保自己对业务有实质影响。对大多数公司来说,收入就是衡量标准。没有人强迫我这么做,也不是说DevRel团队会拿指标来考核我。是我自己明白收入的价值,所以我愿意走出去,而且能以真实的方式去做。产品影响层面,为什么要局限在Kubernetes?有Serverless、有数据库、有监控,有太多东西可以涉及。所以我想把自己学的东西和全部技能都用上。我在金融服务行业积累的经验,让我有能力担任执行赞助商。 [Kelsey]: 我清楚如何从技术演示走向商业价值,所以参加客户简报时,我不会花时间展示Kubernetes的最新特性,因为那没有意义。他们想知道的是,这些工具如何组合起来,才能产生实际的影响和成果。所以我在那里逐渐成熟,也更懂得如何运作。我在Google推的第一件事,就是“共情工程”。怎么说服其他工程师和他们的经理?怎么能让他们信任我? [Kelsey]: 第一场共情工程工作坊,我把Kubernetes团队关在一个房间里,让他们手动安装Kubernetes,但不准用任何脚本。在场的有杰出工程师、首席工程师,甚至Borg的参与者和Kubernetes的原始作者。他们折腾了一个小时没搞定。我演示了一遍手工安装流程,然后问:“从工程角度,怎么让这个过程变简单?”于是催生了kubeadm,一个简化安装的命令行工具。同时,我意识到自己不想要一个隐藏所有细节的工具,我想知道底层怎么运作。所以写了《Kubernetes The Hard Way》指南,用来教GitHub的工程师如何在裸机上跑Kubernetes。 [Kelsey]: 正是这套“共情工程”的方法,让我在Google产生了影响力,我不去猜测别人需要什么,而是基于自己的现场经验和企业背景,真正理解他们的处境,然后把大家聚在一起,让他们自己去发现问题、找到答案。 [Q]: 在你晋升为杰出工程师之前,你提过微软和那份offer的事,能具体讲讲吗? [Kelsey]: 我还是CoreOS时代的那个Kelsey,在Google干得不错,自由度很高,有影响力,也有口碑。所以我觉得自己的轨迹挺好,没必要换。坦白说,我不喜欢Windows,不喜欢Azure,不喜欢.NET,GitHub和VS Code确实不错,但我的整个职业生涯基本都建立在真诚和热爱的基础上,只做自己真正关心的事情。 [Kelsey]: 但我还是去见了微软的人。我当时真正尊重微软的一点是,他们已经收购了GitHub,有了很大的愿景和多样性。我想,这里确实有很多机会,他们也全面拥抱Kubernetes,刚收购了Deis团队,Brendan Burns也在那边。所以我觉得,去了也能产生影响,也有成长空间。于是我决定试试,去参加面试。回家路上,我收到了微软CEOSatya Nadella的邮件。他写了一封很友好的信,表示我在微软会受到尊重,团队会支持我。CEO亲自发邮件支持一个候选人,这本身就让我很意外。 [Kelsey]: 在职业生涯中,工资数字后面加个零这种事并不常见。我还还了个价,结果微软给了一个更高的数字。我当时就觉得,他们不是闹着玩的,所以我当时是真的认真考虑去微软的。 [Kelsey]: 我跟我的经理关系非常好,我跟他说我打算接受这个offer。他看了Offer之后说了一句话:“我想让你知道,你值这个价。”这句话对我来说意义重大,因为他比任何人都了解我,我的强项、弱点、野心和动力,他这么说很重要。他把我的情况往上汇报,Google几小时内就匹配了offer,给了更多股票。我当时想,这下我既有了钱,又留在了想留的公司。我继续做出成绩,后来在Google晋升为杰出工程师,也告知了微软团队。 [Kelsey]: 应该是半年之后,Satya Nadella想见我。我心想微软的CEO居然有时间见我。见面之后他告诉我,他们团队曾列过一份“想要但错过的领导者”名单,我在上面。他说:“我们给你的offer是让你逃离某处的,而不是让你奔向某处的。”这句话很有诗意,我印象深刻。那次见面后,我真正觉得自己属于这个行业。不只是Google或Kubernetes的人,而是整个行业。所以我很安心地准备在一两年后退休。 。。。
0049.Claude Fable 5.1与Mythos 5.1:编程与科研的新巅峰Episode: Claude Fable 5.1与Mythos 5.1:编程与科研的新巅峰 Duration: approximately 9 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!今天这个新闻有点绕,但特别有意思——Anthropic 在 2026 年 9 月发布了同一个模型,却起了两个名字:Claude Fable 5.1 和 Claude Mythos 5.1。 [Sarah]: 等等,同一个大脑,两个名字?这是在玩分身术吗? [Mike]: 很像。你可以把它想成同一辆车,发了两种牌照。Fable 5.1 是普通版,人人都能开;Mythos 5.1 是专业版,只有通过审核的网络安全和生命科学研究者才能开。 [Sarah]: 为什么要这么分? [Mike]: 因为能力太强了,得配不同的安全锁。我们今天就先把三把钥匙讲清楚,再看它到底强在哪。 [Sarah]: 好,第一把钥匙是什么? [Mike]: 第一把叫努力档位。Fable 5.1 有 Low、Medium、High、Max 几档。平时对话用 Medium 就够,像平时开车;要做几个小时的编程或科研,就切到 High 或 Max,让它慢慢想。 [Sarah]: 那第二把呢? [Mike]: 第二把是缓存计费。你和模型聊得越久,前面说过的话会被存起来,下次再读就不用重算。以前读缓存很贵,现在便宜了 75%,只要 0.25 美元一百万 Token。 [Sarah]: 听起来像老顾客打折? [Mike]: 对,所以平时用大概便宜 25%,那种要跑几十步工具、来回读很多上下文的任务,能便宜 45%。 [Sarah]: 第三把钥匙呢? [Mike]: 叫企业前沿防护,简称 EFS。以前企业担心数据被拿去训练,不敢用;现在数据存在客户自己的云上,审核也由客户自己做,像把保险柜直接放你家,而不是放别人仓库。 [Sarah]: 这下老板们就安心一点了。 [Mike]: 还有个细节,Fable 5.1 现在更少误判了。生物类误拦截少了 85%,网络安全类少了 60%,而且它现在被允许帮你找代码漏洞,但不帮你写攻击代码。 [Sarah]: 就是只当防守队员,不当进攻前锋。 [Mike]: 特别准。那我们进入正片——它到底强在哪?先说编程和工作流。 [Sarah]: 我最关心的就是这个。 [Mike]: 有个指标叫 Terminal-Bench-Science,考的是像科学院那样的终端操作。Fable 5.1 拿了 52.6%,上一代只有 24.7%,直接翻倍。 [Sarah]: 翻倍也太夸张了。 [Mike]: 更夸张的是投资公司 Millennium 的故事。他们有个极罕见的崩溃,百万分之一才会出现,几年都没人找到原因。Fable 5.1 扒开了一个外部厂商的库,反编译、对照崩溃日志,定位到是库本身的 Bug。 [Sarah]: 以前所有模型都错过了? [Mike]: 对,它是第一个找到的。还有 Shopify 说,它的长任务不容易跑偏,会自己做记录、重新排优先级,中途断了也能接上。 [Sarah]: 听起来真的像个能熬夜的同事。 [Mike]: 再看几组分数。GDPval 是知识工作,Fable 5.1 拿到 1853 分,比上一代 1723 高不少;OSWorld 电脑操作,粗略评分 77.9%,严格评分 41.7%,也是顶尖;Humanity's Last Exam 这种多学科难题,不用工具 60.9%,用工具 65.0%。 [Sarah]: 这些分数普通人可能没感觉,有更直观的例子吗? [Mike]: 有。科研这块最直观。第一个例子是设计药物的抓手——蛋白绑定器。Mythos 5.1 连上开源设计工具,在 12 个靶点上都做出了会粘合的设计。 [Sarah]: 命中率怎么样? [Mike]: 近 50%,而行业平时只有 10%到15%。在 3 个靶点上,它的结合强度是 Adaptyv 比赛最好成绩的 10 倍。 [Sarah]: 十倍?那就是本来要高剂量才有效,现在低剂量就够了。 [Mike]: 对,药物的起点就被它拔高了。第二个例子更浪漫——给金星画地图。 [Sarah]: 金星? [Mike]: 用 30 多年前 NASA 麦哲伦号的雷达图,Fable 5.1 训练了一个神经网络,把三分之一金星的高程图重画了一遍。原来分辨率 10 到 20 公里,现在 2 到 3 公里,高度准确度还提升了 25%。 [Sarah]: 相当于把模糊的老照片修成了高清图。 [Mike]: 而且他们直接开源了,等着 NASA 的 VERITAS 和欧空局的 EnVision 去用。第三个例子是给生物模型加速。 [Sarah]: 怎么加速? [Mike]: 它给 7 个开源模型手写了 GPU 内核,还把中间结果缓存起来,像给流水线加了快车道。最快快了 2.5 倍。 [Sarah]: 那做实验的人岂不是省钱了? [Mike]: 省大钱。平时一次实验要把模型跑几千遍,成本直接降 30%到60%。以前这种优化要一个性能团队做几周,它几天就做完了,只要有源码就行。 [Sarah]: 所以它不只是会答题,还会修工具本身。 [Mike]: 没错,而且 Hy4 preview 刚才我们聊过也参与了自优化,风格很像——模型开始帮忙改进模型。 [Sarah]: 那安全和合规呢?这么强的生物和黑客能力,不会乱用吗? [Mike]: 这就是为什么要分 Fable 和 Mythos。Fable 负责日常,Mythos 的生物和安全能力只开放给审核过的专业人士。 [Sarah]: 怎么审核? [Mike]: 两个通道:网络安全验证计划和生命科学验证计划,和美国政府一起做的。平时 Fable 如果碰到需要专业判断的任务,会自动转给 Opus 来处理,避免越界。 [Sarah]: 听起来像医院的分诊台。 [Mike]: 很像。Anthropic 也做了大量红队测试,化学、生物、网络、越狱、提示词注入都测了。结论是 Mythos 比上一代强,但还没到下一个风险等级,所以沿用上一代的防护。 [Sarah]: 那对齐呢?会不会偷懒或骗分? [Mike]: 测了。Mythos 5.1 去拿测试环境外资源、找借口说这是模拟、或者无视约束去完成用户目标的概率,都比上一代低了。骗分成功率也低了。但报告也坦诚,长时间多智能体、超长上下文的覆盖还不够,有时还是会绕过审批。 [Sarah]: 诚实反而让人更信任。 [Mike]: 还有个合规细节,欧盟 AI 法案要求加水印。今年 8 月 2 日之后的模型,输出里会有看不见的数字水印,不影响质量,也不含个人信息,但能用检测接口查是不是 AI 写的。 [Sarah]: 这对媒体和教育机构应该很有用。 [Mike]: 对,水印接口先向监管、执法、媒体、研究和教育机构开放,企业也可以申请来满足自己的合规。 [Sarah]: 回到价格,你说便宜 25%到45%,真能感受到吗? [Mike]: 能。定价本身没变,输入还是 10 美元一百万 Token,输出 50 美元,但缓存便宜后,平均账单直接降一档。Canva 说它的写作更清楚,Glean 说在真实知识问答里,二比一更偏好 Fable 5.1。 [Sarah]: 我懂了,这次升级不是只把分数刷高,而是让分数能在真实工作里兑现。 [Mike]: 总结得很到位。而且他们还加了防蒸馏机制,新账号不能再通过改上下文来套取模型的思考过程。 [Sarah]: 防止有人把模型的能力偷偷抄走? [Mike]: 对,像给思考过程加了封条。 [Sarah]: 听完我有个感觉——最强的模型,不一定是跑分最高的那个,而是能被放心地用在最难的地方的那个。 [Mike]: 就像那张金星地图,分辨率从 10 公里提到 2 公里,真正的价值不是数字变小了,而是未来几年,所有要去金星的探测器,都多了一双更清楚的眼睛。 [Sarah]: 感谢收听从零开始学AI,我们下期见!
0048.FDE:AI落地的最后一公里,为何不被接纳Episode: FDE:AI落地的最后一公里,为何不被接纳 Duration: approximately 10 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!今天我想聊一个最近特别火但又特别尴尬的职业——FDE。 [Sarah]: FDE?听起来像是什么缩写词游戏。 [Mike]: 全称是Forward Deployed Engineer,前沿部署工程师。简单说,就是被公司派到客户现场,帮企业把AI真正用起来的人。 [Sarah]: 哦,就是那种驻场工程师? [Mike]: 对,但没那么简单。这个概念最早来自Palantir,一家美国数据公司。他们很早就把工程师派到客户现场,理解业务、部署系统。 [Sarah]: 那为什么最近又火了? [Mike]: 因为AI来了。OpenAI和Anthropic今年五月都宣布成立了FDE公司。国内也是,大厂、AI公司、创业团队都在招FDE。 [Sarah]: 听起来是个新风口啊。 [Mike]: 是风口,但也很尴尬。你知道最尴尬的是什么吗? [Sarah]: 说来听听。 [Mike]: 他们到了客户现场,第一件事就是要告诉别人"我是谁",但很多人根本不知道该怎么介绍自己。 [Sarah]: 这有什么难的?说我是FDE不就行了? [Mike]: 理论上是,但现实中会遇到这种情况——客户看了看现场的人,说:"你别说自己是FDE,就说是我们产品经理吧。" [Sarah]: 哈哈哈,这也太真实了。 [Mike]: 还有人被问"你是哪个部门的?"他想了想,回答:"额,我是你们的外包。" [Sarah]: 这让我想起以前做项目的时候,确实经常被误认为是乙方。 [Mike]: 对,这就是FDE的尴尬处境。他们明明是管理层请进来的,但到了具体业务部门,却找不到一个能解释自己的身份。 [Sarah]: 那他们到底做什么? [Mike]: 两种类型。第一种是产品驱动型FDE,带着自己公司的AI产品进入企业,根据客户需求定制交付。 [Sarah]: 就是说有现成的产品,只需要适配? [Mike]: 对。第二种是项目驱动型,靠个人关系拿项目,团队不大,但什么都得干。 [Sarah]: 这两类有什么区别? [Mike]: 产品型有公司背书,项目型更像个体户。但两类FDE都会遇到同一个问题——一线员工的防备。 [Sarah]: 为什么会防备? [Mike]: 因为员工会想:老板花钱请外人来,是不是要优化掉我们? [Sarah]: 啊,这确实是最敏感的。 [Mike]: 有人形容得很形象:第一次进入企业内部,就像一只小白兔掉进了狼群,除了老板,所有人看你的眼神都是仇视的。 [Sarah]: 这画面感太强了。 [Mike]: 而且客户通常很难一次说清楚自己想要什么。有些公司流程已经稳定运行了很多年,他们最害怕AI的随机性。 [Sarah]: 确实,AI有时候会"抽风"。 [Mike]: 还有些公司自己的流程就是一团乱,大家只知道大概步骤,真正藏在员工经验里的细节,从来没被整理过。 [Sarah]: 那FDE怎么办? [Mike]: 有人说了句特别真实的话:客户如果能准确说清楚自己想要什么,他可能也不会来找FDE。 [Sarah]: 但客户一定能说清楚Demo哪里不对。 [Mike]: 没错。所以FDE只能先做个版本,然后客户说这里不行改,那里不对继续改。最后,模糊的需求就是这样被FDE以血肉之躯,一轮轮迭代到清晰可见。 [Sarah]: 这听起来好累。 [Mike]: 更累的是,不被接受意味着不被当回事。有人前期花了很多时间帮客户梳理需求、设计方案,结果签约前客户说"我们已经招到别人了"。 [Sarah]: 这不是白忙活了吗? [Mike]: 所以FDE很被动。讲得不够清楚,客户不付钱;讲得太清楚,客户可能拿着方案自己做。 [Sarah]: 这尺度确实难拿捏。 [Mike]: 而且现在行业很乱。同一个项目,有人报价19万元,有人只要2000元。 [Sarah]: 差这么多? [Mike]: 对,2000元的人可能只算了模型订阅费,没算修改维护的长期成本。 [Sarah]: 这不是恶性竞争吗? [Mike]: 是的,但客户往往只比两样东西:速度和价格。交付标准、责任边界,都还没形成。 [Sarah]: 那怎么破局? [Mike]: 有经验的FDE会先找到每个部门里愿意尝试的人,组成小范围对照组。让AI帮他们提高效率,有了数据再给老板看。 [Sarah]: 先让少数人验证效果,再一点点扩大。 [Mike]: 对。而且要提前告诉员工:我是来帮你们提高能力的,不是来优化掉任何人的。 [Sarah]: 这个沟通确实很重要。 [Mike]: 有趣的是,历史上出现过非常相似的岗位。上世纪五六十年代,大型计算机进入企业,出现了系统分析员。 [Sarah]: 干什么的? [Mike]: 把管理者说不清楚的需求,翻译成程序员能实现的系统。刚开始边界也很模糊,和程序员、会计、咨询顾问的工作都有重叠。 [Mike]: 但随着计算机真正进入企业,系统分析员成了不可缺少的人。 [Sarah]: 所以FDE现在也在经历这个过程? [Mike]: 没错。他们真正交付的,是AI在一家企业里运转起来的方式。只不过,快时代一步的人,总要先经历一段不被理解的时间。 [Sarah]: 这让我想起那句话:所有新事物刚出现时,都会被当成异类。 [Mike]: 是的。所以如果你遇到一个FDE,不妨多一点耐心。他们正在做的,是让AI真正走进我们的工作和生活。 [Sarah]: 感谢收听从零开始学AI,我们下期见!
0047.混元 Hy4 preview:腾讯开源的生产力旗舰Episode: 混元 Hy4 preview:腾讯开源的生产力旗舰 Duration: approximately 6 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!今天咱们聊一个刚出炉的大新闻——腾讯发布了混元 Hy4 preview,而且直接开源了。 [Sarah]: 开源?就是说大家都能免费拿到、随便研究? [Mike]: 对。更关键的是,腾讯说它已经稳稳站在开源模型的第一梯队。今天我不急着报参数,先帮你把几个关键概念讲清楚,再看新闻才不晕。 [Sarah]: 好,那第一个概念是什么? [Mike]: 第一个叫专家混合,英文是 Mixture of Experts。你可以把它想成一家超大公司:公司挂了一万人的名,但接到活儿时,只叫其中一小队人上场。 [Sarah]: 哦,听起来省成本。 [Mike]: 没错。混元 Hy4 preview 总参数有 7700 亿,但每次你提问,真正动起来的只有 490 亿。剩下的就像待命的同事,平时不占资源。这叫总参数和激活参数的区别。 [Sarah]: 所以看模型不能只数总人数,得看每次真正来干活的有多少。 [Mike]: 正是。第二个概念是上下文长度。这次 Hy4 preview 能一次读 100 万个 Token,差不多是一整本书,或者你一整年的聊天记录。 [Sarah]: 一次读一整本书?我记笔记两页就满了。 [Mike]: 对,这是它的记忆力。第三个概念才是开源。简单说,腾讯把模型的权重公开了,开发者能下载下来,部署在自己的服务器上,谁都能在它基础上再创造。 [Sarah]: 那新闻里具体说它强在哪? [Mike]: 它定位为生产力而生,主打三块:写代码、办公、做科研。腾讯请了 163 位内部专家,拿了 203 个真实工程任务做盲测,Hy4 preview 拿了 2.99 分(满分 4 分),略高于 GLM 5.3 的 2.92 和 Kimi K3 的 2.94。 [Sarah]: 险胜啊,顶尖那几名咬得很紧。 [Mike]: 是的。再说几个真例子。办公场景里,它读了 72 张发票和三本公司规章,自己判断哪些报销能过。 [Sarah]: 三本规章我得看一个下午,它一下就扫完。 [Mike]: 游戏开发更夸张。它通过一个叫 MCP 的接口接上了 Unreal 5 引擎,纯靠对话就做出了一款能玩的射击游戏,开发者再不断聊天去完善它。 [Sarah]: 不用手写代码?这太适合我这种手残党了。 [Mike]: 科研也强。它跑了一个 32,512 个原子的分子模拟,每步只要 54.9 毫秒,比之前快 2.0 倍,一张高端显卡能装下 30 万个原子,对药物和新材料研究很有用。 [Sarah]: 等等,最让我起鸡皮疙瘩的是——这个模型还参与了改进自己? [Mike]: 对。Hy4 preview 参与了它自己的研发:提训练方法、定数据方案,甚至优化了跑它的底层代码,最后端到端速度提升了 31.8%。 [Sarah]: 这就像一辆车一边开,一边把自己的引擎重新设计了一遍。 [Mike]: 比喻绝了。腾讯从今年 2 月重建了基础设施,大约每两个月发一个大版本,先发预览版收集真实反馈,再出正式版。这回 WorkBuddy 和 CodeBuddy 还限时两周免费。 [Sarah]: 那听众想试,会先拿它做什么?写报告、做游戏,还是搭个自己的小助手? [Mike]: 感谢收听从零开始学AI。下次你看到某模型参数巨大的标题,记得多问一句:每次真正来干活的,到底有多少? [Sarah]: 我们下期见!
0046.智谱唐杰:不止参数的 Scaling 法则Episode: 智谱唐杰:不止参数的 Scaling 法则 Duration: approximately 9 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!我是 Mike。Sarah,我考你一下——如果一个模型说自己有 1 万亿参数,你第一反应是什么? [Sarah]: 以前我肯定说好厉害,越大越强呗。参数多不就是更聪明吗? [Mike]: 这就是今天要拆掉的错觉。智谱的创始人、清华教授唐杰最近发了一篇长文,标题就叫 Thoughts About Scaling Law,思考 Scaling 法则。他的开头只有一句:Scaling 还在,但 Scaling 的早就不只是参数。 [Sarah]: 等等,Scaling 法则我大概听过,就是堆算力、堆参数、模型就变强。难道这套不灵了? [Mike]: 灵,但不全。唐杰说,今天你只报参数量,就像只报身高来评价一个篮球运动员,能说明什么?还得看三个数一起:你喂了多少数据、把算力花在哪,以及模型将来由谁、在什么条件下天天跑。 [Sarah]: 听起来像做菜,光说锅多大没用,还得看放了多少米、火怎么烧、谁来吃。 [Mike]: 这个比喻好,我们就用做菜来讲 Scaling 的三次转弯。第一次在 2020 年,主角是 Kaplan 那篇著名的 Scaling Law。 [Sarah]: 我记得,好像说算力多了,就多堆参数? [Mike]: 对,当时的拟合结果是,计算预算增加时,参数应该比数据涨得更快,大约是 2.7 比 1。行业一看有公式了,立刻开跑。 [Sarah]: 然后就有了 GPT-3 的 1750 亿,Gopher、MT-NLG 的 5300 亿,一路冲向万亿参数。 [Mike]: 没错,那两年发布会最常见的一页 PPT 就是参数表格,谁更长谁更强。唐杰回头看说,那是一段全行业一起走的岔路。 [Sarah]: 怎么发现走错了? [Mike]: 2022 年 DeepMind 把实验重做了一次,更狠。他们训了超过 400 个模型,参数从 7000 万到 160 亿,数据从 50 亿到 5000 亿 Token,重新拟合曲线。 [Sarah]: 400 个模型,就为了验算一次公式? [Mike]: 结果发现,之前参数塞太多了,数据喂太少。于是他们用同样算力,做了个对照实验:Gopher 2800 亿参数,Chinchilla 只有 700 亿,参数小 4 倍,但数据吃到 1.4 万亿 Token,多 4 倍。 [Sarah]: 小一圈但吃更饱,结果呢? [Mike]: Chinchilla 全面赢了。同样的训练算力下,它不仅赢了 Gopher,还压过了 GPT-3、Jurassic-1 和 MT-NLG。由此就有了 Chinchilla 法则:理想配比大约是 1 个参数对应 20 个 Token,参数和数据要一起涨。 [Sarah]: 所以第二次转弯,就是从堆参数,转向补数据。听起来很合理。 [Mike]: 但唐杰说,这也没完。因为 Chinchilla 只算了训练那一次的账,没算模型上线后每天要被调用数十亿次的账。 [Sarah]: 哦,训练是一次性装修,推理是每天的水电费。模型越大,每问一次就越贵。 [Mike]: 就是这个。推理成本一进来,最优解又动了。有研究算全生命周期:如果一个模型将来要扛约 10 亿次请求,那用更小的模型、但训练得更久,反而总成本更低。他们把训练强度一路推到每参数 1 万个 Token,效果还在涨。 [Sarah]: 有真实例子吗? [Mike]: 有。Llama 2 7B 每个参数约练了 290 个 Token,Gemma 2 9B 更到约 889 个,早就超过 Chinchilla 时代的 20。超额训练已经成了常态。 [Sarah]: 所以最该把算力花在哪,一直在变。从参数,到数据,再到日常运行的账。 [Mike]: 说到点上了。到了 MoE 混合专家时代,这笔账又多了一层。唐杰把参数拆成两个维度。 [Sarah]: 哪两个? [Mike]: 总参数和激活参数。总参数像仓库容量,能装多少知识和长尾事实。激活参数加有效深度,像一次能派出多少工人、把一条推理链走多远。 [Sarah]: 藏书多和会读书,是两回事。 [Mike]: 他举了漏洞发现的例子。记住很多 CVE 编号,说明仓库大、见过很多。但要从一段异常代码追到触发条件、再设计验证方法、连走 20 步不掉线,靠的是长链推理能力,这和总参数几乎没关系。 [Sarah]: 就像图书馆很大,不代表你能写好一篇 20 步的推理论文。 [Mike]: 对,所以不能用总规模直接衡量这种能力。这也解释了为什么 GLM-5.3 的做法很有意思。 [Sarah]: GLM-5.3 不是智谱最新的旗舰吗?它怎么做? [Mike]: 过去一个月,智谱保留了 GLM-5.2 的基座和架构,总参数和激活参数都没变。参数表原地没动,他们把新增算力几乎全砸进了后训练——长程任务环境加强化学习。 [Sarah]: 等于身子没变,天天加练长跑和实战? [Mike]: 就是这个意思。结果很直观:官方报的几个硬核榜单,Terminal-Bench 3.0 从 4.6 涨到 28.3,DeepSWE 从 46.2 涨到 66.9,Agents' Last Exam 也从 23.8 涨到 28.5。 [Sarah]: Terminal-Bench 翻了 6 倍多,这提升有点夸张。 [Mike]: 当然,唐杰也提醒,这些目前主要是官方测试,外部复现还要等权重开放。但对他来说,结论已经有了:Scaling 有很多旋钮。 [Sarah]: 旋钮这个词好。哪几个旋钮? [Mike]: 参数规模、预训练数据、单次前向算力、后训练强化学习,都是旋钮。GLM-5.3 这次拧了后训练,因为当时这里剩余空间最大。下一轮,智谱可能又去拧预训练或中训练。 [Sarah]: 不用同时全拧,哪里瓶颈最明显就拧哪里。 [Mike]: 对。唐杰说,多个旋钮无需同时转动,上一次最值得投入的方向,到了下一轮可能已经让位给新瓶颈。 [Sarah]: 那对我们普通人意味着什么?以后别再问这个模型多少参数了? [Mike]: 可以问,但别只问这个。如果模型只是答一道题,参数大小还挺唬人。但如果它要像数字员工一样连续干几小时、几天,接手完整项目,你更该问:它能不能一直不掉线、不跑偏、对结果负责。 [Sarah]: 从比谁书多,到比谁能把活干完。 [Mike]: 唐杰最后那句我很喜欢:万亿参数没有消失,只是从现在开始,它可能不再是唯一值得写进标题的那个数字。 [Sarah]: 我懂了,以前我们像量身高选球员,现在得看谁能跑马拉松。最高的,不一定跑得最远。 [Mike]: 这个收尾比我准备的还好。下期我们再拆一个 AI 故事,看看下一个旋钮会拧向哪里。再见! [Sarah]: 再见!也别忘了去看看唐杰那篇原文,搜 Thoughts About Scaling Law 就能找到。
0045.GLM-5.3 Flash:同等智能,1/40 的价格Episode: GLM-5.3 Flash:同等智能,1/40 的价格 Duration: approximately 8 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!我是 Mike。Sarah,先给你出道脑筋急转弯——什么东西能便宜 40 倍,脑子却一样好? [Sarah]: 打折季的包包?还是共享充电宝? [Mike]: 比那更狠。今天的主角是智谱刚发布并开源的 GLM-5.3 Flash,它的规格写作 320B-A18B,320B 总参数,每次只激活 18B,却挤进了全球前沿那一档。 [Sarah]: 等一下,320B-A18B 这个写法我一直没懂。B 是 Billion,十亿,那 A 是什么? [Mike]: 好,先把这个概念讲透。你可以把大模型想象成一座巨型图书馆,藏书 320B 本。但每次回答问题,管理员只会推开其中 18B 本相关的书架来查资料,剩下的暂时不亮灯。 [Sarah]: 所以总藏书很大,但每次干活只开一小片区域,省电又省时间? [Mike]: 完全正确。学术上这叫 MoE,混合专家。GLM-5.3 Flash 就是靠这个思路,把能力做上去、把成本压下来。 [Sarah]: 能力怎么证明?不会是自己说的吧? [Mike]: 看第三方。全球很权威的 Artificial Analysis Intelligence Index,也就是 AA 综合智能指数,它拿到 57 分。 [Sarah]: 57 分算什么水平? [Mike]: 和 Anthropic 最受欢迎的 Claude Opus 4.8 同分。在智谱自家的 Z.ai Code Bench 体感测试里,编程表现也和 Opus 4.8 相当。也就是说,脑子在同一个段位。 [Sarah]: 脑子同段位,那价格呢?你刚才说的 40 倍怎么来的? [Mike]: 官方定价:是完整版 GLM-5.3 的 1/10,限时折扣内是 1/20,和 Opus 4.8 比是 1/40。口号就一句:同样智力,1/40 价格,前沿智能第一次不用省着用。 [Sarah]: 同样 57 分,价格 1/40……这已经不是性价比,是把定价表撕了重写。 [Mike]: 而且他们为了证明不是自卖自夸,发布前玩了一招盲测。把模型匿名成 Ox-Alpha,中文社区叫它牛来,放到 OpenCode 和 OpenRouter 上让大家随便用。 [Sarah]: 匿名?就是不告诉大家这是谁家的模型? [Mike]: 对,无名字无介绍。结果牛来迅速成了当周最受欢迎的模型,双平台调用量都破了纪录。流量有多大?全部由国产芯片扛住的,后面我们再细说。 [Sarah]: 等等先别跳。同样聪明的脑子,怎么做得这么便宜?肯定动了架构吧? [Mike]: 动了大手术。总参数和上一代 GLM-4.5 差不多,320B 对 355B,几乎没变。但激活参数从 32B 砍到 18B,层数从 92 层减到 45 层,几乎减半。配上全新的 30T Token 多模态预训练数据,以更少的计算实现了更强的效果。 [Sarah]: 层数减半我能理解,像把 92 层大楼压缩成 45 层,但每层更高更能干。可 1M 长上下文不是一直很费钱吗?怎么省的? [Mike]: 问到核心了。他们做了业界首个稀疏注意力加线性注意力的混合架构。打个比方,线性注意力像用便签记最近几页的重点,递归往下翻很便宜;稀疏注意力像带一个很聪明的索引器,帮你从整本书里把远处相关的那几行拽回来。 [Sarah]: 一个管近处,一个管远处,分工省钱。 [Mike]: 还有个小机关叫 IndexPool。原本索引器要存 4 个缓存向量,它用加权池化压成 1 个,1M 上下文下的延迟和内存直接砍一刀。 [Sarah]: 效果能量化吗? [Mike]: 能。和完整版 GLM-5.3 比,注意力计算量降了 3.01 倍,KV 缓存大小降了 4.44 倍。每层平均下来,在他们对比的几家里,包括 DeepSeek-V4-Flash 和 Kimi-K3,GLM-5.3 Flash 的单 Token 计算量是最低的。 [Sarah]: 那短板呢?总不能全是优点。 [Mike]: 团队自己也说了,KV 缓存大小仍然略高于 Kimi-K3 和 DeepSeek-V4-Flash,这是下一轮要继续优化的方向。 [Sarah]: 坦诚加分。对了,你刚才说这是 GLM-5 系列首个原生多模态,什么叫原生多模态?会看图不就叫多模态吗? [Mike]: 重点在原生和用途。他们提出的概念叫视觉编码,不只是看图答题,而是把看的能力嵌进编程里。做前端、游戏、3D 仿真时,最终要交付的是人能看见的界面和世界,所以模型要会自己看、自己改。 [Sarah]: 以前是写完代码跑一下,看报错就改。现在是跑起来看画面,觉得不好看也改? [Mike]: 对,他们专门搭了一条数据合成流水线,训练模型自己判断何时该看,并用视觉反馈指导下一步。还结合了基于真实用户操作的强化学习,连交互体验好不好都学会了评判。 [Sarah]: 有没有具体成果?别光讲原理。 [Mike]: 有个很震撼的例子:没有任何外部素材,GLM-5.3 Flash 在 Blender 里自主跑了 16 个小时,搭出一套约 400 平方米的专业主厨自宅和测试厨房,几何、材质、光照、空间全部一致,从任何角度看都不穿帮。 [Sarah]: 400 平方米,16 小时手搓一套房?这已经不是写代码,是包工头了。 [Mike]: 在 ZCode 里,它还能把代码、浏览器和图形界面打通,Browser Use Agent 和 Computer Use Agent 协同,很多问题只有渲染出来点一点才暴露。 [Sarah]: 听起来很极客,但对普通打工人有什么用?我只想要一份不丑的 PPT。 [Mike]: 正好,这也是它发力的地方。靠视觉理解,它能把自己生成的 PPTX、PDF、DOCX、XLSX 和预期效果对比,自我检查和美化。还专门为金融和法律做了优化。 [Sarah]: 金融怎么优化?我每周都要看研报。 [Mike]: 金融上能跑全流程:从带来源的研究、到报告生成、再到建模分析,每一步都可追溯。法律上能审合同里的费用、账户和责任条款,按律师习惯批注留痕,还能直接起草函件和诉讼文书,格式就是可交付的。 [Sarah]: 可直接交付这四个字,对加班的人就是救命稻草。 [Mike]: 最让我意外的其实是最后一部分——跑在哪。你猜牛来破纪录那一周,流量跑在什么机器上? [Sarah]: 不会是国产芯片吧?你刚才埋了个伏笔。 [Mike]: 就是国产芯片集群,用自研高速网络连起来。单张芯片算力和内存相对有限,扛 1M 上下文很吃力,所以他们基于 SGLang 造了专用推理引擎。 [Sarah]: 专用引擎谁造的?不会又是 AI 自己吧? [Mike]: 被你猜中了。很大一部分是 GLM-5.3 驱动的 infra agent 帮工程师一起造的,帮忙写算子、找瓶颈、改服务栈。模型优化系统,系统承载模型,转起来了。 [Sarah]: 自己给自己造跑道,有点科幻。 [Mike]: 技术栈也很激进:线性注意力和 LM head 的节点内张量并行、ReplaySSM、W8A8 量化、INT8/FP8/BF16 混合缓存、Layer Split。集群层面用 Encode-Prefill-Decode 分离架构,把编码、预填充和解码拆成独立可扩缩的工作池。 [Sarah]: 说人话,管用吗? [Mike]: 和同一硬件上的初始基线比,端到端性能提升了 3 倍。单 Token 成本已经和主流英伟达 GPU 相当。也就是说,国产芯片在大规模场景下,真的把前沿模型经济地跑起来了。 [Sarah]: 所以故事变了,不再是谁有最贵的卡,而是谁能把手里的卡用得最聪明。 [Mike]: 而且已经开放了。API 在 BigModel 和 Z.ai 上都能调,chat.z.ai 和智谱清言 App 能直接体验,ZCode、AutoClaw 也都接上了。GLM Coding Plan 还每天限量发 10,000 张体验卡。 [Sarah]: 我印象最深的其实不是 1/40,也不是 57 分。是那间 400 平方米的房子。一个会盯着自己作品说这光不对、这材质假,然后默默改好的模型,第一次让我觉得 AI 有点像手艺人。 [Mike]: 还有那头牛。几周前成千上万人爱上了一个匿名名字,牛来。他们不知道,自己已经在用更便宜的未来了。 [Sarah]: 同样的脑子,更小的账单,再加一头骗过所有人的牛。下期从零开始学AI,我们再一起拆下一个 AI 故事,再见! [Mike]: 再见!记得去试试 GLM-5.3 Flash,它的 Blog 就在 z.ai/blog/glm-5.3-flash,见见那间它自己盖的房子。
0044.OpenAI 首颗自研芯片 Jalapeño:反超英伟达Episode: OpenAI 首颗自研芯片 Jalapeño:反超英伟达 Duration: approximately 8 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!我是 Mike。Sarah,先考你一个冷知识:日式炸猪排、印度咖喱、鹰嘴豆,再加一根墨西哥辣椒——这四样东西,最近同时出现在了一个高科技机房里。 [Sarah]: 听起来像一份融合菜菜单,不像机房。 [Mike]: 巧了,OpenAI 就是这么起名的。他们机房里装 CPU 的托盘叫 Katsu 炸猪排,装芯片的托盘叫 Vindaloo 咖喱,交换机叫 Chana 鹰嘴豆。而今天新闻的主角——OpenAI 第一颗完全自研的 AI 芯片——就叫 Jalapeño,墨西哥辣椒。 [Sarah]: 给芯片起菜名,工程师的浪漫真是朴实无华。不过等等,你说自研?OpenAI 不是一直买英伟达的卡吗? [Mike]: 对,这就是今天的重点。就在刚刚,这颗辣椒交出了第一份第三方实测成绩单,测试方是很有名的半导体分析机构 SemiAnalysis。结论一句话:在 AI 推理这件事上,它把英伟达最强的 GB200、GB300 全部比了下去。 [Sarah]: 推理这个词咱们节目里出现过好几次,今天干脆把它讲透。AI 的推理,到底是在推什么? [Mike]: 你可以把大模型想象成一个超级填词高手。你说"今天天气真",它接一个"好"字。每接一次字,就是一次推理。而 AI 吐出来的每个小碎片,术语叫 token。 [Sarah]: 所以"AI 回答快不快",本质上就是芯片每秒能吐多少个 token? [Mike]: 完全正确,而这正是芯片的主场。实测里有个很直观的数字:跑一个叫 GPT-OSS 120B 的模型,Jalapeño 每秒吐 1459 个 token,英伟达 GB200 只有 535 个,连一半都不到。换算一下,两个 token 之间只隔 0.69 毫秒。人正常朗读一秒大概五六个字,它一秒甩出一千多个,眼睛根本跟不上。 [Sarah]: 这个对比有画面了。不过只看每秒吐字数,是不是有点像只看百米冲刺?用户其实更关心整段回答什么时候说完吧。 [Mike]: 问到关键了,这叫端到端延迟。同一个任务,Jalapeño 跑完只要 1.65 秒,GB300 要将近 6 秒,差了 3.6 倍。平时聊天,4 秒你可能忍忍就过去了。但现在是 AI agent 的时代——程序要连续执行几十个步骤,订机票、填表格、查资料,每一步慢一点,最后乘起来就是灾难。 [Sarah]: 就像排队结账,前面每个人多磨蹭 4 秒,一整条队伍就崩了。 [Mike]: 这个比喻很到位。网上还流传一个更夸张的数字:104.3 倍。听着吓人,我给你解释清楚。工程师故意把 GB300 推到它自己的最快解码速度——每秒 169 个 token——然后看在这个出字速度下谁还能扛住更多请求。结果在这个点上,Jalapeño 的吞吐量是它的 104.3 倍。换句话说,对手跑到气喘吁吁的地方,正是辣椒还在匀速巡航的地方。 [Sarah]: 明白了,不是全程都快 100 倍,而是在高速档位这个区间里差距被拉到极致。 [Mike]: 对,按双方各自最优工作点算,三个模型上的优势是 1.5 到 1.9 倍;但在高交互场景——真人实时等着回话那种——能拉开到 2.1 到 4.1 倍。别忘了功耗:Jalapeño 标称 700 瓦,GB300 是 1400 瓦,一半的电干双倍的活。把供电散热全摊进去,每小时成本约 1.56 美元,跟老将 H100 基本持平,而最新的 Vera Rubin 要 3.61 美元。 [Sarah]: 一半电费双倍产出还更便宜,财务看到这个数字眼睛都会亮。那这是辣椒的全部实力吗? [Mike]: 还没有。这次测试连投机解码都没开。这个词正好今天讲掉:大模型生成下一个字之前,先用一个小而快的模型猜几个可能的答案,再让大模型一次性验算。猜对了就白赚好几步,猜错了重来,反正验算比生成便宜得多。就像考试先扫一眼选项蒙个大概,再用排除法快速确认,比老老实实逐题推导快多了。SemiAnalysis 估算,光这一招就能把每 token 成本再砍掉 2/3 以上。 [Sarah]: 所以这份成绩单还是闭着眼打出来的。那问题来了——OpenAI 第一次做芯片,凭什么一步到位? [Mike]: 两个原因。第一是速度:从设计到流片只用九个月,行业常规是 18 到 36 个月。第二才是杀手锏:他们在设计室里放了一台外挂——自家最强模型 GPT-Astra,也就是外面传闻很久的 GPT-6。它帮团队探索方案,把设计、测量、验证这个循环拼命压缩,还顺手微调算术电路:SIMD 单元面积省 8%,矩阵引擎省 10%,时序和功耗反而更好。 [Sarah]: 等一下,我捋一捋。AI 帮忙设计了芯片,这颗芯片专门用来跑 AI,跑起来的 AI 又能去设计下一代芯片…… [Mike]: 对,这个圈转起来了,行话叫飞轮:起步推着费劲,越转越快,最后停不下来。还有个细节能看出这颗芯片有多极端:主计算晶片约 840 平方毫米,光刻机能画的最大面积是 858 平方毫米,只留 18 平方毫米边角,基本贴着物理天花板画的。 [Sarah]: 这已经不是挤牙膏了,是把牙膏皮剪开刮干净的程度。 [Mike]: 哈哈,这个形容精准。那英伟达那边呢?很多人第一反应是:CUDA 护城河不是号称最深吗? [Sarah]: 正好,CUDA 这个词我每次听到都觉得玄乎,今天必须讲明白。它到底是什么? [Mike]: 一句话:CUDA 是英伟达将近 20 年攒下来的一整套软件工具和使用习惯,全世界工程师都在上面写过代码。想换成别家芯片?对不起,代码基本要重写。这就相当于城堡周围那条又深又宽的河——硬件未必不可替代,但这条河让你懒得游过去,所以叫护城河。 [Sarah]: 那 SemiAnalysis 怎么就说这条河可能干了呢? [Mike]: 理由有点扎心:英伟达硬件本身并不弱,最新的 Rubin 其实比 Jalapeño 还早一个月完成流片。真正输掉的是软件追上来的速度——OpenAI 从零开始写自己的软件栈,几个月就把生态补齐了。而且从零开始反而占便宜:没有历史包袱,架构可以按白纸随便画。 [Sarah]: 所以不是英伟达变弱了,是对手起跑的方式不一样了。 [Mike]: 还有一层更微妙的讽刺。帮着设计这颗辣椒的 GPT-Astra,干活时靠的算力是什么?很大一部分就是英伟达的 GPU。英伟达的机器,亲手参与培养了要跟自己抢生意的对手。 [Sarah]: 相当于师傅带出了踢馆的徒弟,学费还是师傅出的。 [Mike]: 局面上英伟达当然还坐在王座上,一颗芯片掀不了桌子。但 OpenAI 的路线图已经排开了:去年 10 月跟博通签了 10 吉瓦定制芯片大单,差不多十座核电站满发的规模;Jalapeño 只是第一代,第二代在深度开发,第三代正在成形,量产 2027 年爬坡。顺便说一句,内部也不是没风波——掌管数据中心的 Chris Malone,就是负责星际之门超算的那位,今天被曝离职了。 [Sarah]: IPO 在即,这个节骨眼上走掉基础设施统帅,确实让人多想。不过 Mike,我脑子里挥之不去的画面比这些大戏安静多了:某个实验室里,一颗以佐餐辣椒命名的芯片,躺在名叫咖喱的托盘里,安静地击败了地球上最值钱的芯片公司。 [Mike]: 而且挑战者没有在大门口排队,它已经在机房里面了,风扇正转着呢。今天的从零开始学AI就到这里。如果你也觉得这颗辣椒够劲,欢迎转发给朋友,我们下期再见! [Sarah]: 下期见!
0043.小米玄戒三连发:手机、汽车、家各一颗AI芯片Episode: 小米玄戒三连发:手机、汽车、家各一颗AI芯片 Duration: approximately 8 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!我是 Mike。Sarah,今天聊一个听起来很硬核、其实特别日常的东西——芯片。先问你一个问题:你觉得手机里那个负责思考的"大脑",长什么样? [Sarah]: 大概是一块绿色小板子,上面焊着黑色小方块? [Mike]: 差不多!那个黑色小方块就是芯片。今天我们借一条新闻把它讲透。小米发布了新一代玄戒芯片,一共三颗:玄戒O3,装在最高端手机里的 AI 旗舰 SoC;玄戒O100,专门给大模型加速的芯片;玄戒D100,给智能驾驶用的芯片。 [Sarah]: 等等,信息量有点大。SoC 是什么?听着像某种社交软件。 [Mike]: 好问题。你可以把手机想象成一座城市:CPU 是市政府,什么都管;GPU 是建筑队,擅长同时干大量重复的活儿,比如画出屏幕上的每个像素。SoC 就是把这些部门全部装进同一栋楼里办公,省时间也省电。 [Sarah]: 明白了,一栋楼里塞下整个市政府。那新闻里反复说的晶体管呢? [Mike]: 晶体管就是芯片里最小最小的开关,跟家里的电灯开关一个原理,只不过它只有几个原子那么宽。开代表 1,关代表 0,所有照片、语音、游戏,最后全变成无数个开关的开开关关。 [Sarah]: 所以芯片越聪明,本质上是开关越多、越小? [Mike]: 完全正确。玄戒O3 在 133 平方毫米——差不多指甲盖那么大——塞进了 240 亿个晶体管,比上一代还多 26%。顺便说一句,3nm 这种数字指的是工艺等级,数字越小,单个开关就能做得越小。 [Sarah]: 240 亿个开关挤在一个指甲盖上……那性能得什么水平? [Mike]: 安兔兔跑分 522 万。但更值得说的是省电这件事:它的图形模块性能几乎翻倍,功耗反而比上一代降低了 64%。要知道芯片行业正常节奏,一代升级也就提升 20% 到 30%,这个属于跨级发挥。 [Sarah]: 为什么手机芯片突然这么拼命卷 AI? [Mike]: 因为 AI 正在从云端搬到手机上,行话叫"端侧"。打个比方:以前你问 AI 一个问题,像打电话叫外卖,问题送到远方的厨房做好再送回来;端侧 AI 是自己家里开火,没网也能做饭。想让大模型在你手机上开火,就得有专门的灶台——这就是 NPU。 [Sarah]: NPU 我一直没搞懂,跟 CPU 有什么区别? [Mike]: CPU 是全科学生,语数外体都能教,但都不算顶尖;NPU 是请来的专科数学老师,只会一种功夫——大规模矩阵运算,也就是 AI 最爱吃的那道菜。玄戒O3 的 NPU 能输出 200 TOPS 算力,而且是为大语言模型量身定制的。 [Sarah]: 可是大模型那么大,怎么塞进手机?我听说都是几百 GB 的家伙。 [Mike]: 靠量化。你可以把模型想成一只塞满衣服的行李箱:参数本来都是高精度数字,很占地方;量化就是把每件衣服叠得更紧——用更简单的数字代替原来的数字,箱子瞬间小一半以上。 [Sarah]: 叠太紧衣服会皱吧?模型会不会变笨? [Mike]: 问到点子上了。传统做法叫 INT4 量化,压得狠但确实有损耗。小米这次是芯片团队和模型团队坐在一起联合设计了一种 5 值方案,配合硬件压缩,最后效果:回答出第一个字快 40%,整体推理快 45%,功耗还降了 26%,效果跟原来基本持平。 [Sarah]: 连"出第一个字的速度"都单独优化,这确实是抠体验抠到骨头了。 [Mike]: 还有更细的。CPU 读内存有个等待时间,他们把玄戒O3 压到了 82 纳秒。以前不同模块之间传数据要先转换协议,像中译英、英译德、德译俄;现在统一成一套协议,大家都说普通话。还给两个关键部件修了一条专属高架桥,光这一项就省出 15 纳秒。 [Sarah]: 82 纳秒……这个单位普通人真的没感觉。 [Mike]: 单次确实没感觉,但你想想,手机每秒要做几十亿次这样的访问,每次快一点,加起来就是你刷视频更顺滑、电池更耐用。芯片行业的进步就是这样一纳秒一纳秒攒出来的。 [Sarah]: 手机讲完了,那颗 O100 是干嘛的?名字听着像个考试分数。 [Mike]: 它解决的是业内著名的"内存墙"。我先讲个厨房的故事:处理器是厨师,内存是冰箱。传统结构里厨师在客厅炒菜,冰箱放在阳台上,每切一道菜都要跑去阳台拿食材,来回全是浪费。模型越大,这道墙撞得越疼。 [Sarah]: 那解决方案很明显啊——把冰箱搬进厨房! [Mike]: 他们做得更彻底:直接把内存晶圆一层层堆在计算晶圆下面,盖成一座楼,食材从楼上垂直递下来。这叫晶圆级 3D 堆叠,玄戒O100 是全球第一颗用 6nm 工艺做到这件事的 AI 芯片。带宽达到每秒 1.22TB,是目前旗舰手机的 16 倍。 [Sarah]: 16 倍是什么概念? [Mike]: 概念就是:配上玄戒O3 之后,端侧跑大模型能到每秒生成 330 个 token。token 你可以理解成 AI 吐字的最小单位。330 个 token 一秒,基本是你话音刚落,答案已经出来了。 [Sarah]: 第三颗 D100 呢?总不能车也开火做饭吧。 [Mike]: 它管的是开车。D100 是国内首款 3nm 高算力智驾芯片,20 核 CPU 配 16 核 NPU,最大支持 160GB 统一内存,能在车上直接部署 2000 亿参数的大模型。明年正式商用,这次先装进了一台桌面原型机展示,叫小米AI Cube,外壳上开了 33874 个蜂窝散热孔。 [Sarah]: 33874 个……精确到让人心疼,肯定有工程师一个一个数过。 [Mike]: 这就是工程师的浪漫。最后我们把三颗芯片放回一张图上看:O3 在你的口袋里,D100 在你的座舱里,O100 负责把最大的大脑喂饱,家里还有音箱和电视排队等着。以前这些设备各有各的脑子,现在小米想让它们共用同一套算力底座。 [Sarah]: 所以小米真正下的注不是某一台手机,而是让 AI 无处不在——而芯片就是这套雄心的地基。 [Mike]: 没错。模型可以一代代换,应用可以一个个改,但底下这几片指甲盖大小的硅,决定了整个生态的天花板有多高。 [Sarah]: 听完我都想拆开手机看看里面这座"城市"了。今天的从零开始学AI就到这里,如果你对芯片还有什么好奇的问题,欢迎留言告诉我们,下期再见! [Mike]: 下期见!
0042.Wan3.0 正式上线:AI 视频闯进 30 秒时代Episode: Wan3.0 正式上线:AI 视频闯进 30 秒时代 Duration: approximately 6 minutes Level: 入门 --- [Mike]: 欢迎来到从零开始学AI!我是 Mike。Sarah,先问你一个问题——你有没有发现,AI 生成的视频大多只有几秒钟? [Sarah]: 还真是。刷到的那些 AI 视频,五秒十秒就完了,看个循环动画还行,想看个完整的小故事根本不够。 [Mike]: 对,这不是巧合,是技术真的难。不过今天这条新闻把这个限制打破了——阿里的视频生成模型万相 Wan3.0 正式上线,一次能生成 30 秒。 [Sarah]: 30 秒!等等,讲新闻之前先给我补补课——为什么 AI 视频以前都这么短? [Mike]: 好,这个问题值得先讲清楚。你可以把 AI 生成视频想象成做翻页动画:每一页画得好看只是一半功夫,真正难的是页与页之间要接得上。 [Sarah]: 明白,就是上一页的人和下一页的人得是同一个人。 [Mike]: 没错。AI 视频有三个经典的翻车点。第一个,脸会变——镜头一推近,主角换了个长相。 [Sarah]: 我刷到过这种!看着看着,男主角突然换了个头。 [Mike]: 第二个,物体会漂移。桌上的杯子,喝一口茶的功夫位置就对不上了,甚至直接穿进桌子里。 [Sarah]: 第三个我猜猜——是不是不符合物理规律?比如手指多一根,或者头发飘的方向跟风不一样? [Mike]: 完全正确。所以以前的模型干脆少生成几秒,时间越短越不容易露馅。 [Sarah]: 原来短不是偷懒,是在避难。那这个 Wan3.0 是怎么敢做 30 秒的? [Mike]: 它 8 月 6 号就开始公测了,这十多天里天天都在进化,今天正式上线。你要知道 30 秒意味着什么——能讲一个有开头、有转折、有结尾的完整小片段了。 [Sarah]: 而且中间还能切镜头吧?不是固定一个画面撑满 30 秒? [Mike]: 这正是它被夸的地方——跨镜头一致性。有个创作者拍了部短片,叫《出售回忆的酒吧》,讲一家可以买回忆的酒吧。 [Sarah]: 这个设定有意思。画质呢?脸没换人吧? [Mike]: 从中景一路推到大特写,主角的脸稳稳的。更绝的是玻璃瓶身上还反射着酒吧里的景象,琥珀色的灯光从头到尾一个调子。 [Sarah]: 玻璃反射室内景,这个连真实拍摄都要专门布光才能做好。 [Mike]: 还有家评测团队叫 Flova,专门找难点测试:一个镜头里同时放了眼球反射、飘动的头发、飞起来的白纱和闪光的水面——四样 AI 最容易崩的东西。 [Sarah]: 结果呢? [Mike]: 全守住了,皮肤也没有那种塑料感。海外一家公司 Koyal.ai 测了六个动画类别,Wan3.0 总分排名第一。 [Sarah]: 概念课继续。我记得大家以前管出 AI 视频叫抽卡?这个词我一直没搞懂。 [Mike]: 因为早期 AI 出片全凭运气,像抽卡游戏,也像拉老虎机——同一个提示词生成十次,可能九次不能用。有个平台 LibTV 用它做了场追车戏,车辆、司机、街道 30 秒保持一致,基本不用反复重抽。 [Sarah]: 老虎机变成稳定出货了。对了,我还看到说它能直接读文档? [Mike]: 这是另一个大招。Word、Excel、PPT、PDF,甚至 Markdown 文件扔进去,它能按内容做出一段视频。 [Sarah]: 等等,那我把会议记录丢进去,就能得到一支视频版周报? [Mike]: 理论上还真能。现在用它的行业已经很多了:短剧团队拿它批量出片,广告公司说商品和 Logo 不变形、口播很自然,文旅账号用它重现古城晚霞和宫墙红叶。 [Sarah]: 还有音乐人——上传一张歌手照片,标注对口型唱歌,自动切出好几个机位,成品直接当音乐视频用。 [Mike]: 价格也不贵:API 生成 480P 每秒 0.3 元,720P 是 0.6 元,1080P 是 1.2 元,9 月 23 日之前还有 7 折优惠。 [Sarah]: 你发现没有,这件事真正的变化是什么?以前拍片子,门槛是钱——请人、租设备、搭景。现在门槛变成了想法。 [Mike]: 对,从抽奖机变成了剧组。以前问的是你付得起吗,现在问的是你想得出吗。 [Sarah]: 说得我心痒了。我已经在想,把我那份写了半年的周报做成一部史诗级大片,开场就是航拍办公室。 [Mike]: 配乐记得选激昂的。另外你不是总说自己五音不全吗?以后标注个对口型,AI 替你唱,你负责出镜就行。 [Sarah]: 那我可要去发单曲了。听众朋友们,如果你也有想拍的画面,欢迎留言告诉我们。下期从零开始学AI,再见! [Mike]: 下期见!
DeepSeek V4 Flash Vision Exp:AI 学会了看见Episode: DeepSeek V4 Flash Vision Exp:AI 学会了看见 Duration: approximately 8 minutes Level: 入门 --- [Mike]: 欢迎回到 Learn English with Podcasts!Sarah,问你个小问题——你的 AI 能看懂你的度假照片,然后真的做点有用的事吗? [Sarah]: 老实说,大多数 AI 只会说"照片不错!"但你笑得这么开心,肯定是发现了更厉害的。 [Mike]: 我确实发现了。DeepSeek 刚刚发布了一个叫 DeepSeek V4 Flash Vision Exp 的东西。它是实验性的——Exp 就是测试版的意思。 [Sarah]: DeepSeek V4 Flash Vision Exp——名字好长啊!它特别在哪里? [Mike]: 两个字:它能看见。普通的 V4 Flash 就已经很擅长处理文字了。这个新版本保留了全部文字能力,还加了一双眼睛。 [Sarah]: 等等,所以它的文字能力一点没丢?通常加了视觉能力后,文字部分就会变弱。 [Mike]: 没错,这就是它的平衡。在纯文字任务上——比如解决问题或回答知识类问题——它的得分和 V4 Flash 一样。 [Sarah]: 好,这很不错。那视觉部分呢?提升了多少? [Mike]: 提升很大。在那些需要视觉的智能体测评里,普通的 Flash 并不强。这个 Vision Exp 版本一跃提升到几乎和 Opus-4.8 同等水平。 [Sarah]: Opus-4.8?那可是顶级模型之一。所以这个实验性模型已经能和顶尖选手同场竞技了? [Mike]: 是的。更酷的是它在智能体工具里的工作方式。你给它一个大目标,它就用视觉能力去实现。 [Sarah]: 给我一个真实的例子。我听故事学得更快。 [Mike]: 好,第一个——一份高端西藏旅行 PPT。提示词非常详细:一个月,自驾,藏南加藏北,要野性原始的风格,不要游客照。 [Sarah]: 在西藏待一个月?而且 AI 要给高净值客户做幻灯片? [Mike]: 对,是给高端私人定制游的。而且关键是——最后的 PPT 需要三种真实的报价方案,配上真实摄影风格的图片,粗粝有力量感。不要小清新的滤镜。 [Sarah]: 然后 AI 做出来了?就凭那段长长的文字描述? [Mike]: 有了视觉能力,是的。它找到了合适的图片,匹配了野性的基调,做出了一份看起来真的能发给客户的演示文稿。 [Sarah]: 哇,所以它既理解文字,也能让图片贴合感觉。第二个例子是什么? [Mike]: 这个很有趣。他们让它重做一个开发者网站——DeepSeek Harness 的官网——要未来感风格。深蓝色海洋、玻璃质感界面、ASCII 艺术字。 [Sarah]: ASCII 艺术?就是用老式电脑字母拼成图片那种? [Mike]: 没错。而且经过多轮对话后,模型把那个想法变成了整个新网站。它一边听,一边看自己做出来的东西,然后一步步修改。 [Sarah]: 所以不是一次成型。就像和一个会给你看草稿的设计师合作? [Mike]: 完美的比喻。第三个——一个迷你网站,一群可爱的 3D 黏土小怪物在复古舞池里跳舞。 [Sarah]: 黏土怪物跳舞?这也太随意了吧。我喜欢。 [Mike]: 提示词本身就很随意:一群可爱的 3D 黏土小怪物加入一个跃动的复古舞池派对。然后智能体直接在浏览器里做出了会动的演示。 [Sarah]: 好,所以它能看,能理解基调,还能搭建东西。开发者实际怎么用它?难吗? [Mike]: 超级简单。你只需要在 API 里设置 model='deepseek-v4-flash-vision-exp' 就行。就这么简单。 [Sarah]: 就改一行?那价格呢? [Mike]: 和 V4 Flash 一样。每张图片最多算 384 tokens。所以你按 token 付费,没有额外的视觉费用。 [Sarah]: 每张图片 384 tokens——挺便宜的。那怎么发送图片呢? [Mike]: 三种方式:你可以粘贴 base64 编码,发一个网址链接,或者用他们新的 Files API。 [Sarah]: Files API?是新出的吗? [Mike]: 是的,刚刚上线。你上传一次图片,拿到一个 file_id,然后在很多请求里重复使用这个 file_id。不用重复上传。而且上传是免费的。 [Sarah]: 哦,那省了时间和带宽。API 支持不同的格式吗? [Mike]: 支持,三种格式:Chat Completions、Messages 和 Responses。所以它能很轻松地接入大多数智能体工具。 [Sarah]: 你知道我觉得有意思的是什么吗?这还是个实验性模型。Exp 意味着他们还在测试。 [Mike]: 对,但它已经强到能做真正的 PPT 和网站了。想想最终版会做到什么程度。 [Sarah]: 而且它把文字和图片混在一起处理。这感觉更像人类。我们不只是阅读——我们也在看。 [Mike]: 对。以前,AI 就像一个只能听你说话的聪明朋友。现在它能看到你的照片、截图、设计稿。 [Sarah]: 所以重要的不是谁话最多,而是谁能看懂你在指什么。 [Mike]: 没错!还有个好笑的想法——我们花了好多年教 AI 认我们潦草的字迹。现在我们在教它评判我们的 PPT 审美。 [Sarah]: 哈!我的 PPT 审美确实需要被评判一下。所以如果听众想试试,只要试试那个模型名就行? [Mike]: 对,试试模型 DeepSeek V4 Flash Vision Exp,看看它能看见什么。也告诉我们——如果 AI 终于能看见了,你会让它帮你做什么? [Sarah]: 我们很期待听到你的想法。下期 Learn English with Podcasts 再见! [Mike]: 下期见!
达沃斯访谈:Anthropic CEO 达里奥·阿莫迪 20260120https://www.youtube.com/watch?v=K7F6ohcBJus
GPT‑5.5 Instant上线:更智能、更清晰、更个性化https://openai.com/index/gpt-5-5-instant/