
我们正经历从模型时代到 Agent 时代的过渡。
底层技术正在发生怎样的演变,有哪些硅谷与国内的重要 AI 趋势?为什么这是工程师最好的时代?
这期播客,我邀请了百度智能云AI 计算首席科学家王雁鹏,深入探讨 Agent Infra 这个重要的「隐秘战场」。

(本期视频版也已上线:欢迎前往 b 站、视频号、小红书等平台观看~)
本期嘉宾:王雁鹏(百度智能云 AI 计算 首席科学家)
本期 Shownotes:
模型动向、AI 基建正在发生什么?
什么是 AI Infra?「Infra 其实就是抽象一个层次,这个层次有足够的通用性。」
AI Infra 为什么从软件走向软硬一体?「前一代的 Infra 基本上全是软件视角,这一代 AI Infra 有一个巨大的区别:它是以 GPU 为核心构建的。」
GPU 极大释放了算力,但是牺牲了通用性
从 AI Infra 到 Agent Infra ,意味着什么?「完成真实任务意味着我得有一个完整的环境,人操作的所有基础设施和软件,都要被 agent、被 AI 去用。」
Agent 从 demo 走向生产环境,还差什么?
Agent 的三阶段 —— 从 Chat 到「完成岗位」的鸿沟
模型能力边界,决定 Infra 抽象层在哪里
新时代的数据库是什么,memory 系统长什么样,还在变化
模型的智力等于算力,算力等于电力
Agent 可控、可信任:每一次执行结果不变、可重复
基础设施层面,需要构建一套能够快速部署、快速开发、大规模运行的系统,一个更强的推理集群
OpenClaw、Hermes 与 Agent harness 的范式变化
「Claude 4.5 出来时,程序员圈已经被震撼过一波」
「Openclaw 第一眼没什么特别,再看还是有点东西」
harness 的三件套:loop(主循环) + tools(调用工具) + memory(记忆系统)
loop 的通用性极强 :「让大模型看上一步结果 → 分析问题 → 决定下一步 → check 是否达标」
Memory 从 RAG 演进到文件系统:更通用
Hermes 的更进一步 —— 自动净化 skills(定期反思:这个任务哪里不好、下次怎么做更好、整理成明天可用的 skill)
模型即 OS :大家争夺的都是超级入口
为什么 agent 会越来越多:大模型以后会是 OS,是大脑
通用大脑就像天才:可以做任何事,但不会 day1 就能做任何事,中间的学习成本 + knowhow 沉淀 = 应用层的价值
Agent 的三大支柱:长上下文冲击算力、存储、网络与 CPU 消耗
CPU 的消耗,可以窥见 Agent 诞生了多少真实价值
「这仍然是巨头的游戏」
为什么英伟达的生态很难撼动?
Agent Infra,巨头都在布局的最吸金、最隐秘的赛道
智能 = 算力 = 生产资料
「所有巨头都会往下做垂直整合」
Anthropic、OpenAI、Google 的 Infra 路线差异:
谷歌,最典型的垂直整合派:TPU 做了近 10 年、JAX 自研、Infra 自研、模型自研 —— 芯 、 云 、 模真正一体化
Nvidia:不再是芯片公司,而是系统公司
Anthropic(轻资产,聚焦入口派):聚焦模型 + Claude Code 这个高价值入口;算力靠跟 AWS / Google 签协议保障,短期不用自己造芯片
OpenAI(重资产,生态平台派):「从 GPT Store 那时就想做 App Store 式生态」;
垂直整合的隐藏难点:「软件世界与硬件世界有 gap」
「今天定义的芯片两年半后出来时,还是不是那个模型需求?很大程度上不是」
NV 的缝隙在推理系统
中国 Infra 路径:多芯适配、开源生态
国内 vs 国外 Infra 的两大差异:
芯片环境不一样:国外主要在 NV 生态;国内要考虑国产芯片、要做更多多芯适配
中国的开源远远领先于美国 —— 开源意味着**模型架构透明**,做芯片的能知道往哪里走
百度智能云的两个押注:更高的算力与 Token 效率 + 和未来的新星走在一起
Robin(李彦宏)提出的新指标 DAA(Daily Active Agents) —— 替代 Token 数量作为 Infra 层的牵引指标
「Token 数是一个会被玩坏的指标」:不能做杀鸡取卵的事
提升 DAA 的路径:**让开发更快** + 让运行更稳(可自动恢复、结果可 check) + 分任务价值高低(高价值多花功夫做)
趋势:从 Token 到 DAA :Agent 时代需要更多衡量真实价值
提升 DAA 的路径:让开发更快 + 让运行更稳(可自动恢复、结果可 check) + 分任务价值高低(高价值多花功夫做)
为什么这是工程师更好的时代 ?
更大的探索空间:做 Infra 的人在 CPU 时代不会在芯片层面想工作;到 AI 时代能做很多系统层面的事;到 Agent 时代要做更不一样的系统
当下,整个研究范式都在工程化: 「工程化研究范式」是这一代 AI 的隐藏画像
Transformer 架构统一之后,各家拼的其实是工程能力
「算法工程师」的时代结束了,「AI 系统工程师」的时代开始了
「今天你用工程的方法去解决更多、更广泛、更复杂的问题」
加入听友群⬇️:


