81.Agent Infra,巨头都在布局的隐秘赛道|与百度王雁鹏聊模型、智能体与 AI 基建的新动向卫诗婕|漫谈Light the Star

81.Agent Infra,巨头都在布局的隐秘赛道|与百度王雁鹏聊模型、智能体与 AI 基建的新动向

63分钟 ·
播放数903
·
评论数3

我们正经历从模型时代到 Agent 时代的过渡。

底层技术正在发生怎样的演变,有哪些硅谷与国内的重要 AI 趋势?为什么这是工程师最好的时代?

这期播客,我邀请了百度智能云AI 计算首席科学家王雁鹏,深入探讨 Agent Infra 这个重要的「隐秘战场」。

(本期视频版也已上线:欢迎前往 b 站、视频号、小红书等平台观看~)

本期嘉宾:王雁鹏(百度智能云 AI 计算 首席科学家)

本期 Shownotes:

01:46 模型动向、AI 基建正在发生什么?

  • 什么是 AI Infra?「Infra 其实就是抽象一个层次,这个层次有足够的通用性。」

  • AI Infra 为什么从软件走向软硬一体?「前一代的 Infra 基本上全是软件视角,这一代 AI Infra 有一个巨大的区别:它是以 GPU 为核心构建的。」

  • GPU 极大释放了算力,但是牺牲了通用性

  • 从 AI Infra 到 Agent Infra ,意味着什么?「完成真实任务意味着我得有一个完整的环境,人操作的所有基础设施和软件,都要被 agent、被 AI 去用。」

04:25 Agent 从 demo 走向生产环境,还差什么?

  • Agent 的三阶段 —— 从 Chat 到「完成岗位」的鸿沟

  • 模型能力边界,决定 Infra 抽象层在哪里

  • 新时代的数据库是什么,memory 系统长什么样,还在变化

  • 模型的智力等于算力,算力等于电力

  • Agent 可控、可信任:每一次执行结果不变、可重复

  • 基础设施层面,需要构建一套能够快速部署、快速开发、大规模运行的系统,一个更强的推理集群

12:03 OpenClaw、Hermes 与 Agent harness 的范式变化

  • 「Claude 4.5 出来时,程序员圈已经被震撼过一波」

  • 「Openclaw 第一眼没什么特别,再看还是有点东西」

  • harness 的三件套:loop(主循环) + tools(调用工具) + memory(记忆系统)

  • loop 的通用性极强 :「让大模型看上一步结果 → 分析问题 → 决定下一步 → check 是否达标」

  • Memory 从 RAG 演进到文件系统:更通用

  • Hermes 的更进一步 —— 自动净化 skills(定期反思:这个任务哪里不好、下次怎么做更好、整理成明天可用的 skill)

18:44 模型即 OS :大家争夺的都是超级入口

  • 为什么 agent 会越来越多:大模型以后会是 OS,是大脑

  • 通用大脑就像天才:可以做任何事,但不会 day1 就能做任何事,中间的学习成本 + knowhow 沉淀 = 应用层的价值

  • Agent 的三大支柱:长上下文冲击算力、存储、网络与 CPU 消耗

  • CPU 的消耗,可以窥见 Agent 诞生了多少真实价值

  • 「这仍然是巨头的游戏」

  • 为什么英伟达的生态很难撼动?

36:42 Agent Infra,巨头都在布局的最吸金、最隐秘的赛道

  • 智能 = 算力 = 生产资料

  • 「所有巨头都会往下做垂直整合」

  • Anthropic、OpenAI、Google 的 Infra 路线差异:

谷歌,最典型的垂直整合派:TPU 做了近 10 年、JAX 自研、Infra 自研、模型自研 —— 芯 、 云 、 模真正一体化

Nvidia:不再是芯片公司,而是系统公司

Anthropic(轻资产,聚焦入口派):聚焦模型 + Claude Code 这个高价值入口;算力靠跟 AWS / Google 签协议保障,短期不用自己造芯片

  • OpenAI(重资产,生态平台派):「从 GPT Store 那时就想做 App Store 式生态」;

  • 垂直整合的隐藏难点:「软件世界与硬件世界有 gap」

  • 「今天定义的芯片两年半后出来时,还是不是那个模型需求?很大程度上不是」

  • NV 的缝隙在推理系统

51:19中国 Infra 路径:多芯适配、开源生态

  • 国内 vs 国外 Infra 的两大差异:

芯片环境不一样:国外主要在 NV 生态;国内要考虑国产芯片、要做更多多芯适配

中国的开源远远领先于美国 —— 开源意味着**模型架构透明**,做芯片的能知道往哪里走

  • 百度智能云的两个押注:更高的算力与 Token 效率 + 和未来的新星走在一起

  • Robin(李彦宏)提出的新指标 DAA(Daily Active Agents) —— 替代 Token 数量作为 Infra 层的牵引指标

  • Token 数是一个会被玩坏的指标」:不能做杀鸡取卵的事

  • 提升 DAA 的路径:**让开发更快** + 让运行更稳(可自动恢复、结果可 check) + 分任务价值高低(高价值多花功夫做)

  • 趋势:从 Token 到 DAA :Agent 时代需要更多衡量真实价值

  • 提升 DAA 的路径:让开发更快 + 让运行更稳(可自动恢复、结果可 check) + 分任务价值高低(高价值多花功夫做)

01:00:22 为什么这是工程师更好的时代 ?

  • 更大的探索空间:做 Infra 的人在 CPU 时代不会在芯片层面想工作;到 AI 时代能做很多系统层面的事;到 Agent 时代要做更不一样的系统

  • 当下,整个研究范式都在工程化: 「工程化研究范式」是这一代 AI 的隐藏画像

  • Transformer 架构统一之后,各家拼的其实是工程能力

  • 「算法工程师」的时代结束了,「AI 系统工程师」的时代开始了

  • 「今天你用工程的方法去解决更多、更广泛、更复杂的问题」

加入听友群⬇️:

展开Show Notes
沙发嘿嘿!支持!
卫诗婕_漫谈LTS
:
🛋✨
你好 诗婕老师 我从2025年nvda的gtc大会入坑听你的博客 很喜欢你的博客内容 想提一个建议 可不可以加入一点在美国做AI大模型的华人研究员的访谈 因为我注意到您的博客都是立足国内视角 想听听美国AI的发展(像GTC的解读)