对谈前阿里高管胡宁：为什么企业和个人的 Agent 都是新物种？

🎙️ 硅谷洞察局 EP17 | 对谈前阿里高管胡宁：为什么企业和个人的 Agent 都是新物种？

一线洞察，深度思考。硅谷核心科技从业者，带你触摸 AI 变革深处。

---

📌 本期看点

Agent 到底是一个工具，还是别的什么？Nate 给一位做教育的朋友讲自己的 Agent 系统，对方第一反应是：这不像工具，像一个新物种。它能自己学，自己变好，到一定程度还能自己做决定。这套系统一晚上自学拍电影，第二天就在黑客松上交出短片。胡宁也认同这个比喻：再加一套懂人类品味的评测，它可能就真成了导演。

这期 Nate 请来了胡宁。她做了二十年 AI 落地：Google 搜索，广告技术创业，再到阿里巴巴负责饿了么商业化。2023 年她来美国第二次创业，现在做 ZooWork，帮企业拥有自己的 AI。

新物种进了公司，要守规矩，也要算账。前沿模型代表上限，企业算的是投入产出；小模型怎么把成本降下来；怎么让 AI 自己判断哪些事直接办、哪些抽查、哪些交给人；今年最火的驻场工程师（FDE）总有撤出的一天，留下的应该是一个能自己变好的系统。还有，她为什么说 AI 必须有边界。

新物种跟着一个人，又是另一种活法。Nate 一个人加几十个 Agent 运营一家公司，是企业的极端对照组：每天有 200 个决定在等他拍板。两人聊到，AI 时代人更核心的能力，是问出好问题、做出好判断。

---

💬 本期金句

"在新的 AI 时代，人更核心的能力，是能不能问出好的问题，以及能不能做出好的判断。" 00:09:35

"前沿模型代表了上限。但我们关注的是，怎么在可控的成本下，交付一个好的结果。" 00:20:42

"很多企业场景不是开放式生成，而是在几个选项里挑一个，并且告诉我你有多确定。" 00:30:21

"这好像不像是一个工具，有点像一个新的物种。" 00:36:07

"我们一直没讲 L5，因为我觉得不会有 L5。L5 意味着没有边界。" 00:44:13

"现在的 AI 不是不够聪明。有时候你担心的是，它为了达成目的会不择手段。" 00:44:34

"所有人都说自己是 FDE。" 01:01:42

"FDE 是驻场，但不可能永远驻场，总有撤出的一天。" 01:03:40

"本质上我们都在建 Loop。Agent 本身是个 Loop，帮企业积累 AI 资产也是个 Loop。" 01:06:14

"有了好的 Coding Agent，代码不值钱了。但设计出一个 Production Ready 的好架构，仍然要花很大力气。" 01:11:10

"跑一万次，最珍贵的是你纠正它的那一次。" 01:47:20

"人类负责 Creativity，AI 负责 Productivity。" 01:33:31

"时间是最有限的资源。人唯一要做的，就是选择把时间放在哪里。" 01:35:59

"每个人都会经历一个 Wow Moment，只是早晚的问题。" 01:54:19

---

📖 本期术语速查（听到不熟悉的词？翻这里）

FDE（Forward Deployed Engineer，驻场工程师）
派到客户现场的工程师，既要懂技术，也要能跟客户各个部门沟通，把模糊的问题抽象出来，设计方案并真正部署上线。

Harness
包在模型外面的那一层：工具、记忆、流程和规则，决定一个模型在具体任务里能发挥出多少。Nate 提到的 Mega Harness，是一个能调度其他 Harness 的总控层。

Trajectory（运行轨迹）
Agent 每一次执行任务留下的完整记录。ZooWork 把它当成企业的 AI 资产来积累，用来生成规则、评测集和训练数据。

Eval（评测）
衡量 Agent 做得好不好的一套测试和指标。没有 Eval，就谈不上持续改进。

后训练（Post Training）
在开源基座模型上，用企业自己的数据继续训练。目的通常是两个：把行业 Know How 放进模型，以及把成本降下来。

Decision Model（决策模型）与 Calibration（校准）
专门在几个选项里做选择、并给出置信度的快模型。校准是让它说的「90% 确定」真的接近 90% 的准确率，这样才能用置信度来分流。

快思考与慢思考
来自《思考，快与慢》。Decision Model 像直觉，快但给不出完整推理；大语言模型像逻辑推演，慢但能解释。本期聊的是把两者组合起来用。

L1 到 L4
借自动驾驶分级来描述 Agent 的自主程度：从人主导、AI 辅助，到人只定义目标和评测，Agent 自己迭代。

Pareto 前沿
性能和价格之间最优的那条线。胡宁认为开源模型已经接近这条线，所以后训练变得划算。

OPC（One Person Company，一人公司）
一个人加一群 Agent 运营的公司，也是 Nate 本期的「对照组」。

---

🗂️ 内容大纲

一、为什么离开大厂，再创业一次

从 CMU 的 AI 研究到 Google 搜索和广告技术，AI 一直是核心引擎

大厂有资源，但决策推不动；创业公司唯一的机会是比大厂快

2023 年 ChatGPT 出来，她的判断是：不能错过

二、AI Native 的组织

团队里不论背景，人人都要能跑 Agent

人的素质要求更高：问出好问题，做出好判断

Taste 很难量化，但它就在那里；人要能「激发」AI

一人公司的极端做法：让 Agent 自己做决定，允许犯错，但必须学习

三、用自动驾驶看企业 AI 走到了哪一步

L1 到 L4，企业正在从 L1、L2 往 L3、L4 走

一人公司是「一步跳到 L4」的对照组

企业要的是可扩展、可靠和合规，用户也需要时间适应

四、前沿模型是上限，企业算的是 ROI

前沿模型做不到的，就不用做了

能做到但成本扛不住，企业照样不能用

一个拉美餐饮客服创业者的取舍：用户付不起，只能做便宜

五、后训练：降本，还是做前沿模型做不到的事

企业后训练的两个目的：沉淀 Know How，降低成本

Nate 的另一个思路：用小模型做小而频繁的自主决策

六、Decision Model 与快慢思考

企业很多任务是在选项里挑一个，并给出置信度

用校准后的置信度分流：自动通过、抽检、人工

快模型给直觉，慢模型做推理，两者组合

七、Agent 会是一个新物种吗

AI 一晚上自学拍电影，第二天在黑客松上做出短片

Long Horizon 任务今年开始 Production Ready

八、边界、安全与隐私

为什么不会有 L5：没有边界的 AI 很危险

如果 AI 会撒谎怎么办

用 AI 就要让渡大量隐私，服务方应该对数据有承诺

先推到边界，再知道往哪里退

开源模型接近 Pareto 前沿，后训练和私有部署变得可行

九、FDE 到底是什么

要求极高：工程能力、跟客户沟通、抽象问题、懂 AI 原理

市场鱼龙混杂：人人都说自己是 FDE

最后一公里的三种角色：FDE、领域专家、企业自己的一线员工

FDE 总要撤出，Agent 要靠一线反馈持续进化

两条路：给 FDE 用的 API，给非技术人员用的 Agent Builder

十、平台还是自己搭

代码不值钱，但 Production Ready 的架构值钱

工程师和产品经理提交的代码，过评测的差别很大

把工程师的经验蒸馏成 Skill

生态的价值：不必重复烧同样的 Token

十一、后训练能交给 Agent 吗

Nate 把后训练交给 Agent，让它读论文、做实验

胡宁的看法：数据处理里有大量 Trick，Reward Model 怎么设计仍然是 Know How

为什么最顶尖的研究员和工程师反而最焦虑

十二、AI 时代的工作与生活

做帮企业增长的项目，而不是替代人的项目

一天切换 120 次 Context，人脑也能被训练

信任是人和人之间最难替代的部分

决策 Prompt 的三问：为什么，对用户有什么好处，需要我决定什么

记忆为什么重要：最高质量的训练数据，是纠正它的那一次

十三、给想做 FDE 的人的建议

善用工具，不要从零开始搭

AI Literacy 的工作量巨大，但迈出第一步之后会很快

每个人都会经历自己的 Wow Moment

---

🎤 主播与嘉宾

胡宁 | 清华大学计算机系毕业，卡内基梅隆大学计算机博士。曾在 Google 做移动搜索和 Google Music，创办广告技术公司聚效 MediaV（后并入 360），在 360 负责商业化和创新业务，后任阿里巴巴 VP、负责饿了么商业化。2023 年赴美第二次创业，先做时尚穿搭 AI Gensmo，现为 Serendipity One 创始人兼 CEO，旗下 ZooWork 帮助企业拥有自己的 AI。

AI-Nate | Ipsion AI 创始人兼 CEO，为一人公司打造 AGI 时代自主学习、自主决策的智能体系统。30+ 智能体自主运营一人公司，18 个 AI 产品，AI 课程导师，企业咨询。

---

⏱️ 时间戳

00:00 开场

00:14 嘉宾介绍

01:14 胡宁：这是我第二次创业

02:47 是什么让她决定离开大厂

05:16 「我不能错过这个机会」

07:32 什么是 AI Native 的组织

08:53 在企业里，谁来做决定

09:35 人最核心的能力：问出好问题，做出好判断

11:09 Taste 很难定义，但它就在那里

12:00 人要能「激发」AI

12:24 一人公司的极端探索

13:14 「You Are Smart Enough」：让 Agent 自己做决定

14:47 用自动驾驶 L1 到 L4 看 Agent

15:29 一步跳到 L4

16:23 一人公司是企业的对照组

16:47 企业要的是可扩展、可靠和合规

19:22 给 Agent 多大的权限

20:30 模型能力已经超过我们的用法了吗

20:42 前沿模型是上限，企业算的是 ROI

22:23 SF Tech Week 上的拉美创业者：用户付不起

24:11 企业后训练的两个目的

24:58 Cursor 的例子：十分之一的成本

25:51 Nate 的后训练：不为降本，为自主决策

27:52 Decision Model 与 LLM 一起用

29:52 ZooWork 开源的决策模型

30:38 校准：用置信度分流

32:20 思考，快与慢

35:12 快思考加慢思考

36:06 「这不像工具，像一个新物种」

37:39 一晚上自学拍电影

41:21 Long Horizon 能力今年 Production Ready

42:16 让 AI 自己找素材、自己处理

43:20 Mega Harness

44:13 为什么不会有 L5

44:34 AI 不是不够聪明，是可能不择手段

45:27 如果 AI 会撒谎

46:36 Alpha 测试：产品给谁很重要

47:32 AI 让人变得透明

48:54 服务方需要对数据做出承诺

52:53 先推到边界，再往回退

55:46 开源模型接近 Pareto 前沿

57:55 海外创业者都在用中国开源模型

59:19 FDE 为什么这么热

59:54 要求极高，也鱼龙混杂

01:00:45 一位被定点招募的 FDE

01:01:42 所有人都说自己是 FDE

01:03:09 最后一公里的三种角色

01:03:40 FDE 总有撤出的一天

01:04:37 两条路：API 和 Agent Builder

01:05:44 一个 3000 用户的产品，怎么做到不用管

01:06:14 本质上都在建 Loop

01:06:48 用平台还是自己搭：看场景

01:10:07 要不要开源

01:11:10 代码不值钱，架构值钱

01:12:25 工程师和产品经理的 PR，差别很大

01:14:52 把工程师的经验蒸馏成 Skill

01:17:14 从系统到生态

01:19:41 一定要在真实场景里验证

01:20:19 把后训练交给 Agent

01:23:05 Agent Runtime 的最佳实践

01:24:10 为什么后训练研究员这么贵

01:26:59 Reward Model 仍然是 Know How

01:28:12 为什么最顶尖的人最焦虑

01:29:27 我们仍然相信人能驾驭 AI

01:29:52 从《三体》看多 Agent 协作

01:32:14 做增长的项目，不做替代人的项目

01:33:31 人类负责 Creativity，AI 负责 Productivity

01:35:59 选择把时间放在哪里

01:37:09 一个新挑战：在项目之间切换 Context

01:38:18 Go To Market 就是建立信任

01:39:14 创业公司的机会：那 1% 的人

01:40:38 一天切换 120 次 Context

01:42:16 每天 200 个决定在等你

01:44:29 决策 Prompt 的三问

01:45:40 为什么 Memory 很重要

01:47:20 最珍贵的是纠正它的那一次

01:48:25 记忆也需要遗忘

01:49:27 想做 FDE，有什么建议

01:49:39 善用工具

01:51:12 AI Literacy

01:52:12 一堂 AI 课的 Demo Day

01:54:19 每个人都会有自己的 Wow Moment

01:55:29 结语

01:56:37 招聘与链接

01:57:09 下期再见

---

📝 补充说明

30:38 讲校准分流时，口误说成「60% 以上走人工」，应为 60% 以下走人工。

---

🔗 本期提到

ZooWork
zoowork.ai

胡宁：Use AI, or Own It?
zoowork.ai

ZooWork 开源的客服决策模型
zoowork.ai

Ipsion AI Alpha 测试
ipsion.ai

Nathan 在节目里讲的 AI 短片《Bedtime, Unscripted》（智能体自学拍电影后一天拍完）
ipsion.ai

---

📮 联系我们

播客邮箱：nathan@ai-nate.com

欢迎评论区留言交流，转发支持！

---

🎙️「硅谷洞察局」听友群开放中！

👉 扫码进群，和 Nathan 直接聊

🎯 告诉我们下期你想听什么

🤝 认识同样关注 AI 和硅谷动态的朋友们