20 当我们把AI agents关进房间里:约束,协作与涌现 | 对话哈佛大学博士、MorphMind CEO丁杰教授八爪鱼bioctopus

20 当我们把AI agents关进房间里:约束,协作与涌现 | 对话哈佛大学博士、MorphMind CEO丁杰教授

42分钟 ·
播放数50
·
评论数1

2026年9月,OpenAI发布GPT-6 Astra:从 coding、computer use 到 scientific discovery,模型能够承担的任务越来越复杂,也越来越接近真正的 agentic work。

当 AI 能做的越来越多,新的问题也随之出现:我们敢把多少事情交给它?什么时候应该放手,什么时候又必须介入?这一期,我们和丁杰教授聊了聊 AI Agent 走进科研的下一步。

从 AI for Science专家不可替代的“第一公里和最后一公里”,到如何为 AI 的产出增加验证与信任层;

从 AgentDS 中人与 AI 如何协作,到把多个 AI Agents “关进房间”、限制它们的信息与交流之后,反而出现意想不到的涌现行为。

也许 AI 的下一阶段,不只是变得更聪明,而是我们开始真正理解:如何约束它、如何与它协作,以及如何放心地使用它。

🎙️ 本期嘉宾:

丁杰教授
哈佛大学博士,现任明尼苏达大学统计学教授,AI Agent 初创公司 MorphMind AI 联合创始人兼 CEO。

MorphMind AI 创立于 2025 年,致力于打造更可控、可验证的 AI Agents,旨在让 AI 的结论能够被核验、解释和追溯,让人在 AI 协助下做出的决策真正值得信任。

1:38 AI 能力如何演化:从对话、写代码到生物科研

6:43 AI 越来越强,为什么可信度反而更重要?

11:11 MorphMind AI:为 AI 加“信任层”的基础设施

12:17 实验室自动化:不仅要有“手脚”,还要有“脑”

18:11 AI前沿实验室进军生物科技的两条路线:科学推理 vs. 科研助手

19:36 MorphMind AI可信度验证机制揭秘:AI 的答案到底该怎么查验?

26:25 丁教授发起的AgentDS比赛:人机协作 vs. 纯 AI,谁表现更好?

34:44 Multi-agent 怎么设计?从 Specialist 到 World Seed

39:53 科研品味怎么培养:找好问题、快速验证、跨学科

相关阅读

  • AgentDS:一个研究 AI 与人类专家如何协作完成真实数据科学任务的 benchmark。2025 年比赛结果显示,表现最好的方案来自人机协作,而非纯 AI。AgentDS 官网 · AgentDS Technical Report

  • WorldSeed:MorphMind 团队的开源 multi-agent world engine,通过人为设计规则、角色、私有信息和交互方式,观察 agents 如何协作、竞争以及产生涌现行为。WorldSeed GitHub

展开Show Notes
Hg_rIky
Hg_rIky
2天前
17:20 想问问这个是说labos吗?还是别的工作呢