Sherry Wu: 打造面向不完美人类的人工智能系统 (Building AI Systems for Imperfect Humans) 简介： Sherry Wu 是卡内基梅隆大学计算机学院的教授，同时双聘于人机交互研究所（Human Computer Interaction Institute (HCII)）和自然语言处理研究所（Language Technololgy Institute (LTI)）。她的研究成果在人机交互（HCI）和自然语言处理（NLP）领域均曾荣获最佳论文奖。从最初致力于让系统适应“不完美的 AI"，到如今聚焦于为“不完美的人类”打造人工智能，Sherry 的转变不仅是个人的学术进化，更启发我们重新思考：在人机关系的等式中，究竟谁该适应谁？ 时间轴（Outline）: 0:00 - 预告 1:13 - 引言: 介绍 Sherry Wu 2:30 - 过去四年AIAI领域发生的变化 4:22 - 打造面向不完美人类的人工智能系统 6:54 - 基模vs.支架（scaffolding） 10:36 - 在教学场景中理解用户的“不完美” 19:28 - AI素养（AI Literacy Skills） 22:04 - AI如何改变计算机学科教育 25:38 - 如果AGI到来，作为人意味着什么？ 29:14 - 训练更能理解人的基础模型 31:46 - Checklists Are Better Than Reward Models (arxiv.org) 36:56 - 模型对齐（Alignment）过程中的实际挑战 43:22 - 对于跨学科研究的建议 45:37 - 对自己研究的反思 参考文献: Sherry Wu的学术主页: www.cs.cmu.edu "Data Science for Product Managers"课程主页: www.cs.cmu.edu AI Fluency Index: www.anthropic.com Checklists Are Better Than Reward Models: arxiv.org Not Everyone Wins with LLMs: arxiv.org

EP01 Omar Shaikh: 搭建人机共同理解的桥梁（Bridging Human-AI Grounding Gaps) 简介： Omar Shaikh是斯坦福大学的博士生，人机交互和自然语言处理领域的研究者，他的论文“Creating General User Models from Computer Use”在UIST 2025上获得最佳论文奖提名。Omar开创性的工作旨在弥合人机共识的鸿沟，让计算机更好地理解人。 时间轴（Outline）: 0:00 - 预告 1:21 - 引言: 介绍 Omar Shaikh 2:07 - Omar的独白: 为AI提供更好的上下文 4:22 - 搭建人机共同理解的桥梁 6:14 - 通用用户模型（General User Models, GUMs）中的置信值 7:32 - 校准（caliberation）通用用户模型 13:20 - 通用用户模型的应用 15:01 - 混合主导交互（Mixed Initiative Interactions） 22:10 - 开发通用用户模型的动机 25:31 - Tabracadabra: tab everywhere! 27:01 - 通用用户模型的设计决策 28:26 - 设计交互体验 32:11 - DITTO: arxiv.org 33:06 - 如何在还没有基线（benchmark)的领域开展研究 34:45 - 项目中遇到的挑战 37:26 - 用户隐私和数据归属 38:57 - 训练通用用户模型 44:09 - 通用用户模型中一些令人惊叹的推理 49:02 - 通用用户模型可能带来的社会问题 50:27 - 通用用户模型作为反思工具 参考文献: Omar Shaikh的学术主页: oshaikh.com Creating General User Models from Computer Use: arxiv.org Tabracadabra: x.com Aligning Language Models with Demonstrated Feedback: arxiv.org Principles of Mixed-Initiative User Interfaces: erichorvitz.com Verification of Forecasts Expressed in Terms of Probability: journals.ametsoc.org 关于主播: The AM Podcast 由Yijia Shao (斯坦福), Shannon Shen (麻省理工), Michael Ryan (斯坦福)主播，旨在分享以人为本的AI技术。

隆重介绍 The Augmented Mind Podcast (The AM Podcast)。我们将深入探索构建“人机协作”与“增强人类智力”的 AI 模型背后的技术。在第 0 期节目中，我们将分享团队的背景、创办这档播客的初衷，以及我们对未来的展望。 时间轴 (Outline)： * 0:00 - 序章：我们关注的问题 * 1:48 - 主播介绍 * 2:03 - 创办 The AM Podcast 的初衷 * 2:31 - 关于“以人为本 AI”的犀利观点 (Hot takes) * 2:45 - 观点 #1：在长远的时间跨度上，基于结果奖励 (Outcome rewards) 的学习将直接解决人机协作问题 * 3:00 - “苦涩的教训” (The Bitter Lesson) * 3:53 - 如何定义奖励是人类的问题 * 4:50 - 具备同理心的 AI (Empathetic AI) * 5:48 - 观点 #2：即使持有“增强而非替代”的观点，随着 AI 变得更强，留给我们做的工作也会变少 * 6:09 - 创造性破坏 (Creative Destruction) * 7:21 - 任务 (Task) vs. 目标 (Goal) * 10:45 - 我们的播客形式 * 11:28 - “以人为本 AI”面临的独特技术挑战 * 11:43 - 案例 #1：人类的个体差异 (Human variation) * 13:58 - 案例 #2：标注与数据收集的革命 * 15:10 - 案例 #3：从噪声数据中提取信息 (Making sense of noisy data) * 16:45 - 旅程开始！