

EP01 Omar Shaikh: 搭建人机共同理解的桥梁EP01 Omar Shaikh: 搭建人机共同理解的桥梁(Bridging Human-AI Grounding Gaps) 简介: Omar Shaikh是斯坦福大学的博士生,人机交互和自然语言处理领域的研究者,他的论文“Creating General User Models from Computer Use”在UIST 2025上获得最佳论文奖提名。Omar开创性的工作旨在弥合人机共识的鸿沟,让计算机更好地理解人。 时间轴(Outline): 0:00 - 预告 1:21 - 引言: 介绍 Omar Shaikh 2:07 - Omar的独白: 为AI提供更好的上下文 4:22 - 搭建人机共同理解的桥梁 6:14 - 通用用户模型(General User Models, GUMs)中的置信值 7:32 - 校准(caliberation)通用用户模型 13:20 - 通用用户模型的应用 15:01 - 混合主导交互(Mixed Initiative Interactions) 22:10 - 开发通用用户模型的动机 25:31 - Tabracadabra: tab everywhere! 27:01 - 通用用户模型的设计决策 28:26 - 设计交互体验 32:11 - DITTO: arxiv.org 33:06 - 如何在还没有基线(benchmark)的领域开展研究 34:45 - 项目中遇到的挑战 37:26 - 用户隐私和数据归属 38:57 - 训练通用用户模型 44:09 - 通用用户模型中一些令人惊叹的推理 49:02 - 通用用户模型可能带来的社会问题 50:27 - 通用用户模型作为反思工具 参考文献: Omar Shaikh的学术主页: oshaikh.com Creating General User Models from Computer Use: arxiv.org Tabracadabra: x.com Aligning Language Models with Demonstrated Feedback: arxiv.org Principles of Mixed-Initiative User Interfaces: erichorvitz.com Verification of Forecasts Expressed in Terms of Probability: journals.ametsoc.org 关于主播: The AM Podcast 由Yijia Shao (斯坦福), Shannon Shen (麻省理工), Michael Ryan (斯坦福)主播,旨在分享以人为本的AI技术。
Augmented Mind Podcast:分享以人为本的AI科技隆重介绍 The Augmented Mind Podcast (The AM Podcast)。我们将深入探索构建“人机协作”与“增强人类智力”的 AI 模型背后的技术。在第 0 期节目中,我们将分享团队的背景、创办这档播客的初衷,以及我们对未来的展望。 时间轴 (Outline): * 0:00 - 序章:我们关注的问题 * 1:48 - 主播介绍 * 2:03 - 创办 The AM Podcast 的初衷 * 2:31 - 关于“以人为本 AI”的犀利观点 (Hot takes) * 2:45 - 观点 #1:在长远的时间跨度上,基于结果奖励 (Outcome rewards) 的学习将直接解决人机协作问题 * 3:00 - “苦涩的教训” (The Bitter Lesson) * 3:53 - 如何定义奖励是人类的问题 * 4:50 - 具备同理心的 AI (Empathetic AI) * 5:48 - 观点 #2:即使持有“增强而非替代”的观点,随着 AI 变得更强,留给我们做的工作也会变少 * 6:09 - 创造性破坏 (Creative Destruction) * 7:21 - 任务 (Task) vs. 目标 (Goal) * 10:45 - 我们的播客形式 * 11:28 - “以人为本 AI”面临的独特技术挑战 * 11:43 - 案例 #1:人类的个体差异 (Human variation) * 13:58 - 案例 #2:标注与数据收集的革命 * 15:10 - 案例 #3:从噪声数据中提取信息 (Making sense of noisy data) * 16:45 - 旅程开始!