Sherry Wu: 打造面向不完美人类的人工智能系统The AM Podcast

Sherry Wu: 打造面向不完美人类的人工智能系统

47分钟 ·
播放数25
·
评论数0

Sherry Wu: 打造面向不完美人类的人工智能系统 (Building AI Systems for Imperfect Humans)

简介:

Sherry Wu 是卡内基梅隆大学计算机学院的教授,同时双聘于人机交互研究所(Human Computer Interaction Institute (HCII))和自然语言处理研究所(Language Technololgy Institute (LTI))。她的研究成果在人机交互(HCI)和自然语言处理(NLP)领域均曾荣获最佳论文奖。从最初致力于让系统适应“不完美的 AI",到如今聚焦于为“不完美的人类”打造人工智能,Sherry 的转变不仅是个人的学术进化,更启发我们重新思考:在人机关系的等式中,究竟谁该适应谁?

时间轴(Outline):

0:00 - 预告

1:13 - 引言: 介绍 Sherry Wu

2:30 - 过去四年AIAI领域发生的变化

4:22 - 打造面向不完美人类的人工智能系统

6:54 - 基模vs.支架(scaffolding)

10:36 - 在教学场景中理解用户的“不完美”

19:28 - AI素养(AI Literacy Skills)

22:04 - AI如何改变计算机学科教育

25:38 - 如果AGI到来,作为人意味着什么?

29:14 - 训练更能理解人的基础模型

31:46 - Checklists Are Better Than Reward Models (arxiv.org)

36:56 - 模型对齐(Alignment)过程中的实际挑战

43:22 - 对于跨学科研究的建议

45:37 - 对自己研究的反思

参考文献:

Sherry Wu的学术主页: www.cs.cmu.edu

"Data Science for Product Managers"课程主页: www.cs.cmu.edu

AI Fluency Index: www.anthropic.com

Checklists Are Better Than Reward Models: arxiv.org

Not Everyone Wins with LLMs: arxiv.org