EP125 什么?人工智能也要对齐颗粒度了…Talk三联

EP125 什么?人工智能也要对齐颗粒度了…

54分钟 ·
播放数8806
·
评论数14

主播 | 高一丁,三联中读内容编辑
嘉宾 | 杨耀东,北京大学人工智能研究院AI安全与治理中心执行主任
嘉宾 | 陈璐,《三联生活周刊》主任记者

一年前,ChatGPT横空出世,引发公众关于人工智能的大规模讨论与参与。无论是好奇一试,还是作为日常工作不可或缺的助手,科技的进步再一次变得真实可感,一个新世界的帷幕在缓缓拉开。

当一种技术变得足够强大,带来便捷而非成为威胁,是永恒的主题。更何况我们在面对人工智能时,还会有多一重的顾虑,毕竟核能不会自我觉醒,但人工智能可说不准。因此,“对齐一下颗粒度”不仅是当代打工人要面对的日常拷问,人工智能再强大,也得先过这一关。

本期Talk三联,我们想从这一年中,人工智能带给我们的变化聊起。我们邀请了北京大学人工智能研究院AI安全与治理中心执行主任杨耀东和《三联生活周刊》记者陈璐,聊聊给人工智能对齐颗粒度这件事的,以及和普通人相比,一线科研人员如何看待与使用人工智能?在他们的视野中,人工智能的发展有哪些可能和局限?以及在技术飞速发展的时代,我们又该如何审视人的价值?

延伸推荐
《三联中读 | 给大家的AI思维课》
2023年第14期《ChatGPT改变世界》

【时间轴】

01:47 时隔一年,为什么要再次关注人工智能?

07:37 什么是“通用人工智能”?

11:33 AI与AI Agent

20:29 为什么人工智能也逃不开“对齐”?

25:33 对齐一款人工智能的具体方法

30:11 从ChatGPT到Gemini

32:42 人工智能领域的安全控制,要对标核工业吗?

38:15 人工智能的发展会迎来奇点时刻吗?

43:23 当人工智能比人类更聪明,还对得齐吗?

46:23 庆幸吧,人工智能还不会说笑话

49:55 技术跃升的背后,如何重新审视人的价值?

“Talk三联”是《三联生活周刊》出品的一档软硬皆有的泛文化类音频栏目,用声音记录报道背后的故事,提供丰富的新知与思辨的可能。在以下渠道均可收听我们的节目:

三联中读APP | 小宇宙 | 喜马拉雅 | 苹果播客 | 网易云音乐

【我们还有这些播客】

苗师傅·天真与经验 | 中场时间 | 我有一个朋友·董晨宇 |  岁时茶山记 | 项飙·你好陌生人 | 孩子,你的情绪我们在乎 | “三联·大案追踪”有声剧 | 何为大学

如果你喜欢我们的节目,欢迎点赞支持,或者把我们的节目推荐给更多的朋友~

【关注我们】

App:三联中读

微信公众号:三联中读

微博:@三联中读

小红书:三联中读

点击👉🏻 三联生活周刊官网,了解更多

【商务合作】

zhongdu@lifeweek.com.cn

展开Show Notes
Mazmatig
Mazmatig
2024.1.29
杨老师讲的真不错,不愧是专业科研大佬,基本把大语言模型的优劣和现在发展现状和伦理、逻辑方面的问题都讲清楚了。从自己数学学科来看,现在的语言模型确实还很稚嫩,简单的证明题也很难证明,不过还是相信科技的发展。最近找工作拿到的第一份offer就是可解释AI,虽然自己很菜,还是希望能为我们国家自己的发展作点微不足道的小工作……😂
Lopez
Lopez
2024.1.27
看了人机对齐就在期待这一期了( ﹡ˆoˆ﹡ )三联的选题总是回应社会关切😘😘😘
HD189359m
HD189359m
2024.3.03
课在哪里买?
三联中读
:
您好,可以在“三联中读”App搜索《给大家的AI思维课》
杨老师的声音怎么能那么好听
杨老师讲得细致易懂。还好女记者说话不多,不然要口音劝退了…
武陵人123
武陵人123
2024.2.24
有了 AI,很多「材料」就不愁写了!
KatherineK
KatherineK
2024.1.29
40:47 突然感觉万神殿的动画很真实哈哈哈
郝允莱
郝允莱
2024.1.27
11:27 通用人工智能能够突破:完成无穷任务,可以自己定制创造任务,能理解人类价值观(价值对齐)
独步91
独步91
2024.1.28
小板凳坐好了!
最近很高产啊
郝允莱
郝允莱
2024.1.27
37:07 关于错误对齐(用立法和社会变迁的🌰)错误泛化
郝允莱
郝允莱
2024.1.27
27:40 女儿考试的🌰非常通俗易懂👍🏻,现在AI缺少不会怎么说的语料库。会的信号更多通过奖励
桃奈小安
桃奈小安
2024.1.27
第一