273
4对谈：一本书和这个世界 的第1期
对谈者1：ChatGPT（Voice Mode）
对谈者2：Thinkbit
本期书目
《生命3.0：人工智能时代，人类的进化与重生》
- 作者：迈克斯·泰格马克（Max Tegmark）
- 原版出版：2017年
- 中文版：浙江教育出版社，2018年
泰格马克是MIT物理学终身教授、未来生命研究所（FLI）创始人。这本书不是在问"AI能做什么"，而是在问"如果智能继续往前推进，人类到底想保住什么，又最怕失去什么"。
为什么这一期的对谈者是AI
这本书讨论的恰好就是人工智能——它的能力边界、它的目标、它有没有意识。所以今天的对谈者同时也是被讨论的对象。它既是嘉宾，又是议题本身。
【时间线】
00:00 开始前的说明
上半场：
02:04 开始，介绍作者，全书结构
06:18 生命1.0 / 2.0 / 3.0：
泰格马克对生命演化阶段的划分——从进化决定一切，到可以自我设计软件，再到硬件和软件都可以自我设计
09:22 主线1：超级智能出现后的价值选择和后果（12种结局）
16:05 主线2：智能，目标，意识
下半场：
29:46 话题1：超级智能之争的十年巨变
2017年泰格马克画了三个学派——数字乌托邦派、技术怀疑派、AI有益运动派。十年后几乎所有人都换了位置。
36:38 话题2：GPT时刻——一条分界线的前后
2022年底ChatGPT发布作为技术巨变的分界线。从震动到焦虑到厌烦到适应的心理弧线，以及全球资本和生产力对AI的集体转向。
44:29话题3：安全——AI和人的排列组合
泰格马克12种结局的共同盲点：都假设"一个AI对一个人类整体"。现实是多个AI、多个人类群体、多种排列组合——坏人控制的AI、被AI操纵的人、国家间的AI军备竞赛。
49:06话题4：意义
《生命3.0》的终极观点：没有意识就没有意义。AI时代下读书和播客的意义正在被消解——AI可以更深地解读书，也可以克隆声音播报内容。意义在哪里？
提到的书和人物
书
- 《生命3.0》— 迈克斯·泰格马克
- 《AI 3.0》— 梅兰妮·米歇尔
人物
- 迈克斯·泰格马克（Max Tegmark）— MIT物理学教授，FLI创始人
- 埃隆·马斯克（Elon Musk）— xAI创始人
- 杰弗里·辛顿（Geoffrey Hinton）— 深度学习先驱，2024诺贝尔物理学奖
- 约书亚·本吉奥（Yoshua Bengio）— 深度学习先驱，2026国际AI安全报告领导者
- 杨立昆（Yann LeCun）— 深度学习先驱，AMI Labs创始人
- 梅兰妮·米歇尔（Melanie Mitchell）— 圣塔菲研究所教授
- 山姆·奥特曼（Sam Altman）— OpenAI CEO
