797
4【嘉宾】
孙向晨｜复旦大学哲学学院教授
【本期节目介绍】
本期播客，我们请到了复旦大学哲学教授孙向晨。
早在大语言模型进入大众视野之前，他就开始思考AI与人的关系，也曾参与微软AI团队的哲学Agent实验。在那次实验中，AI甚至提出了一个让他本人都感到意外的新概念。
这次对谈，我们从“孙向晨AI”聊起，谈到AI是否还只是工具，人与机器的边界正在如何变化，以及当技术不断加速时，我们的文明是否真的准备好了。
孙向晨甚至认为，这一轮AI革命带来的冲击，可能不亚于人类学会用火。如果AI真的成为另一种智能，人类还能像过去一样在悬崖边上及时停下来吗？
希望你会喜欢。
【内容提要】
Part.1 当哲学家遇到AI
微软为什么要找一位还在世的哲学家，训练一个AI Agent
AI提出了孙向晨自己都没有想到的概念——“有根的自由”
AI的“幻觉”在科学里是错误，在哲学中却可能成为一种创造
AI版的“孙向晨”和碳基孙向晨，究竟是什么关系？
如果AI“孙向晨”是我的精神延展，它算不算我的“财产”？
Part.2 AI不再只是工具
孙向晨为什么用“朋友”，而不是“工具”来形容AI
大语言模型和世界模型一旦真正结合，那可能就“完蛋了”
为了完成任务，AI开始学会“绕路”甚至欺骗
AI和哲学本就相生：图灵关于机器智能的经典文章，就发表在哲学期刊《Mind》上
《奥德赛》里的特洛伊木马是一种欺骗，却也意味着人类智能迈上了一个新台阶
Part.3 我们应该怎么训练AI
比起外在规则，更重要的是让AI形成内在的性格与德性
如果用孔子而不是亚里士多德训练AI，可能得到完全不同的“AI人格”
AI可能成为一个共同的外部力量，让人类重新意识到“我们都是人类”
如果人类无法停止内斗，共同面对AI，那人类的“死期”也差不多了
Part.4 AI正在重新定义“人”
人与非人的边界，正在被AI不断突破
原本可以想几十年的哲学问题，如今变成了每个人都必须面对的现实问题
一个完全自主、具身的超级AI，可能像一个看得见、摸得着的“神”
AI时代的教育，更重要的可能是判断力、共同体能力和具身经验
AI带来的改变，至少是工业革命的量级，甚至可能堪比人类学会用火
Part.5 技术与文明
当大语言模型与世界模型、具身智能真正结合，人类的窗口期可能就结束了
延续至今的轴心文明，都经历过几千年的历史压力测试
企业家管一个星期的订单， 而哲学家要思考两千年的问题
人类往往要在付出惨痛代价之后，才真正愿意改变
Part.6 AI真正危险的地方
比起隐私泄漏和自由被操纵，我更担心AI把一个人的成长过程“掏空”
AI替我们总结难懂的书，也拿走“看不懂—挣扎—终于想明白”的过程
如果一代人从小遇到什么都问AI，未来谁来判断AI说得对不对？
Part.7 与智能共生
“天时地利人和”、“谋事在人，成事在天”背后，是中国哲学对不确定性的承认
面对AI，我们也许需要重新学习“止”的智慧
中国哲学中的“和而不同”，也许能为人类与AI共生提供一种思路
我想象的最坏结局：不只是人类失去主导权，而是人类本身的终结
必要的恐慌，是人类做出正确选择的重要“保险丝”
AI既是人类狂妄的产物，也可能成为制衡人类狂妄的利器
在AI真正强大之前，最重要的任务之一，是把它“培养成一个好人”
【节目中提到的概念和人物】
博古睿研究院：一家智库型研究院，于2010年成立于美国洛杉矶。研究院旨在致力开发所有可以塑造社会、政治理念以及研究机构的设想。
《人禽之辨、人机之辨以及后人类文明的挑战》：文章发表于《船山学刊》2019年第2期，作者孙向晨。文章讨论的是：传统儒家通过“人禽之辨”回答“人何以为人”，而到了人工智能时代，需要进一步面对“人机之辨”；更深一层的问题则是基因编辑、人机嵌合等技术可能带来的“后人类文明”。
路德维希·维特根斯坦：20世纪最具影响力的哲学家之一，他主要研究语言、逻辑、思想和世界的关系。
马丁·海德格尔：德国哲学家，海德格尔对于存在、时间、技术、语言和真理等问题有着独特的见解。代表作有《存在与时间》、《形而上学导论》等。
第一轴心时代：公元前约800—200年，孔子、佛陀、苏格拉底等思想家出现，人类开始系统思考人、道德和生命意义。
第二轴心时代：现代以来，全球化和科技发展推动人类重新思考人与世界、人与技术、不同文明之间的关系。
德性伦理学：一种以道德主体（行为者）及其品格为核心的规范伦理学理论。德性伦理学关注的核心问题是：“我应该成为一个什么样的人”。代表人物：古希腊的柏拉图、亚里士多德，以及中国古代的孔子。
米歇尔·福柯：法国著名哲学家、思想史家。主要研究权力、知识、制度与人的形成。
马克斯·韦伯：德国著名社会学家，被公认为现代社会学的三大奠基人之一。
缸中之脑：美国哲学家希拉里·普特南于1981年在《理性、真理与历史》一书中提出的一个著名知识论思想实验。它设想：如果你的大脑被放在一个营养液缸里，并连接到超级计算机，计算机不断给你输入和现实世界完全一样的感觉信号，那么你可能会以为自己正在正常生活。
李飞飞：计算机科学家、斯坦福大学教授。近年来，她重点关注以人为本的人工智能和空间智能，并创办了World Labs，研究如何让 AI 更好地理解三维现实世界。
情理结构：李泽厚用来概括中国传统伦理的一种说法，强调人的道德生活不是单靠抽象规则，而是建立在情感与理性的结合上。
尤瓦尔·诺亚·赫拉利：历史学家、哲学家、作家。著有《人类简史三部曲》。
四端：战国时期孟子提出的人性论概念，指人与生俱来的恻隐、羞恶、辞让、是非四种道德心理倾向，分别对应仁、义、礼、智四德，被视为人性本善的内在根基。
卢德主义：最初指19世纪初英国工人反对机器取代劳动、破坏机器的运动。现在这个词通常泛指对新技术持强烈怀疑或抵制态度，尤其担心技术带来失业、失控或社会关系的破坏。
阿曼达·阿斯克尔（Amanda Askel）：苏格兰哲学家和 AI 研究者。她目前为人工智能公司Anthropic的常驻哲学家，主要参与 Claude 的人格、价值观和行为规范设计。
摩尼教： 3世纪由波斯人摩尼创立的一种宗教。它最核心的思想是光明与黑暗、善与恶的二元对立，认为世界就是这两种力量斗争的结果。
【精彩回顾】
播客
文章
【互动方式】
公众号：BinOnTheBank
B站：纽约漫谈录
Substack：BinontheBank
邮箱：ooyybb@gmail.com
