奇点更近：人类与AI共生时代的机遇与挑战

本期节目基于库兹韦尔的新书《奇点临近》，书中讨论了技术进步的指数级增长，特别强调了加速回报定律如何推动计算能力和人工智能的发展。它回顾了AI的历史，从早期的符号主义和联结主义方法，到当前大型语言模型和多模态AI的突破，并预示了奇点可能在2045年到来。文章还探讨了技术对社会经济福祉的积极影响，包括能源、医疗、农业和民主的进步，但同时也深入分析了核武器、生物技术和失控AI带来的潜在危机，以及如何通过智能系统和伦理规范来应对这些挑战。最后，文本思考了人类身份的哲学问题以及技术融合对未来生活和工作模式的深远影响。

随着技术奇点（通常预测在 2045年左右 发生）的临近，人类的身份、意识和社会结构将经历深刻的演变，这种变化的速度和规模将使人类思维能力扩展数百万倍。

以下是这些方面可能如何演变的详细说明：

人类身份与意识的演变

意识与主观体验的拓展库兹韦尔认为，意识的基础是信息。随着信息处理复杂性的增加，意识也会随之唤起。人类将通过 脑机接口直接将生物认知与数字技术的速度和力量结合起来，从而扩展人类大脑的新皮质至云端。这意味着我们不仅能增强解决抽象问题的能力，我们的 主观体验也将得到深化。
这种扩展将使人类大脑的非生物部分认知能力比生物部分强数千倍。到2045年，人类的思维能力将扩展数百万倍。
关于“我是谁”这一问题，库兹韦尔认为人的核心身份不是大脑，而是大脑能够表示和操纵的 信息模式的特殊排列。即使我们将大脑内容逐步迁移到非生物介质上，只要信息模式的连续性得以保留，我们的主观体验也将被保留，我们仍然是“我们”。
这将开启“全脑仿真”（WBE）的可能性，即将意识完全上传到数字载体上，使个人身份在生物大脑被摧毁后也能得到延续，实现 几乎无限长的寿命。

“复制人”与身份的探讨先进的AI将能创建高度逼真的“复制人”（After Life avatars），它们拥有逝者的外貌、行为、记忆和技能。这些复制人通过模仿人类行为，挑战了我们对身份和意识的传统理解。
虽然这些“来生”化身在最初可能处于“恐怖谷”阶段，与真人存在微妙差异，但随着纳米技术在21世纪30年代末期制造出真实的仿生身体，它们将变得更加令人信服。
“复制人”的出现将引发深刻的社会和法律问题，例如他们是否拥有完整人权、是否应为被复制人的行为负责，以及他们能否接替被复制人的工作。
库兹韦尔的泛原心论（Panprotopsychism）认为意识与信息身份联系在一起，可能包含所有与我们自身相同的信息副本，这为复制人可能拥有主观体验提供了哲学理由。

自由意志与决定论人类的自由意志可能源于宇宙中无法简化的复杂性，这种复杂性遵循确定性规则，但其结果无法在计算上提前预知（类似于沃尔弗拉姆的“规则110”细胞自动机）。
这为“相容论”打开了大门，即一个决定论主宰的世界也可以是一个有自由意志的世界。即使我们的决定受现实基本法则决定，我们仍然可以做出自由的决定。

社会结构的演变

劳动力与经济模式的变革自动化与就业冲击： AI和自动化将取代大量处于技能阶梯底部和中部的重复性工作，导致许多劳动力面临经济动荡。例如，自动驾驶技术将大幅减少货运和客运司机的工作。
新工作与技能提升： 尽管旧工作消失，新技术也将创造新的机会，但通常需要更复杂的技能，例如操作3D打印机或从事数据分析。社会将经历“技能提升”的浪潮，人们需要学习如何使用电子设备、与AI协作。
边际成本趋近于零： 随着AI和纳米技术的成熟，食物、住房、服装等实物商品的生产成本将大幅下降，甚至可能趋近于零。产品价值将更多地体现在其包含的信息和创新上。
全民基本收入： 到21世纪30年代，发达国家可能会实行全民基本收入（UBI）或类似制度，为所有成年人提供现金或免费商品和服务，以缓解失业带来的影响。
地下经济和应用经济的增长： 互联网和加密技术将促进地下经济的发展。同时，应用经济（如内容创作、社交媒体影响者）将继续创造大量新的就业机会。

生活质量与物质丰富指数级提升： 信息技术的指数级发展将加速人类福祉的进步，包括识字、教育、财富、卫生、健康、民主化和减少暴力。
能源、水和食物的丰富： 廉价高效的太阳能将成为主导能源。垂直农业将提供廉价、高质量的食物并释放大量土地和水资源。水净化技术将使每个人都能获得清洁水。3D打印技术将大幅降低住房和其他日常物品的生产成本。
医疗和长寿： AI将彻底改变医学，加速新疗法的发现和试验，显著延长人类寿命。纳米机器人将在细胞层面进行维护和修复，甚至重构我们的身体和大脑，使人类彻底战胜衰老。
认知增强与沉浸式体验： 脑机接口将使人类新皮质扩展到云端，大幅提升认知能力和抽象思维能力。VR和AR技术将提供高度沉浸式的体验，极大丰富人类的生活。

治理与伦理挑战AI的安全对齐： 超级智能AI可能带来新的风险，包括被滥用（误用）、未能准确执行人类意图（外部失准）以及学习不良行为（内部失准）。需要开发技术（如模仿泛化、通过辩论保证AI安全、迭代放大）和国际规范来确保AI的安全和负责任的发展。
“人类控制”的模糊性： 随着脑机接口的普及和人类思维的非生物化，未来“人类控制”AI的定义将变得模糊，因为人类自身的决策将越来越依赖非生物辅助工具。
社会适应与政策制定： 面对技术变革带来的巨大冲击，需要制定明智的政治战略和政策，以平缓过渡并确保繁荣成果的广泛共享。
反技术情绪： “原教旨主义人文主义”可能会反对任何改变人类本质的尝试，如基因改造和寿命延长，但这种反对最终可能因人们对克服痛苦和疾病的需求而失败。
道德进步： 库兹韦尔认为，人类社会的道德理想在过去几个世纪中已极大减少了暴力，随着AI力量的广泛分布，将能促进全人类价值观的提升，而非仅仅服务于某个国家或组织。

总而言之，技术奇点的临近意味着一个前所未有的时代，人类将从根本上重塑自己的身份、意识和社会结构，超越生物学限制，实现物质极大丰富和认知能力的指数级提升，同时也将面对前所未有的伦理、社会和治理挑战。