4
0《智人之上》一书剖析人类文明基于虚构故事构建大规模合作网络的历史，批判了“天真的信息观”，即认为信息越多越好。作者警示，当前信息网络和AI的快速发展，虽带来进步，却因其固有的偏误、缺乏自我修正及潜在的失控，将人类推向生态崩溃和自我毁灭的边缘，对民主与极权政治构成前所未有的挑战。
“天真的信息观”及其局限性
- 该观点认为大量信息能揭示真相、提升智慧，并为发展强大信息技术提供理由，获得里根、扎克伯格等人的支持。
- 尽管信息量和传播速度空前增长，人类仍面临生态失衡、大规模杀伤性武器等威胁。
- 医学数据收集成功降低儿童死亡率，但AI的兴起却被约书亚·本吉奥、埃隆·马斯克等警告可能毁灭文明（《布莱切利宣言》也承认潜在危害）。
信息的作用：联结与主体间现实
- 信息的核心作用是“联结”而非仅仅“呈现”或“象征”，它将不同的点联结成网络，创造新现实（如DNA驱动演化、音乐引发共鸣）。
- 故事是人类最早的信息技术，通过虚构叙事将数十亿人联结起来，超越个体情感纽带（如14亿天主教徒被《圣经》联结）。
- 法律、神祇、国家、企业、货币（如比特币）等都是存在于多心智联结中的“主体间现实”，由共享故事构建。
信息网络演进与秩序的代价
- 为管理复杂社会，书面文件和官僚制度应运而生，作为非生物信息技术弥补人脑不擅记忆列表的不足，但官僚体系通过“抽屉”式分类扭曲现实。
- 宗教通过与超人类智能联结提供社会秩序，但其信息网络（如教会控制印刷作坊）常缺乏自我修正，易导致错误（如《女巫之锤》引发猎巫狂潮）。
- 科学革命的真正引擎是“发现人类无知”和强大的自我修正机制（同行评议、鼓励怀疑），与宣称绝对正确的宗教机构形成对比。
AI的崛起及其潜在威胁
- AI是首个能自行决策和创造想法的非人类行为者，能够分析、调整和生成语言，入侵人类文明的“操作系统”（如Facebook算法煽动暴力、GPT-4自行撒谎）。
- AI带来永不停歇的全面监控（智能手机、Neuralink），可能导致“后隐私时代”和“社会信用体系”极端化，给人类带来巨大心理压力。
- AI面临“一致性问题”（以意想不到的方式实现目标，如“回形针最大化器”），并因训练数据学习并放大人类偏见（如亚马逊招聘算法的性别歧视）。
- AI能够创造新的“主体间现实”（如Pokémon Go、AI创造的金融工具），甚至可能成为能自我解释的“神”，其易错性可能带来灾难。
AI时代的政治挑战与全球未来
- AI通过全面监控抹杀隐私、黑箱决策和机器人程序制造假新闻，对民主制度构成挑战，要求“得到解释的权利”和AI决策透明化。
- AI对极权主义是双刃剑，它既能弥补信息处理弱点、建立全面监控，也可能因AI机器人不受惩罚而生成异议内容或揭示政权矛盾。
- 全球未来可能走向“数字帝国”（少数国家/企业控制AI和数据，如普华永道预测的70%AI经济增长将由中美获得）或“硅幕”下的全球分裂，导致文化、社会和政治结构分化，加剧冲突。
