24 贝叶斯的博弈:如何与不确定性共处字里行间|莫尔索

24 贝叶斯的博弈:如何与不确定性共处

20分钟 ·
播放数6
·
评论数0

来自黄黎原(Lê Nguyên Hoang)的《贝叶斯的博弈:数学、思维与人工智能》,主要围绕概率论、贝叶斯方法与现代科学及社会应用展开讨论。内容涵盖了从广义相对论解释水星轨道异常等历史科学突破,到统计学中的P值与假设检验,再到认知偏差如琳达问题和刻板印象对判断的影响。书中还探讨了信息技术与机器学习模型,特别是深度学习、递归神经网络、蒙特卡罗模拟等在人工智能中的应用及其理论基础,并讨论了指数增长与对数尺度在各个领域的有效性。此外,本书也批判性地分析了市场预测的局限性、金融泡沫的形成,以及社会中的虚构叙事、自由意志、群体选择理论等哲学和文化议题,强调了贝叶斯思维在理解不确定性世界中的重要性。

贝叶斯方法提供了一种统一的知识哲学,其应用范围几乎不受限制,因此被视为解释人工智能、物理学和人类认知等所有认知形式的无法回避的支柱。其核心观点在于,理性本质上可以归结于贝叶斯公式的应用,即通过实际数据来严谨地调整我们对不同模型、理论或概念的信念(或置信度)。

在人工智能和计算机科学中的统一解释:

  • 所罗门诺夫妖与理论基础: 贝叶斯主义与理论计算机科学相结合,形成了所罗门诺夫妖的理论框架,这被认为是人工智能一般性框架的前身。所罗门诺夫妖通过结合艾伦·图灵的可计算性理论与贝叶斯公式,构建了最纯粹、最完美的贝叶斯形式——所罗门诺夫归纳法,该方法用于对任何可计算的序列进行预测。所罗门诺夫归纳法是纯粹贝叶斯主义计算的体现,指出任何具有预测能力的理论都是所罗门诺夫意义上的理论。
  • 现代机器学习应用: 贝叶斯公式是许多人工智能研究的核心。现代机器学习,如深度学习,会利用贝叶斯主义的先验概率来指导模型学习。各种机器学习架构,例如贝叶斯网络、马尔可夫随机场(如玻尔兹曼机),以及隐马尔可夫模型,都依赖于贝叶斯推断来处理可观测和隐藏变量之间的关系。

在人类认知和生物学中的统一解释:

  • 贝叶斯大脑假说: 研究人员提出,贝叶斯主义是一个理解人类自身智能如何运作的无法避免的理论框架。认知科学家提出,大脑的构成目的就是进行贝叶斯式的统计推断。
  • 无意识的感知和学习: 大脑的许多无意识认知过程都与贝叶斯主义的计算相吻合。例如,大脑对视错觉的感知和对物体运动的推断,都可以解释为大脑在面对不确定性时,将感官数据与基于经验的偏见(如照明来自上方)相结合,进行贝叶斯推断的结果。
  • 演化与认知发展: 支配达尔文式演化的模型(例如洛特卡–沃尔泰拉方程)与伪装之后的贝叶斯公式在数学上是相通的。这暗示如果贝叶斯公式是最优的学习方式,自然选择就必然会选择这种方式。此外,婴儿学习语言、计数和心智理论的能力,被认为是通过分层的贝叶斯计算实现的,这表明我们的大脑生来就具备进行复杂贝叶斯计算的能力,并且能够迅速发现和建立宏大的思考框架。

在物理学和科学哲学中的统一解释:

  • 处理不确定性: 贝叶斯方法在处理科学中的不确定性方面至关重要。例如,在量子力学中,概率扮演着核心角色,对实验结果的预测需要概率描述。在混沌理论(如天气预测)中,由于系统对初始状态的极端敏感性,必须转向概率性预测而非确定性预测。
  • 理论评估和简洁性: 科学家对理论的评估(例如爱因斯坦的广义相对论被迅速接受),通常遵循贝叶斯推断的原则,即理论的简洁性(偏见)和解释数据的能力(似然度)共同决定其置信度。
  • 信息和熵的量化: 玻尔兹曼的熵(量化热力学系统的微观不确定性)被克劳德·香农推广,将信息量等同于消息的稀有性,并通过对数来量化信息和不确定性(香农熵、比特),成为信息技术的基础。贝叶斯公式可以在对数尺度下表达,这是人工智能和统计物理研究者常用的形式。

贝叶斯方法通过提供一个统一的框架来处理和更新不确定性,连接了从理性思维和知识论(统一的知识哲学)到生物演化、大脑运作机制以及物理世界(从量子到宏观)的各个层面。