On Bayesian Mechanics: A Physics of and by Beliefs（自由能）1

摘要

本文的目的是介绍一个在过去十年中出现的研究领域,称为贝叶斯力学。

贝叶斯力学是一种概率力学,包括使我们能够对具有特定划分(即划分为粒子)的系统进行建模的工具,其中特定系统的内部状态(或内部状态的轨迹)编码了关于表征该系统的量的信念的参数。

这些工具允许我们写下系统的机械理论,这些系统看起来好像是在估计其感觉状态的原因的后验概率分布,

提供了一种正式的语言来建模约束、力、场和势,这些约束、力、场和势决定了这种系统的内部状态如何在信念空间(即,在统计流形上)中运动。

在这里,我们将回顾关于自由能原理的文献中的技术状态,区分贝叶斯力学应用于特定系统的三种方式(即路径跟踪、模式跟踪和模式匹配)。

我们将继续研究自由能原理和约束最大熵原理的对偶性，这两个原理都是贝叶斯力学的核心。

我们还讨论了这种二元性对贝叶斯力学的影响以及当前处理方法的局限性。

1 介绍

近年来,研究复杂适应系统中自组织的几个核心数学方法已经或正在向同一套方法靠拢还有问题。这项工作越来越多地表明,现有的智力物理学和适应性的方法以一种不平凡的方式结合在一起,就好像它们是一个尚未发现的整体的一部分。尽管目前处于早期阶段, 仍然不成熟,但人们可以开始看到复杂的自组织系统的一般机制的形状从这种融合中出现。

这篇文章的目的是提出一个严格的,但读者友好的介 绍

一 个 在 过 去 十 年 开 始 出现 和 巩 固 的 研 究 领 域 , 称 为 贝 叶 斯 力 学 , 它 可 能 为 自 组 织 和 复 杂 适 应 系 统的 一 般 力 学 提 供 第 一 步 [1, 2, 3, 4, 5, 6].

贝 叶 斯 力 学 包 括 模 拟 物 理 系 统 , 看 起 来 好 像 它 们 编 码 了 概 率 信 念关于它们所处的环境,特别是它们与环境结合的方式。

因此,贝叶斯力学旨在为存在于某一时期的所有事物的显著特性提供数学原理上的解释,即:它们开始获得其嵌入环境的统计数据,并且似乎由此编码了该环境的概率表示[7,8].

贝叶斯力学的前提是,特定类型系统的物理力学与它们编码的信念的概率、信息力学有系统的联系。

贝叶斯力学用两种共轭(信息)几何描述物理系统:系统的物理状态空间和同时存在的信念空间。

贝叶斯力学的前提是系统信念的动力学(即,它们在信念空间中的时间演化)和编码这些信念的系统的物理动力学(即,它们在可能的轨迹状态空间中的时间演化)的共轭[6, 2].

使用贝叶斯力学的工具,我们可以为一个自组织系统形成力学理论,这个系统看起来好像在模拟它的嵌入环境。因此,贝叶斯力学将物理系统的图像描述为信念的共轭空间中的流动,并描述两种观点之间的系统关系。

人们常说, 能够随着时间的推移保持其组织的系统, 例如生命系统, 似乎能够抵抗热力学第二定律所规定的熵衰减和耗散(这种观点通常归因于薛定谔, 9])。

事实上, 这是不真实的, 而且是一种花招: 自组织系统, 尤其是生命系统, 不仅符合热力学第二定律, 即孤立系统的内部熵总是增加, 但非常好地符合它，但在这样做的过程中, 它们也保持了结构的完整性 [4, 10]

这些基础方法和工具被应用于开发数学理论和计算模型, 使我们能够研究作为熵耗散的特例的稳定结构看似矛盾的出现 [11,12,13]。

⻉叶斯力学起源于物理学和统计学的其他领域的变分原理, 例如杰恩斯的最大熵原理 [14] 和静止作用原理, 并借鉴了信息论和几何学的广泛、多学科的结果 [15] , 16, 17], 控制论和人工智能 [18, 19], 计算神经科学 [20, 21], 统计推断和统计物理学的规范理论 [22, 23, 24, 25, 6], 以及随机热力学和非平衡物理学 [26, 13, 27]。⻉叶斯力学建立在这些工具和技术的基础上, 使我们能够为特定类别的物理系统写下机械理论, 这些理论看起来好像是在估计他们观察原因的后验概率密度。

⻉叶斯力学专⻔用于具有状态分区的特定系统, 其中一个子集参数化概率分布或密度。

⻉叶斯力学在数学上阐明了一组精确的条件, 在这些条件下, 物理系统可以被认为具有关于其嵌入环境的概率(条件或⻉叶斯) 信念。

形式上, ⻉叶斯力学是关于被赋予特定分区的所谓特定系统[1]。 “特定系统” 是指具有特定(即“特定”) 划分为内部状态、 外部状态和干预毯状态的系统, 它们实例化了内部和外部之间的耦合(“⻢尔可夫毯”)。然后内部和覆盖状态可以被转换为构成“粒子”, 因此分区的名 称。

在 FEP 下, 物理系统的内部状态可以建模为对概率信念的参数进行编码, 这些参数是(概率密度) 函数, 其域是表征系统的量(例如状态、 流、 轨迹、 其他度量)。

简而言之, ⻉叶斯力学是一组关于由内部状态编码或体现的信念以及这些信念如何随时间演变的物理机械理论: 它提供了一种形式语言来模拟约束、 力、 场、 流形和势能确定这些系统的内部状态如何在信念空间中移动。

我们将看到, 通过 FEP 进行的这种描述总是带有对同一动态的双重或互补的观点, 这是从最大熵推导出来的。

这种观点是关于系统采样的概率密度, 以及该密度如何随着时间的推移而被强制执行或演变。我们详细考虑了 FEP 和约束最大熵原理 (CMEP) 之间的对偶性, 表明它们是两个视角在同一件事上。这为自 适应、 自 组织动力学提供了一个统一的观点, 它包含了视角的二元性: 自 适应系统对其环境(和自 身) 的看法, 以及它们嵌入的环境热浴(和所有有组织的事物最终都会腐烂)。

这些观点可能看起来是对立的, 至少表面上是这样: 毕竟, 持久的、 复杂的适应系统似乎有组织地抵抗熵衰减和耗散; 而嵌入热浴中的所有有组织的事物不可避免的存在的热力学命令是消散到其中。

这种明显的张力的解决是整个建筑二元化的核心动机。正如我们可以想到的受控系统在特征性的、 不足为奇的设定点 [2] 周围保持其状态(尽管有来自 环境的扰动), 我们可以将自 组织系统视为一个持久的、 有凝聚力的存在。

这种对称性是几乎所有复杂系统形式化方法的基础[34、 35、 36、 37、 38、 39], 使其成为理解复杂性的有吸引 力的框架。特别是, 自 组织可以从两个方面来看待。一种是从“自 我” 的角度来看, 或从其环境中与其他事物不同的个体事物的角度来看。从 FEP 提供的这个角度来看, 人们可以问特定的系统如何解释它们的环境并维护它们的“自 我” 它们所是的那种典型的结构类型。

双重地, 人们可以从“组织” 的角度来看待这一点，即从外部窥视, 对一个结构保持凝聚力的样子进行建模, 而不是在相当长的时间尺度内消散到其环境中。

后一种观点就像询问某个系统的内部状态, 而不是内部状态所承载的信念(就像在 FEP 理论的镜头下一样)。

同样, 在双重意义上, 询问组织就像一个观察者或一个位于外部世界的建模者, 对特定系统的内部状态形成信念。

这些观点是等价的, 因为它们讲述了关于推理和自 组织动态的相同故事。这种二元性使我们能够通过许多互补的镜头来查看 FEP 和⻉叶斯力学。改变我们的观点的好处是我们可以将 FEP 与最大熵的观点进行比较, 这在标准数学和物理学中更为熟悉。

特别是,它应该为我们提供一种系统的方法,将有组织系统的动力学和力学与这些有组织系统编码或体现的信念的动力学和力学联系起来,恢复贝叶斯力学和自组织物理学语言中的 FEP 的基本前身公式。