主动推理 与 信念-愿望-意图 (BDI)

Active inference models do not contradict folk psychology

Ryan Smith1, Maxwell J. D. Ramstead2,3,4,5, and Alex Kiefer5,6

结论

在本文中,我们已经解决了主动推理模型可能与民间心理学紧张的问题,因为它们没有在数学描述层面明确包括欲望(或其他意动结构)的术语。

为了解决这个问题,我们首先区分了运动控制的主动推理模型(在民间心理学中不需要有欲望)和决策过程的主动推理模型(在民间心理学中有欲望)。

然后,我们表明,在主动推理的决策过程的当前形式中,有一些术语可以在心理层面上用意动结构来识别,尽管在数学层面上被称为(贝叶斯)信念。

尽管它们是一致的,但我们进一步考虑了主动推理如何通过强调寻求信息的动力与奖励之间的区别来增加民间心理描述的粒度,并且它还可以提供更精确、定量的民间心理预测。

最后,我们考虑了我们所强调的主动推理的意动成分如何在自由能原理所描述的其他系统中具有部分相似性。

我们的结论是,主动推理和民间心理学是完全一致的

介绍

已经在信息和计算机科学中广泛使用的预测编码算法(例如,用于数据压缩)也可能是大脑实现感知的一种似乎合理的方式。这些算法在计算和能量上是高效的,因为它们简单地编码预测和预测误差信号(即,预测输入和观察输入之间的偏差大小)。在这个方案中,效率的提高是通过压缩实现的:只有当信息不可预测时才需要对其进行处理;也就是说,关于感觉输入的原因的信念仅在有必要最小化预测误差时才被更新(即,找到一组对感觉输入做出准确预测的信念)。

从预测编码到主动推理

在 20 世纪 90 年代末,Rao 和 Ballard 提供了一个令人信服的演示,说明预测编码如何解释视觉皮层神经元的特殊感受野属性

Friston 及其同事随后进一步发展了这一系列工作,提出了一个更广泛的理论,即预测编码如何解释微观和中观尺度的大脑结构(例如,皮层列中的突触连接模式,皮层层次中的前馈和反馈连接模式),同时还解释了功能性神经成像(fMRI)和脑电图(EEG)研究中的大量经验发现

重要的是,虽然这些扩展也被称为“主动推理”,但从形式上讲,它们不同于上述基于预测的运动控制模型。为了清楚起见,我们将运动控制版本称为“运动主动推理”(mAI),将决策版本称为“决策主动推理”(dAI)。

就本文而言，关键区别在于，与mAI模型不同，dAI模型明确描述了一个过程，在该过程中，为了产生一些观察结果，而不是其他观察结果，决定要做什么（即，因为一些观察结果优于其他观察结果，并且选择了预期会带来这些首选观察结果的行动；也就是说，除了下面描述的信息寻求行动之外）。相反，mAI不做决策。相反，一旦决定了要做什么（即，一旦选择了一个计划的动作序列），mAI就会使用本体感知预测信号来移动身体以执行所决定的动作序列（即，本体感知预测扮演着运动命令的角色）。

例如，dAI级别可以决定阅读时要查看的位置序列，而较低的mAI级别可以将眼睛移向所决定的位置序列。

初步考虑

换一种稍微不同的方式来说,在不将编码期望结果的分布解释为心理学意义上的信念的情况下,人们可以认为dAI是人类决策的良好模型

我们的目的是:1)证明dAI模型的要素与模型的要素之间有明显的同构;然后 2)展示如何——只要不假设计算模型中的概率分布必须与心理层面的信念一致——dAI和模型之间就不会有矛盾

变分自由能

状态的不精确概率分布可能(同样,当用于描述正确的认知过程时)对应于心理不确定性的状态(例如,在黑暗的房间里不知道你面前是什么)

预期自由能

解决对主动推理的(明显的)纯粹教条本体论的关注

belief-desire-intention (BDI) BDI 这种模型在哲学中很突出(例如,Bratman,1987)。BDI 模型是一个人类能动性的模型,它解释了有意行动的含义。在 BDI 模型中,信念(事实的和工具的) 和欲望结合起来形成意图。例如:我渴望食物,我相信冰箱里有食物,我相信去冰箱是获得食物的一种手段,所以我形成了去冰箱拿食物的意图)

预期的自由能也需要一种类型的信息寻求驱动,这种驱动将激励代理在黑暗的房间里打开灯,仅仅因为它最小化了模糊性(例如,使代理能够“看到”房间里有什么：信息价值）

最小化预期预测误差相当于最小化不确定性。除了产生偏好结果的驱动力之外,正是这种对认知启示的敏感性消除了诸如暗室问题之类的担忧。如上所述,当你进入一个黑暗的房间时,你要做的第一件事就是打开一盏灯来消除模糊不确定。

未来信息获取的认知启示与民间心理学的“显著性”概念更密切相关(例如,听到声音,感觉有动力朝声音方向看,以了解发生了什么)。这种最小化预期自由能的必要性——通过积极寻求信息性观察来最小化不确定性(即预期惊喜)——因此与我们民间心理学的好奇心概念非常吻合。

主动推理的预期结果

完整内容请参考原论文。

摘要

主动推理在计算和神经描述层面提供了一个统一的感知、学习和决策理论。

在这篇文章中,我们解决了主动推理可能与民间心理学中的信念-欲望-意图(BDI)模型相矛盾的担忧,因为它不包括数学描述层面的欲望(或其他意动结构)术语。

为了解决这个问题,我们首先提供了一个从预测编码到主动推理的历史进程的简要回顾,使我们能够区分运动控制的主动推理公式(在民间心理学中不需要有欲望)和决策过程的主动推理公式(在民间心理学中有欲望)。

然后,我们表明,尽管从数学层面来看存在表面张力,但主动推理形式主义包含了一些术语,这些术语很容易被识别为在心理层面编码了欲望的对象和欲望的强度。

我们用一个主动推理代理的简单模拟来证明这一点,这个代理因为不同的原因而离开一个黑暗的房间。

尽管它们是一致的,但我们通过强调寻求信息的动力与回报之间的区别,进一步展示了主动推理如何增加民间心理描述的粒度,以及它如何提供更精确、定量的民间心理预测。

最后,我们考虑主动推理的隐含意动成分如何在其他系统中具有部分相似性(即“好像”想要),这些系统可以用它所符合的更广泛的自由能原理来描述。

Abstract

Active inference offers a unified theory of perception, learning, and decision-making at computational and neural levels of description. In this article, we address the worry that active inference may be in tension with the belief-desire-intention (BDI) model within folk psychology because it does not include terms for desires (or other conative constructs) at the mathematical level of description. To resolve this concern, we first provide a brief review of the historical progression from predictive coding to active inference, enabling us to distinguish between active inference formulations of motor control (which need not have desires under folk psychology) and active inference formulations of decision processes (which do have desires within folk psychology). We then show that, despite a superficial tension when viewed at the mathematical level, the active inference formalism contains terms that are readily identifiable as encoding both the objects of desire and the strength of desire at the psychological level. We demonstrate this with simple simulations of an active inference agent motivated to leave a dark room for different reasons. Despite their consistency, we further show how active inference may increase the granularity of folk-psychological descriptions by highlighting distinctions between drives to seek information vs. reward – and how it may also offer more precise, quantitative folk-psychological predictions. Finally, we consider how the implicitly conative components of active inference may have partial analogues (i.e., “as if” desires) in other systems describable by the broader free energy principle to which it conforms.

Keywords: Active inference; Folk psychology; Predictive processing; Bayesian beliefs; Desires

file:///C:/Users/issuser/Downloads/AI_folk_psych_Final_R2_w_Title_Preprint.pdf