前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >自由能一书金句摘录及图表

自由能一书金句摘录及图表

作者头像
用户1908973
发布2022-04-15 15:43:28
3470
发布2022-04-15 15:43:28
举报
文章被收录于专栏:CreateAMindCreateAMind

内容是从最后一章倒序摘录。

1

在主动推理下,如果其他人对注意力(或任何其他结构)有不同的定义,这并不重要——因为我们可以简单地参考正在讨论的数学结构,并排除任何混淆。

预期的信息增益进一步细分为显著性和新颖性。前者是推断的潜力,后者是学习的潜力。

2

主动推理超越了简单的自主循环:它可以以越来越复杂的方式纠正相同的内部感受预测错误(高体温)(佩祖洛、里戈利和弗里斯顿 2015)。它可以使用预测性的异变策略(Sterling 2012 年,Barrett 和 Simmons 2015 年,Corcoran 等人 2020 年),这些策略超越了体内平衡,并在内部感受预测错误被触发之前以异变方式抢先控制生理——例如,在过热之前找到阴凉处。另一种预测策略需要在预期偏离生理设定点之前动员资源,例如,在预计氧需求增加的长跑之前增加心输出量。这需要动态地修改内感受性观察的先验,超越体内平衡(Tschantz 等,2021)。最终,预测大脑可以开发出复杂的目标导向策略,例如确保一个人带冷水到海滩,以更丰富、更有效的方式满足同样的需求(控制体温)

3

注意,深思熟虑、持之以恒和习惯性的行为是共存的,可以在主动推理中结合起来。换句话说,人们可以推断,在这种情况下,习惯是最有可能的行动过程。这不同于“双重理论”,后者假设我们由两个独立的系统驱动,一个是理性的,一个是直觉的(Kahneman 2017)。行为的深思熟虑、坚持不懈和习惯性方面的混合很可能取决于背景条件,例如经验的数量和一个人可以在可能具有高复杂性成本的深思熟虑过程中投入的认知资源的数量

4

这意味着电机命令相当于由正向模型做出的预测,而不是由最优控制中的逆模型计算的。感觉(更准确地说,本体感受) 预测误差通过动作(即,手臂运动)来解决。由动作填补的空白被认为是如此之小, 以至于它不需要复杂的逆模型,而是需要更简单的运动反射(Adams、Shipp 和 frist on 2013)。1 使运动反射比逆模型更简单的是,它不编码从推断的世界状态到动作的 映 射 , 而 是 在 动 作 和 感 官 结 果 之 间 更 简 单 的 映 射 。进 一 步 讨 论 见Friston,Daunizeau 等人(2010 年)。

5

整合视角:几十年前,哲学家丹尼特哀叹说,认知科学家花费了太多的精力来模拟孤立的子系统(例如,感知、语言理解),这些子系统的边界往往是任意的。他建议尝试为“整个鬣蜥”建模:一个完整的认知生物(也许是一个简单的生物)和一个它需要应对的环境生态位(Dennett 1978)。

主动推理的一个好处是它提供了生物体解决适应性问题的第一原理。本书所追求的规范方法假设可以从变分自由能最小化原理出发,推导出关于特定认知过程的含义,如感知、行动选择、注意力和情绪调节及其神经元基础。

6

这是精神病理学作为信念更新失败的概念的核心。使用像主动推理这样的推理框架的一个好处是,它同时解决了心理障碍的多个方面,将适应不良行为(如强迫或成瘾)和心理层面(如错误信念)和生物层面现象(如神经调质异常)联系在一起

7

这种元贝叶斯推理提供了一个机会,来测试我们假设大脑使用的模型的假设,并根据他们必须持有的行为是贝叶斯最优的先验信念来表型化个体。这种基于信念的计算表现型在新兴的计算心理学、神经心理学和神经病学领域有希望。

8

在广义同步中,联合行为占据了较低的一维空间,而不是较高的二维空间。然而,这个低维空间(同步流形)可以是弯曲的或者具有一些其他形状;这类似于我们在行星表面占据的二维空间,尽管表面被弯曲成三维球体。除了在社会行为中的核心作用,广义同步(占据高维联合空间的低维区域)在生物系统参与推理(内部和外部状态之间的广义同步)的特征描述中非常重要。虽然我们在这里没有足够的空间来展开这个广泛的主题,但推理的角度说明了与自闭症等神经精神综合征相关的广义同步的失败。这种同步不仅在连续时间模型中很重要,在多主体间语言交流的 POMDP 模型中也很重要(Friston,Parr et al.2020)

9

从主动推理的角度来看,精准度和注意力是同义词。前者已被用于在计算机上再现一系列注意现象,包括波斯纳范式 (Feldman 和 Friston 2010)

10

学习模型可以被认为是分层生成模型,它强调快速推理动态(更新关于状态的信念)和慢速学习动态(更新关于参数的信念)之间的时间尺度分离。图

11

用更直观的术语来说,如果我们认为某种观察是非常可能的,我们会采取行动来实现我们会遇到这些的信念。因此,结果的对数概率可以被认为等同于其他形式的效用函数,如最优控制理论和强化学习。信息的效用和价值是预期自由能的两个组成部分,这一事实意味着我们不需要担心探索和利用之间的平衡。两者都用于优化相同的功能

12

由于主动推理是一种规范的方法,它试图从基本原理出发尽可能多地解释行为、认知和神经过程。一贯地,主动推理的设计哲学是自顶向下的。与计算神经科学的许多其他方法不同,挑战不是一点一点地模拟大脑,而是找到描述大脑试图解决的问题的生成模型。一旦问题以生成模型的形式被恰当地形式化,问题的解决方案就会在主动推理下出现——伴随着对大脑和思维的预测。换句话说,生成模型提供了感兴趣的系统的完整描述。由此产生的行为、推理和神经动力学都可以通过最小化自由能从模型中导出。

13

精度是对概率分布的置信度的度量。两者的关系很简单。如果我们对数据是如何从隐藏状态中产生的有非常精确的信念,那么我们对隐藏状态的信念可以通过观察数据来更新,当信念更新表现为神经元放电的变化时,更精确的可能性分布表现为对给定感觉刺激的神经反应增加。这对于从注意力(Parr 和 Friston 2019a) 到多感觉整合(Limanowski 和 Friston 2019)的认知功能至关重要

14

区分原理(即自由能最小化)和关于原理在某种系统中如何实现的可能的过程理论是很重要的,比如大脑。后者让我们发展出可以回答经验数据的假设。

15

16

17

18

19

20

21

22

参考:

智能生命的第一原理

生命主动推理的数学描述

回答薛定谔问题: 生命是什么?自由能公式

强化学习缺陷:如何用贝叶斯从错误中学习-安全及效率

新概率书 Structured Probabilistic Reasoning

用数学范畴定义生命的尝试

神经网络的一个底层结构缺陷

how we learn 第二章 人脑比机器强在哪?(长文)

自由能AI认知框架优点123456

直觉理解变分自由能的目标函数

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-04-10,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 CreateAMind 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档