前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >用基础比率重写清晰的贝叶斯公式

用基础比率重写清晰的贝叶斯公式

作者头像
CreateAMind
发布2022-06-10 17:25:03
5920
发布2022-06-10 17:25:03
举报
文章被收录于专栏:CreateAMindCreateAMind

贝叶斯定理是以英国统计学家和哲学家托马斯·贝叶斯(1701-1761)的名字命名的,他正式证明了新的证据可以用来更新信念。法国数学家皮埃尔·西蒙·拉普拉斯(1749-1827)进一步发展了这种形式主义,他在1812年的《概率分析》中首次发表了贝叶斯定理的传统表述。(9.4):

贝叶斯定理的传统表述:

利用贝叶斯定理,可以从条件p(y|x)计算出逆条件p(x|y)。然而,贝叶斯定理的这种传统表达隐藏了一些与基础利率相关的微妙之处,如下所述。那些有基本的

有概率论知识,但不熟悉贝叶斯定理的人,在第一次面对它时,很容易产生困惑。

假设例如购买中奖概率低的彩票的情况,表示为条件概率p(y|x)= 0.001,其中状态为x:“购买的彩票”和y:“中奖”。进一步假设你实际上买了一张票,这样p(x)= 1.0,实际中奖了,这样p(y)= 1.0。贝叶斯定理的一个直观但错误的解释是p(x|y)= (0.001 × 1.0)/1.0 = 0.001,也就是说,在中奖的情况下购买彩票的概率只有0.001,这显然是错误的。显而易见的正确答案是,如果你中奖了,那么你肯定买了一张票,用p(x|y)= 1.0表示。

熟悉贝叶斯定理的人都知道p(x)和p(y)是底数率(先验概率),但这通常不会在教科书中解释。只有当实际例子出现时,人们才明白,贝叶斯定理需要x和y的基本概率(先验),而不是x和y的依赖于情况的概率

为了避免x的基本速率和x的概率之间的混淆,我们使用术语a(x)来表示x的基本速率。类似地,术语a(y)表示y的基本速率。使用这种约定,贝叶斯定理可以更加形式化

直观地说,如定理9.1所示。

定理9.1(带基本利率的贝叶斯定理)。

证明。形式上,条件概率定义如下:

条件句表示语句之间的一般依赖关系,所以等式右边的p(x/\y)和p(x)项。(9.6)必须表示一般的先验概率,而不是例如特定目标的概率

服务。如第2.6节所述,一般先验概率与基本概率相同。因此,更明确的版本方程。(9.6)可以表示为

贝叶斯定理可以很容易地从方程的条件概率的定义中推导出来。(9.7)用基本利率表示p(y|x)和p(x|y)的条件概率:

然而,方程形式的贝叶斯定理。(9.5)隐藏了基本速率a(y)是边际基本速率(MBR)的事实,边际基本速率必须表示为基本速率a(x)的函数[56]。这个要求在定理9.2中实现。

(9.4)是不必要的模糊,因为它没有区分基本率(先验)和概率(后验),也因为它没有表明x和y的基本率是依赖的。贝叶斯定理的MBR用公式(9.9)通过将y的MBR表示为基本速率a(x)的函数来纠正这个问题。

让我们再来看一下彩票的例子,其中购买彩票中奖的概率是p(y|x)= 0.001,直觉告诉我们已经购买彩票中奖的概率必须是p(x|y)= 1。我们假设给定无票中奖概率为零,用p(y|x)= 0表示。正确的答案直接出现在Eq中。(9.9),表示为

事实上,无论是中奖的基本比率,还是买了票的基本比率,对结果都没有任何影响,因为在没有票的情况下,中奖的概率总是零。

参考:

AGI基础,不确定性推理,主观逻辑一书ppt1

智能生命的第一原理

生命主动推理的数学描述

回答薛定谔问题: 生命是什么?自由能公式

视觉意识的主动推理模型

强化学习缺陷:如何用贝叶斯从错误中学习-安全及效率

短期记忆容量必需有限

新概率书 Structured Probabilistic Reasoning

用数学范畴定义生命的尝试

意识的数学物理分析

神经网络的一个底层结构缺陷

通用智能框架part2

how we learn 第二章 人脑比机器强在哪?(长文)

自由能AI认知框架优点123456

直觉理解变分自由能的目标函数

自由能一书金句摘录及图表

通用智能框架 part1

如何从科学模型角度看待自由能原理框架?

自由能生成模型数学整理1

2200星的开源SciML

AGI基础,不确定性推理,主观逻辑一书ppt2

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-05-16,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 CreateAMind 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 定理9.1(带基本利率的贝叶斯定理)。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档