专栏首页华章科技什么是贝叶斯定理?有什么用?终于有人讲明白了

什么是贝叶斯定理?有什么用?终于有人讲明白了

导读:本文为大家详细介绍概念学习中常见的贝叶斯理论。通过一个简单示例,了解概率的基本定理之一。

作者:Jaime Zornoza

翻译:李洁

来源:数据派THU(ID:DatapiTHU)

本文需要你有一些概率和统计的基本知识。如果你没有,别怕,我已经收集了一系列我能找到的最好的资源来为你介绍这些主题,以便你阅读,理解和充分享受文章内容。

在这篇文章中,我们将讨论概率论中最著名和最常用的定理之一:贝叶斯定理。从未听说过吗? 那你就有福了!已经了解了吗?那就继续读下去,用一个简单例子来巩固你的知识,以便你也可以用简单的术语向别人解释。

在以后的文章中,我们将学习一些更实用的贝叶斯定理的简化,以及其他机器学习的概率方法,例如隐马尔可夫模型。

我们开始吧!

01 概率介绍

在本节中,我列出了三个非常棒的简洁的资源(主要是前两个,第三个更广泛一点),以提供理解本文所需要了解的概率基础。不用担心,这些概念非常简单,只要快速阅读一下你就肯定能完全理解它们。

如果你已经掌握了基本概率论,可以跳过此部分。

  • 带有简明定义的中等难度的文章:内容涵盖了理解这篇文章所需要的主要的概率论术语和其他的一些说明性的简单例子。 https://medium.com/@laumannfelix/statistics-probability-fundamentals-1-1325ef72f3f
  • 有趣的机器学习中的概率简介:主要通过一个神秘但简单的示例介绍了概率的主要术语。 http://www.mbmlbook.com/MurderMystery.html
  • 哈佛大学的统计110课程:如果你不仅想学习基础知识,还想更深入地了解统计的美好世界,这里有更丰富的资源。 https://projects.iq.harvard.edu/stat110/home

好了,现在你可以继续读剩下的内容了,坐下来,放松并享受吧。

02 贝叶斯定理

谁是贝叶斯?

托马斯·贝叶斯(Thomas Bayes,1701年-1761年)是英国神学家、数学家,皇家学会(世界上最古老的国家科学学会,也是英国促进科学研究的领先国家组织)会员。其他的科学家也加入了皇家学会, 例如牛顿,达尔文和法拉第。他提出了最重要的概率定理之一,并以他的名字命名:贝叶斯定理,或条件概率定理。

▲尊敬的托马斯·贝叶斯的画像,贝叶斯定理之父

03 定理:条件概率

为了解释这个定理,我们将举一个非常简单的例子。假设你被诊断出患有非常罕见的疾病,这种病患的比例仅是人口的0.1%,即每千人中有1人。

你参加的检查这种疾病的检测能正确地找出99%的患者,将健康的人错误分类的几率只有1%。

真是命中注定!医生,这种病会致命吗?

大多数人都会这么问。然而,在这次测试之后,我们真正患这种疾病的几率有多大呢?99%!可以开始整理我的遗物了。

基于这种想法,贝叶斯思想应该占上风,因为它实际上离真实值非常遥远。让我们用贝叶斯定理来获得一些观点。

贝叶斯定理,或之前所说的条件概率定理,是用来计算某一事件(E)已经发生(例如在测试中被诊断为阳性)时假设(H)为真的概率。计算公式如下:

▲贝叶斯的条件概率公式

等号左边的P(H|E)项是已经在疾病测试中诊断为阳性(E)的条件下患病(H)的概率,这是我们实际想要计算的。概率项中的竖线(|)表示条件概率(即, B的条件下A的概率表示为P(A|B))。

假如假设为真,则右边分子的左项P(E|H)是事件的概率。在示例中,就是我们患有这种疾病的情况下,在测试中被诊断为阳性的可能性。

旁边的P(H)项是在任何事件发生之前假设的先验概率。这是在进行任何检查之前患上疾病的可能性。

最后,分母上的P(E)项是事件的概率,即被诊断为疾病阳性的概率。该项可以进一步分解为两个较小项的和:患病且检测为阳性和不患病且检测为阳性。

▲解构了测试结果为阳性的概率

在这个公式中,P(〜H)表示没有疾病的先验概率,其中〜表示否定。 下图描述了条件概率的整体计算中涉及的每一项:

▲描述贝叶斯定理公式所涉及的每一项

对于我们来说,请记住,假设H患有疾病,事件E为在此类疾病的测试中被诊断为阳性。

如果使用我们见过的第一个公式(用于计算患病并被诊断为阳性的条件概率的完整公式),分解分母并插入数字,我们将得到以下算式:

▲条件概率的计算

0.99来自于有疾病被诊断出阳性的概率99%,0.001是患病的几率1/1000,0.999是未患病的概率,0.01是即使没有患病也被诊断为阳性的可能性。计算的最终结果是:

▲计算结果

9%!我们得这种病的几率只有9%!“这怎么可能呢?”你可能在问自己。魔法吗?不,我的朋友们,这不是魔法,这只是概率:应用数学的常识。

像丹尼尔·卡尼曼(Daniel Kahneman)在《思考,快与慢》中所描述的那样,人的大脑很难估计和计算概率,就像前面的示例所展示的一样,所以我们应该警惕直觉的惯性思考,后退一步,使用所能用的概率工具。

现在想象一下,在第一次测试被诊断为阳性后,我们决定在另一个不同的诊所做另一次相同条件的测试来复查结果,不幸的是我们再次得到了阳性的诊断,这说明第二次测试也表明我们患有这种疾病。

现在患病的实际概率是多少?我们可以使用与之前完全相同的公式,只是将最初的先验概率(患病几率为0.1%)替换为之前的后验概率(在一次检测中被诊断为阳性的几率为9%),以及其他项。

如果我们处理得到的数字:

▲计算第二次检验为阳性后的条件概率

▲第二次检验为阳性的结果

现在我们实际患此病的几率变高了,为91%。尽管情况看起来很糟糕,但在两次检测呈阳性后,我们仍然不能完全确定我们是否患有这种疾病。确定性似乎不存在于概率的世界。

04 定理背后的事实

这个著名定理背后的事实是,我们永远不可能完全确定这个世界,因为它是一个不断变化的存在,变化是现实的本质。然而,我们可以做的是,就像这个定理所表达的,随着我们获得越来越多的数据或证据,我们对现实的认识有了更新和提高。

这可以用一个非常简单的例子来说明。想象一下这样的情景:你在一个方形的花园边缘,坐在椅子上,朝花园外看。在对面,躺着一个仆人,他把一个蓝色的球扔进了广场。在那之后,他不断地把其他黄色的球扔进正方形,并告诉你它们相对于最初的蓝球的位置。

随着越来越多的黄球落地,并且你知道它们相对于第一个蓝球的落地位置,逐渐增多了对蓝球的可能位置的了解,而排除了花园的某些部分:随着我们获得更多证据(更多的黄球)我们更新了知识(蓝球的位置)。

在上面的示例中,仅抛出了三个黄球,我们已经可以开始确定某个想法,即蓝球位于花园左上角的某个位置。

当贝叶斯第一次提出该定理时,他并没有一开始就发表它,他认为这没有什么特别的,这个定理所在的论文是在他死后发现的。

如今,贝叶斯定理不仅是现代概率的基础之一,还在智能系统中使用繁多,例如垃圾邮件过滤器、文本处理,甚至于与文本处理无关的场景。

就这些,我希望你喜欢这个帖子。你可以在LinkedIn上和我联系,或者在Twitter上关注我@jaimezorno。另外,你也可以看看我其他关于数据科学和机器学习的文章。祝你阅读愉快!

原文标题:Probability Learning I: Bayes' Theorem

原文链接:

https://www.kdnuggets.com/2019/10/probability-learning-bayes-theorem.html

关于译者:李洁,中国香港科技大学电信学硕士毕业生,现任北京师范大学中国香港浸会大学联合学院 数据科学系助教。喜欢数据科学,喜欢阅读,喜欢研究代码和做手工。希望一直保持学习的状态和对生活的热爱,每天都快乐而有进步~

有话要说?

Q: 你在哪些案例中应用了贝叶斯定理?

欢迎留言与大家分享

觉得不错,请把这篇文章分享给你的朋友

转载 / 投稿请联系:baiyu@hzbook.com

本文分享自微信公众号 - 大数据(hzdashuju)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-11-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 工信部最新印发AI三年行动计划,包含了这些重点(附全文)

    《行动计划》将充分利用现有资源和手段,加强部省联动,依托国家新型工业化产业示范基地建设等工作,支持有条件的地区发挥自身资源优势,培育一批人工智能领军企业,探索建...

    华章科技
  • 前瞻产业研究院:2019年人工智能行业现状与发展趋势报告

    前瞻产业研究院结合人工智能行业的产业链结构、市场发展现状、投资情况及典型案例,对人工智能行业的发展前景和趋势做出前瞻性分析,并发布《2019年人工智能行业现状与...

    华章科技
  • 2分钟读懂大数据框架Hadoop和Spark的异同

    谈到大数据,相信大家对 Hadoop 和 Apache Spark 这两个名字并不陌生。但我们往往对它们的理解只是提留在字面上,并没有对它们进行深入的思考,下面...

    华章科技
  • 独家 | 一文读懂概率论学习:贝叶斯理论(附链接)

    在这篇文章中,我们将讨论概率论中最著名和最常用的定理之一:贝叶斯定理。从未听说过吗? 那你就有福了! 已经了解了吗? 那就继续读下去,用一个简单例子来巩固你的知...

    数据派THU
  • 图解 贝叶斯分类器

    在 B 出现的前提下 A 出现的概率,等于 A 和 B 都出现的概率除以 B 出现的概率。

    杨熹
  • 别和我谈理想,我要的是钱!

    多年前的同事小刘,刚刚在入职半年的公司里发起了牢骚和抱怨,觉得公司领导能力很差,产品很烂,呆着没有前途,于是又有了蠢蠢欲动跳槽的想法,算起来,这已经是他第五次跳...

    良月柒
  • WordPress博客PHP7.1与7.2性能对比

    去年就已经使用PHP7版本了,那时就说PHP7比老版本快了很多很多,在今年,又分别出了7.1和7.2版本,从 wordpress 4.9.3 开始,该版本修复了...

    爱游博客
  • 2018·JS“年鉴”:ES6锋芒依旧,React和Express成为前、后端最受欢迎框架

    JavaScript可以说是世界上最流行的脚本语言之一了,它是一种运行在浏览器中的解释型的编程语言。在我们的电脑、手机、平板上浏览的所有的网页,以及无数基于HT...

    新智元
  • 多写引发的思考

    如果是3个Master,采用2PC保证一致性,单个Master故障,会导致不可写。如果正提交的是一个大数据,会造成较大影响。实际上,这个时候可以允许提交,在故障...

    一见
  • 业界 | 现代「罗塞塔石碑」:微软提出深度学习框架的通用语言

    选自arXiv 作者:Ilia Karmanov等 机器之心编译 参与:路雪、刘晓坤、白妤昕 深度学习框架就像语言一样:很多人会说英语,但每种语言都有自己的特殊...

    机器之心

扫码关注云+社区

领取腾讯云代金券

玩转腾讯云 有奖征文活动