贝叶斯定理证明:直觉未必正确

直觉是否是第六感,尚且不得而知,仿佛是灵机一动,又或者突然有所感,但从深层次去分析,或许还是来自生活的经验。这些经验未必是自己亲身体验,多数还是道听途说,又或者是被看似真实实则虚假的数据欺骗了。一个例子让数学定理如何证明直觉之虚妄。

让我们先来看看生活中的一个小例子。假设有某种疾病D,在10000人中会有1人患此病;又假设对患此病的人进行测试,测试为阳性的比例达到99%,也就是说100名患者中,有99名患者检测结果皆为阳性(positive)。问题:

在检测为阳性的情况下,某一个人确定患该病的概率是多少?

不用仔细思考,先用自己的直觉判断,概率高还是低?再结合数据认真思考,你得到的概率值会是多少呢?我想,或许绝大部分人的第一反应是:在检测为阳性的情况下,基本就可以确诊身患D病了。再结合前面给出的数据进行运算,会非常容易地得到答案为99%。这是显而易见的吧,100名患者99名都检测为阳性,那么,——不是反之亦然么?

显然,直觉欺骗了我们。上述数据营造了一种假象,让我们忽略了未患D病的人检测为阳性所占的比例。

让我们把数据增大,假设有一百万人。在这个基数下,患D病的人有100人。在这100人中,检测为阳性的人为99人。现在考虑未患D病的人数,一百万减去一百,得到的人数为999900。根据检测阳性的比例,检测这些人时,会有1%的几率会检测为阳性,人数为999900*1%等于9999人。于是,我们可以计算出患D病且检测为阳性的人在所有检测为阳性的人中所占的比例为:99/99+9999,结果才不到1%。

这样结果真让人莫名惊诧了。换言之,我们可以下结论说:当某个人检测为阳性时,断定他(她)患D病的几率仅仅为0.98%。那么说,这样的检测给医生的参考依据几乎可以忽略不计啊!为什么会这样?——从概率学的角度讲,这其实是贝叶斯定理(Bayes's Theorem)的体现。

首先我们将患病的事件记做D,检测为阳性的事件记做T。如果患病的事件没有发生,则称为“Not D”,符号记为:¬D。同理,检测不为阳性的事件可以记为¬T。

如果记D、T都发生的概率为P(D,T),则有公式:

P(D,T) = P(D|T)/P(T)

其中P(D|T)为当T发生时,D发生的概率,这一概率被称之为事件D关于事件T的条件概率(Conditional probability)。由于P(D,T) = P(T,D) = P(T|D)/P(D),因而条件概率的公式可以记为:

P(D|T) = P(D,T)/P(T) = P(T|D)P(D)/P(T)

我们再将事件D拆分为D和¬D,则P(T)可以记为:

P(T) = P(T,D) + P(T,¬D)

这个公式是一个公理,因为在具有D、T两个事件的情况下,P(T)必然只存在两种情况,要么在T发生时,D也发生;要么在T发生时,D没有发生。那么贝叶斯定理就可以记为:

P(D|T) = P(T|D)P(D)/[P(T|D)P(D) + P(T|¬D)(P¬D)]

现在我们可以计算P(D|T),即测试为阳性时,患D病的概率值了。我们已知:

  • P(T|D):当患D病时,检测为阳性的概率为0.99;
  • P(D):10000个人有1个人患D病,则概率为1/10000=0.0001;
  • P(T|¬D):没有患D病时,检测为阳性的概率为1-0.99=0.01;
  • P(¬D):没有患D病的概率为1-0.0001=0.9999。

计算上面的公式,P(D|T)等于0.98%。符合我们前面的分析。然而我们的直觉呢?简直溃败而不成军了。

注:上面所述D与T之间关系乃理想状态,判断一个人是否生病,检测是否阳性、阴性仅仅为其中一个要素。例如当我们再增加一个症状事件S后,同时满足T与S的前提,则D发生的概率值就会显著增加。

原文发布于微信公众号 - 逸言(YiYan_OneWord)

原文发表时间:2015-09-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ArrayZoneYour的专栏

TensorFlow强化学习入门(2)——基于策略的Agents

在本教程系列的(1)中,我演示了如何构建一个agent来在多个选择中选取最有价值的一个。在本文中,我将讲解如何得到一个从现实世界中获取 观测值 ,并作出 长期收...

4536
来自专栏月色的自留地

图像识别基本算法之SURF

1348
来自专栏机器学习算法全栈工程师

fine-gained image classification

我们在路边看到萌犬可爱至极,然后却不知道这个是哪种狗;看见路边的一个野花却不知道叫什么名字,吃着一种瓜,却不知道是甜瓜还是香瓜傻傻分不清……

822
来自专栏专知

【干货】Python机器学习项目实战2——模型选择,超参数调整和评估(附代码)

1392
来自专栏PPV课数据科学社区

【学习】机器学习中的数据清洗与特征处理综述

背景 随着美团交易规模的逐步增大,积累下来的业务数据和交易数据越来越多,这些数据是美团做为一个团购平台最宝贵的财富。通过对这些数据的分析和挖掘,不仅能给美团业务...

2515
来自专栏机器之心

学界 | 一文概览卷积神经网络中的类别不均衡问题

2518
来自专栏机器之心

深度 | SGD过程中的噪声如何帮助避免局部极小值和鞍点?

1845
来自专栏红色石头的机器学习之路

Coursera吴恩达《构建机器学习项目》课程笔记(1)-- 机器学习策略(上)

《Structuring Machine Learning Projects》(构建机器学习项目)这门课是Andrw Ng深度学习专项课程中的第三门课。这门课主...

2080
来自专栏人工智能

在Keras中如何对超参数进行调优?

由于没有一个成熟的理论来解释神经网络,所以配置神经网络通常是困难的,经常被同学们调侃为“炼丹”。

1.1K8
来自专栏机器学习算法全栈工程师

教你用python做文本分类

作者:王千发 编辑:李文臣 什么是文本分类 一个文本分类问题就是将一篇文档归入预先定义的几个类别中的一个或几个。通俗点说,就是拿一篇文章,问计算机这文章要说的究...

5287

扫描关注云+社区