专栏首页杨熹的专栏图解 贝叶斯分类器

图解 贝叶斯分类器

本文知识点:

  1. 贝叶斯公式
  2. 一般化的贝叶斯公式
  3. 朴素贝叶斯算法:用到链式法则,条件独立
  4. 朴素贝叶斯分类器(Naïve Bayes Classifier)的预测过程

贝叶斯公式:

在 B 出现的前提下 A 出现的概率,等于 A 和 B 都出现的概率除以 B 出现的概率。

例如:

我们假设:目前的全集是一个小学的小学一年级学生。 这个小学一年级一共100人,其中有男生30人。 穿白袜子的人数一共有20个,这20个人里面,有5个是男生。 那么请问,男生里面穿白袜子的人的出现概率为多少?

结果为 5/30=1/6

如果不知道人数,而是概率:

这个小学一年级学生里面,男生的出现概率是 0.3 —— P(B); 穿白袜子的人的出现概率是0.2 —— P(A); 穿白袜子的人是男生这件事出现的概率是0.25 —— P(B|A)。 请问你,一个人是男生又穿白袜子的出现概率 —— P(A|B)是多少?

这时由贝叶斯公式知:

P(A|B)=1/6


一般化的贝叶斯公式

当 A 本身又包含多种可能性时:

公式为:

某 AI 公司招聘工程师,来了8名应聘者,这8个人里,有5个人是985院校毕业的,另外3人不是。 面试官拿出一道算法题准备考察他们。根据以前的面试经验,面试官知道:985毕业生做对这道题的概率是80%,非985毕业生做对率只有30%。 现在,面试管从8个人里随手指了一个人——小甲,让 TA 出来做题。结果小甲做对了,那么请问,小甲是985院校毕业的概率是多大?

结果:小甲是985毕业的概率是81.6%

朴素贝叶斯算法

B 的因素有 n 个,分别是 b1,b2……bn时

可以写为:

对于求解

最关键的是

根据链式法则,可得:

每个特征 bi 与其他特征都不相关 就有:


朴素贝叶斯分类器(Naïve Bayes Classifier)

朴素贝叶斯分类器的模型函数:

F 是特征(Feature),而 A 则是最终的类别(Class)

预测过程:

  1. 计算所有条件概率
  2. 计算每个类别对应的模型函数的值
  3. 比较x在哪个类别的概率大

对应的类别就是预测值。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 用 LSTM 做时间序列预测的一个小例子

    问题:航班乘客预测 数据:1949 到 1960 一共 12 年,每年 12 个月的数据,一共 144 个数据,单位是 1000 下载地址 目标:预测国际...

    杨熹
  • 机器学习算法应用中常用技巧-2

    7. 降维-PCA n_components为降到多少维,用原数据fit后,再用transform转换成降维后的数据。 from sklearn.decompo...

    杨熹
  • 创业成败5要素,排第一的竟是时机

    创业公司成功的最大要素 是什么因素关系着公司的成与败。 根据直觉上的思考顺序,有下面这五大要素: 创意 团队执行力 商业模式 资金 时机 但是在这五大要素中,...

    杨熹
  • 什么是贝叶斯定理?有什么用?终于有人讲明白了

    导读:本文为大家详细介绍概念学习中常见的贝叶斯理论。通过一个简单示例,了解概率的基本定理之一。

    华章科技
  • 独家 | 一文读懂概率论学习:贝叶斯理论(附链接)

    在这篇文章中,我们将讨论概率论中最著名和最常用的定理之一:贝叶斯定理。从未听说过吗? 那你就有福了! 已经了解了吗? 那就继续读下去,用一个简单例子来巩固你的知...

    数据派THU
  • Python开发中的cookie 学习

    cookie :是用户保存在用户浏览器端的一对键值对,是为了解决http的无状态连接。服务端是可以把 cookie写到用户浏览器上...

    用户2398817
  • make 命令【转】

    转自:https://www.ibm.com/support/knowledgecenter/zh/ssw_aix_71/com.ibm.aix.cmds3/m...

    用户3033338
  • A Simple Scene Animated with CSS3

    A Simple Scene Animated with CSS3 (requires Chrome, Safari, Firefox 5+, or IE10 ...

    练小习
  • 前端项目性能优化笔记

    饱暖思淫欲,当我们完成基本的业务需求之后,我们就需要去思考一下如何是我们的业务更加的流畅、代码更健壮等等,以下是我在项目中做的一些基本的项目优化工作,小小记录一...

    木子墨
  • 别和我谈理想,我要的是钱!

    多年前的同事小刘,刚刚在入职半年的公司里发起了牢骚和抱怨,觉得公司领导能力很差,产品很烂,呆着没有前途,于是又有了蠢蠢欲动跳槽的想法,算起来,这已经是他第五次跳...

    良月柒

扫码关注云+社区

领取腾讯云代金券