专栏首页machine_learning似然与概率的异同

似然与概率的异同

1. 极大似然估计

假设有一枚硬币,我们想确定这枚硬币是否质地均匀。即想知道抛这枚硬币,正反面出现的概率各是多少?于是我们将这枚硬币抛了10次,得到的数据x0是:反正正正正反正正正反。我们想求的正面概率θ是模型参数,而抛硬币模型可以假设服从二项分布。

那么,出现实验结果x0(反正正正正反正正正反)的似然函数是多少呢?

而极大似然估计,顾名思义,就是要最大化这个函数。

我们可以画出f(θ)的图像:

从图像中可以观察到,θ=0.7时,函数取值最大。也就是说,我们通过最大化似然函数后,得到了模型参数的值,相应的,正反面出现的概率也就求出了。

极大似然估计需要保证所有的采样都是独立同分布的。

2. 容易混淆的概念

  • 极大似然估计就是最大似然估计。
  • 极大似然概率这个名词描述是不准确的,笔者查阅了整个英文互联网,都没有找到 ‘Maximum likelihood probability’这个词。所以,不存在“极大似然概率”这个说法。

3. 最大后验概率

与极大似然估计相比,使用最大后验概率估计θ时,首先认为θ本身存在一个分布,即θ有先验分布。

还是以判断一枚硬币是否质地均匀为例。假设正面概率θ满足均值为0.5,方差为1的先验分布,即:

那么,将这枚硬币抛了10次,得到的数据x0是:反正正正正反正正正反。

因为考虑了先验分布,所以实验结果x0的函数可以表示为:

因此,我们可以通过最大化这个后验概率函数求得θ,我们可以画出f(θ)的图像:

计算得到θ = 0.696。也就是说,采用最大后验概率计算得到硬币正面朝上的概率为0.696。

4. 似然与概率分别指的什么

似然: 英文单词为likelihood,有道翻译的翻译结果为:十有八九。

概率: 如果我有一枚质地均匀的硬币,那么它出现正面朝上的概率是0.5。

似然: 如果我抛一枚硬币100次,正面朝上52次,那么它十有八九是质地均匀的。

再举一个例子加深理解。 假设有人向我挑战一个“有利可图的赌博游戏”。

概率: 帮助我们计算预期的收益和损失(平均值、众数、中值、方差、信息比率、风险值、赌徒破产等等)。

似然: 帮助我们量化是否首先应该相信那些概率。

实际上,似然几乎可以等价于置信度。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 词嵌入技术解析(一)

    在讨论词嵌入之前,先要理解词向量的表达形式,注意,这里的词向量不是指Word2Vec。关于词向量的表达,现阶段采用的主要有One hot representat...

    Bo_hemian
  • pandas:apply和transform方法的性能比较

    都能针对dataframe完成特征的计算,并且常常与groupby()方法一起使用。

    Bo_hemian
  • pandas:解决groupby().apply()方法打印两次

    对于以下dataframe执行dataframe.groupby(['name', 'course']).apply(lambda x: test(x)) 操作

    Bo_hemian
  • NIO复习(2):channel

    上篇学习了NIO的buffer,继续来学习channel,类图如下(注:为了不让图看起来太复杂,隐藏了一些中间的接口)

    菩提树下的杨过
  • 高性能NIO框架Netty-对象传输

    上篇文章高性能NIO框架Netty入门篇我们对Netty做了一个简单的介绍,并且写了一个入门的Demo,客户端往服务端发送一个字符串的消息,服务端回复一个字符串...

    猿天地
  • 常用rsync命令操作梳理

    作为一个运维工程师,经常可能会面对几十台、几百台甚至上千台服务器,除了批量操作外,环境同步、数据同步也是必不可少的技能。 说到“同步”,不得不提的利器就是rsy...

    洗尽了浮华
  • 前端javascript如何阻止按下退格键页面回退 但 不阻止文本框使用退格键删除文本

    这种写法虽然屏蔽了回车键页面回退的功能,但同样,如果该页面有文本输入框,那么这个输入框将不能使用 退格键 进行文本删除;

    CherishTheYouth
  • Golang语言--闭包和普通函数调用区别

    代码: ? 运行这段程序,输出结果为 1 2 3 3 2 1 这里就是普通的函数调用,每次调用func p时,完成 i 的值复制,然后打印,此时 i 值复制了3...

    李海彬
  • Java 中到底是应该用接口类型 还是实现类的类类型去引用对象?

    如题,Java 中到底是应该用接口类型 还是实现类的类类型去引用对象?首先贴出答案:

    浩Coding
  • 性能优于ReLU,斯坦福用周期激活函数构建隐式神经表示,Hinton点赞

    这个非线性激活函数效果比 ReLU 还好?近日,斯坦福大学的一项研究《Implicit Neural Representations with Periodic...

    机器之心

扫码关注云+社区

领取腾讯云代金券