前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >最大似然函数最大似然原理小结:最大似然估计法的一般步骤:例子:

最大似然函数最大似然原理小结:最大似然估计法的一般步骤:例子:

作者头像
用户1733462
发布2018-06-07 15:03:44
20.2K0
发布2018-06-07 15:03:44
举报
文章被收录于专栏:数据处理数据处理

极大似然估计法是基于极大似然原理提出的,为了说明极大似然原理,我们先看个例子

例子: 1、某同学与一位猎人一起外出打猎。忽然,一只野兔从前方窜过,只听一声枪响,野兔应声倒下,若你推测一下,是谁击中了野兔,你会怎样想 2、有一时间A,我们知道它发生的概率p只可能是:

                            p=0.1,0.3或0.6

若在一次观测中,事件A发生了,试让你推想一下p取何值

最大似然原理

概率大的事件在一次观测中更容易发生; 在一次观测中发生了的事件其概率应该大

(1)若总体X属于离散型,其分布律

的形式为已知,θ为待估参数,Θ是θ可能取值的范围。

X1,...,Xn是来自X的样本;则X1,...,Xn的联合函数

又设x1,...,xnX1,...,Xn的一个样本值,易知样本X1,...,Xnx1,...,xn的概率,亦即事件{X1=x1,...,Xn=xn}发生的概率为:

它是θ的函数,L(θ)称为样本的似然函数。

由极大似然估计法:x1,...,xn;挑选使概率L(x1,...,xn;θ)达到最大的参数,作为θ的估计值即取

使得

&\hatθ与x1,...,xn有关,记为

称其为参数θ的最大似然估计值

称为参数θ的最大似然估计量

(2)若总体X属连续型,其概率密度

的形式已知,θ为待估参数

则X1,...,Xn的联合密度

的最大值,这里L(θ)称为样本的似然函数,若

则称

为θ的最大似然估计值,称

为θ的最大似然估计值

一般,p(x;θ),f(x;θ)关于θ可微,故θ可由下式求得

又因L与lnL在同一θ处取到极值,因此最大似然估计θ也可从下述方程解得:

若总体分布中包含多参数,即可令

解k个方程组求的θ的最大似然估计值

小结:最大似然估计法的一般步骤:

  • **写似然函数L **
  • 取对数
  • 求导数,得驻点,最大值点
  • 作结论

例子:

设总体X服从参数为\lamda的指数分布,(x1,x2,...,xn)为样本观察值,求\lamda的最大似然估计值 解:总体X的概率密度函数为:

设总体X分布律为:

求参数p的最大似然估计量

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017.07.10 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 最大似然原理
    • (1)若总体X属于离散型,其分布律
      • (2)若总体X属连续型,其概率密度
      • 小结:最大似然估计法的一般步骤:
      • 例子:
      领券
      问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档