算法在二元正态分布上的参数估计的应用,混合高斯分布参数估计方面的应用,以及EM算法在隐马尔科夫模型上参数的应用(一种EM算法的特殊情形),希望通过这一系列的文章可以让大家理解好EM算法的明显优势以及原理...,贝叶斯是分为两种的大类的,一种是拥有显式的后验分布,这样的一般用于简单的似然函数,另外一种是数据添加的算法,有些时候我们的数据可能会存在缺失或者是似然函数不是显性的,数据添加类在这时候就可以很好的应用...但是不可避免EM算法也有一些缺点:
1:在缺失数据较多的情形,收敛的速度较慢.
2:对于某些情况下,要计算算法中的M步,即完成对似然函数的估计是非常困难的
3:在某些情况下是要获得EM算法中的E步的期望显式是非常困难或者不可能的...现在我们假设在第i+1次的迭代中,有估计值0(i),则可以通过EM算法中的E步和M步得到一个新的估计,在E步中:
因为在x和0(i)给定的情况下,Y服从二项式分布,因此可以得到E(Y|X,0(i))=...这里我不加证明的给出,得到的收敛性结论主要是针对对数似然函数值给出的,而不是针对的估计序列的收敛性;而且在一般的情况下,我们用EM算法得到的估计值0(k),只能保证收敛到似然函数的一个稳定点,并不能其保证收敛到全局最大值点或者局部最大值点