机器学习数学笔记|极大似然估计

极大似然估计

• 假设 D 是样本集合,A 是参数集合,我们在 D 样本集固定的情况下,A 取何值时,P(A|D)能取到最大.

• 我们现在的主要目的是求 1 式的最大值,其中 1 式通过贝叶斯公式能转换为 2 式的形式,其中 2 式的分母相同,我们只需要考虑分子即可--即 3 式,又因为

近似相等.所以我们可以将 3 式中

去掉,直接考虑 4 式的最大值.

• 最后我们得到 5 式,这相当于是一种颠倒原因结果的式子.

定义

二项分布中的极大似然估计

高斯分布中的极大似然估计

参考资料

[1]

课程传送门: http://www.julyedu.com/video/play/38