专栏首页闪电gogogo的专栏《统计学习方法》笔记九 EM算法及其推广

《统计学习方法》笔记九 EM算法及其推广

本系列笔记内容参考来源为李航《统计学习方法》

EM算法是一种迭代算法,用于含有隐变量的概率模型参数的极大似然估计或极大后验概率估计。迭代由

(1)E步:求期望

(2)M步:求极大

组成,称为期望极大算法。

EM算法引入

EM算法是通过不断求解下界的极大化逼近求解对数似然函数极大化的算法。

EM在监督学习中的应用

收敛性

EM算法在高斯混合模型学习中的应用

高斯混合模型

高斯混合模型参数估计的EM算法

EM算法的推广

EM算法还可解释为F函数的极大-极大算法,基于这个解释有若干变形与推广。

首先引入F函数的概念

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 《统计学习方法》笔记六(2) 最大熵模型

    首先考虑模型应满足的条件,给定训练数据集,可确定联合分布P(X,Y)的经验分布和边缘分布P(X)的经验分布

    闪电gogogo
  • 压缩感知“Hello World”代码初步学习

    压缩感知代码初学 实现:1-D信号压缩传感的实现 算法:正交匹配追踪法OMP(Orthogonal Matching Pursuit)   》几个初学问题 ? ...

    闪电gogogo
  • 浅读K-means

    百度百科释义为   K-means算法是硬聚类算法,是典型的基于原型的目标函数聚类方法的代表,它是数据点到原型的某种距离作为优化的目标函数,利用函数求极值的方法...

    闪电gogogo
  • 客户端基本不用的算法系列:矩阵的递推关系分析

    数字是我们在编程中最常接触的元数据。无论是在业务还是刷题,多半部分都是数字的运算,其次是字符串,再次是布尔。

    用户2932962
  • 《大话脑成像》系列之十一:浅谈广义线性模型(--设计矩阵和对比矩阵)

    咳咳,这篇短文继续讲统计。(老实说,下面的内容比较严肃与难懂,如果你觉得实在太晦涩,建议放弃吧,我们之间是不可能的) 学过统计的都知道,统计方法...

    用户1279583
  • 论文算法复现 | 推荐系统之基于Item Co-occurrence矩阵分解的原理及实现

    传统的推荐系统使用用户-项目匹配矩阵来预测用户对项目的兴趣程度,矩阵如上图所示,推荐算法的实现过程可以看作是填补矩阵中缺失值的过程。

    用户1621951
  • 矩阵的基本知识构造重复矩阵的方法——repmat(xxx,xxx,xxx)构造器的构造方法单位数组的构造方法指定公差的等差数列指定项数的等差数列指定项数的lg等差数列sub2ind()从矩阵索引==》

    要开始学Matlab了,不然就完不成任务了 java中有一句话叫作:万物皆对象 在matlab我想到一句话:万物皆矩阵 矩阵就是Java中的数组 ...

    用户1174983
  • 【每日一题】1445: [蓝桥杯][历届试题]最大子阵

    节日快乐,筒子们! 不过小编还是给大家准备了每日一题! 2333 题目描述 给定一个n*m的矩阵A,求A中的一个非空子矩阵,使这个子矩阵中的元素和最大。 其...

    编程范 源代码公司
  • 相关系数图矩阵

    今天要跟大家分享的是相关系数图矩阵! 相关系数矩阵大家肯定都不陌生吧,作为识别变量之间的关系以及共线性程度,会在很多数据环境下用到。 但是相关系数矩阵毕竟全是数...

    数据小磨坊
  • 异常检测算法在审计智能化的应用

    引用MBA智库百科的原文:内部审计,是建立于组织内部、服务于管理部门的一种独立的检查、监督和评价活动,它既可用于对内部牵制制度的充分性和有效性进行检查、监督和评...

    凯哥

扫码关注云+社区

领取腾讯云代金券