Mixture Model, 高斯混合模型)被誉为万能分布近似器, 其拥有强悍的数据建模能力....GMM使用若干个高斯分布的加权和作为对观测数据集进行建模的基础分布, 而由中心极限定理我们知道, 大量独立同分布的随机变量的均值在做适当标准化之后会依分布收敛于高斯分布, 这使得高斯分布具有普适性的建模能力...本文组织如下:
阐述一个不完全数据的问题实例;
使用GMM模型对不完全数据的分布进行建模;
使用EM算法对带隐变量的模型进行参数估计;
使用EM算法对GMM模型进行求解的具体过程;
求解不完全数据问题实例的概率分布...;
阐述k-means算法与GMM模型的关系;
总结
关键词: 高斯混合模型, EM算法, 概率图模型, 机器学习
不完全数据的问题实例
假设我们有数据集
?...对于这种含有隐变量的不完全数据, 我们该如何来对其分布进行建模呢? 答案便是GMM模型.
GMM模型对不完全数据的分布进行建模
GMM模型使用K个高斯分布的加权和作为其概率密度函数, 具体地
?