这份资料看了好几遍了,终于有点知识框架了,总结一下,方便以后查看。
一、概率图模型(PGM)引入:
在实际应用中,变量之间往往存在很多的独立性假设或近似独立,随机变量与随机变量之间存在极少数的关联。PGM根据变量之间的独立性假设,为我们提供了解决这类问题的机制,PGM是以概率论以及图论为基础,通过图的结构将概率模型可视化,让我们能够了解到复杂分布中的变量之间的关系,也把概率上的复杂计算过程理解为在图上进行信息传递的过程,所以不必要过多的在意复杂的表达式计算。
二、PGM体系框架
三、生成模型与判别模型
今天先记录生成模型与判别模型,下次博客正式进入PGM。
1、概率模型是利用训练样本数据,通过学习条件概率分布P(X|Y)来进行推断决策,而非概率模型是通过学习得到决策函数Y=f(X)来进行决策。
2、生成模型的目标是求联合概率分布P(X,Y),然后由条件公式求取条件概率分布P(X|Y)。即P(X|Y) = P(X,Y) / P(X)。
3、判别模型是由训练数据直接求取决策函数Y=f(x)或者条件分布P(X|Y)。它并不需要关心X与Y之间的生成关系,它关心的是对于给定输入X应该得到怎么样的输出Y。
4、机器学习大部分模型都是判别模型,判别模型得到条件概率或者决策函数直接用于预测,准确率会更高;而生成模型用于数据预测,所以它的应用领域会更加广泛。
四、进入图
感觉一次也不要总结太多,一下消化不了,预告一次博客的精彩内容