深度学习知识框架--概率图模型

这份资料看了好几遍了，终于有点知识框架了，总结一下，方便以后查看。

一、概率图模型（PGM）引入：

在实际应用中，变量之间往往存在很多的独立性假设或近似独立，随机变量与随机变量之间存在极少数的关联。PGM根据变量之间的独立性假设，为我们提供了解决这类问题的机制，PGM是以概率论以及图论为基础，通过图的结构将概率模型可视化，让我们能够了解到复杂分布中的变量之间的关系，也把概率上的复杂计算过程理解为在图上进行信息传递的过程，所以不必要过多的在意复杂的表达式计算。

二、PGM体系框架

三、生成模型与判别模型

今天先记录生成模型与判别模型，下次博客正式进入PGM。

1、概率模型是利用训练样本数据，通过学习条件概率分布P(X|Y)来进行推断决策，而非概率模型是通过学习得到决策函数Y=f(X)来进行决策。

2、生成模型的目标是求联合概率分布P(X,Y)，然后由条件公式求取条件概率分布P(X|Y)。即P(X|Y) = P(X,Y) / P(X)。

3、判别模型是由训练数据直接求取决策函数Y=f(x)或者条件分布P(X|Y)。它并不需要关心X与Y之间的生成关系，它关心的是对于给定输入X应该得到怎么样的输出Y。

4、机器学习大部分模型都是判别模型，判别模型得到条件概率或者决策函数直接用于预测，准确率会更高；而生成模型用于数据预测，所以它的应用领域会更加广泛。

四、进入图

感觉一次也不要总结太多，一下消化不了，预告一次博客的精彩内容