Diffusion扩散模型介绍

在之前的GAN的时候，有一个非常大的问题，那就是GAN生成的图像缺乏多样性，它是以生成器生成的图像能骗过判别器为目标的，而不是以生成丰富的图像为目标的。有关GAN的理论部分可以参考Tensorflow深度学习算法整理(三) 中的对抗神经网络。

而在Diffusion扩散模型中却并非如此，它没有一个所谓的判别器，而是有两个过程，一个是前向过程，一个是逆向过程。前向过程是将图像不断的加噪音，最后变成一个人看上去就是一个纯噪音的图像。而逆向过程则是将纯噪音图像不断还原成真实图像的过程，但是这个还原可能是对很多训练过的图像进行的还原，所以它并不是以还原出一副图像为目的的过程。

我们先看第一步，前向过程：

上图中的每一时刻都要添加高斯噪声，后一时刻都是由前一刻增加噪声得到。

第一个重要公式

β要越来越大，论文中0.0001到0.002，从而α也就要越来越小。这个可以使用一个衰减函数在代码中完成。

上式表示(x_t)时刻的图像和(x_{t-1})时刻图像的关系。(\sqrt {α_t})和(\sqrt {1-α_t})都是权重，(z_1)是满足高斯分布的噪声。越往后，(α_t)越小，噪声所占的比例越来越大；而越靠前，加一点点噪声就有效果，而越往后得加噪越多才有效果。

现在我们知道后一时刻分布是由前一时刻加噪得到，但是整个序列的步骤非常多，如果一步步计算则会非常慢，这里使用的是一步计算得到的，也就是(x_t)时刻是由(x_0)时刻通过一个公式直接算出来的。

(\sqrt {\prod_{i=0}^tα_i}x_0+\sqrt {1-\prod_{i=0}^tα_i}z)