diffusion model 理论基础

Diffusion Model理论基础

基于最大似然的生成模型，给定一个数据集\(x_{D}\),训练使得模型最大化似然估计\(p_{\phi}(x_{D})\)

模型希望学习得到关于x的概率分布，然后可以通过采样的方式生成想要的图片

VAE的生成过程需要采样，借助一个变量z和自定义分布p(z),一般选择多维标准高斯分布\(N(z;0,1)\)
上述图片中的\(q(z|x)\)过程可以看作是将高纬向量映射到低纬空间的过程，而\(p(x|z)\)的过程可以看作是采样生成结果的过程。

变分自编码器其实就是对自编码器中的低维向量进行了一定的约束，比如希望低维向量服从高斯分布，那在生成过程喂入低维向量只要是采样自高斯分布，就可以生成生成更加“真实”的样本了。

VAE通过decoder和encoder分别拟合\(q(z|x)\)、\(p(x|z)\)，间接拟合\(p_{\phi}(x)-p(x)\),反映到状态转移概率图上就是通过一个隐变量z对数据分布进行拟合。

VAE的基本思想，对于给定的数据集，我们无法确定其基本的分布，但是可以将数据压缩到一个隐变量之中，再对隐变量进行复现，从而我们可以认为这个过程一定程度上学到了原始数据的分布。

问题1:为什么加噪声的过程最后会变成一个高斯噪声.
问题2:为什么加每一步的噪声的过程都是高斯噪声过程。