摘要：1. DDPM 1.1 从[[VDM]]的目标函数推导DDPM的目标函数 模型学习预测 \(\boldsymbol{x}_0\) 得到的模型是 DDPM ，根据公式 (35) ，可得： \[\begin{align} \boldsymbol{x}_0=\frac{\boldsymbol{x}_t-\ 阅读全文

摘要：1. 背景知识 1.1 ELBo 1.1.1 为什么引入隐变量 \(z\) ? 因为我们在现实世界看到的物体可能也产生于高层级的表示，高层级的表示或许概括了颜色、大小、形状等的抽象属性。 1.1.2 如何推导ELBo (Evidence Lower Bound)？ 无条件的生成模型学习的是如何建模真 阅读全文

摘要：1. MHVAE模型 1.1 MHVAE简介 VAE (Variational Autoencoder) 假设隐变量只有一层，HVAE (Hierarchical VAE)假设隐变量有 \(T\) 层，MHVAE (Markovian HVAE) 在 HVAE 的基础上假设层与层之间满足马尔可夫性 阅读全文

摘要：VDM 1.1 VDM简介 VDM (Variational Diffusion Models) 基于 MHVAE 模型，但与 MHVAE 模型有3个不同： 对于所有时间步 \(t\)：隐变量 \(\boldsymbol{z}_t\) 的维度和数据 \(\boldsymbol{x}\) 的维度相等， 阅读全文