PixelCNN++

引言

PixelCNN++是自回归生成模型。这里主要介绍代码，具体原理请见post1，post2。

数据

数据集为MNIST或cifar，batch size为64，数据预处理方式为先ToTensor，然后将缩放到[0,1]。

模型

损失函数

损失函数采用离散logistics混合似然，整个过程的推导见discuss1。

自言自语

看了PixelCNN的open review，作者向reviewer解释整篇文章不只是一些trick堆叠起来，解释过程很有意思。