李宏毅GAN系列解读《一》

图来源于B站《李宏毅对抗生成网络GAN》

《P1. Introduction》

1. 对抗式生成网络算法

1.1 固定生成器，更新判别器

 1.2 固定判别器，更新生成器

总结：一开始生成器固定，更新判别器。由于一开始生成器的权重都是随机初始化的，生成的图片效果也很不好，这时候判别器其实也只要随便就能区分生成器生成的图片和真实的图片，比方说只区分颜色（黑白和彩色）即可；接下来固定判别器，更新生成器，生成器知道要开始生成彩色的图片才能绕开判别器的检测，于是开始生成彩色的图片；再接下来固定生成器，更新判别器...重复整个过程，直到生成器生成的图片与真实的图片让判别器无法区分。

整个对抗式生成网络的算法流程为：

2. Structure Learning

总结：生成器主要在component级别上进行生成，属于Bottom Up结构；而判别器在global级别上进行判别，属于Top Down结构。

即生成器注重生成的东西在像素级别上与真实的图片区别较小；而判别器注重在全局上去判别与真实的图片区别较小。

3. Auto-encoder

总结：Auto-encoder 主要是借用NN Encoder和NN Decoder来生成和input图片尽可能接近的output。这里的NN Decoder即作为Generator的角色。

但是局限在于：只能去接近在原始数据集中存在的图片，若要生成不同于原始数据集中的图片，会发生不可预见的结果。于是需要VAE。

VAE

4. Geneartor （VAE: Input --> output  as close as possiable, reconstructed error）

Discriminator

总结：主要思想，让生成图片的分布接近于真实的图片分布。

当生成的图片分布在真实的图片分布左边时，判别器D(x)给生成器生成图片低的分数，而给真实图片高的分数（但并不清楚真实图片右边区域的分布）；

接着生成器生成的图片分布在真实图片分布的右边，此时判别器D(x)给生成器生成图片低的分数，给真实图片高的分数。

不断迭代下去，直到生成的图片分布接近于真实图片的分布。

5. GAN