编码器内容-去噪

自编码器（AutoEncoder）

AutoEncoder由4个主要部分组成：Encoder、Bottleneck、Decoder、Reconstruction Loss。

 

AutoEncoder特点：采用类似无监督学习的方式对高维数据进行高效的特征提取和特征表示；在图像压缩方面表现得不好，由于在某个给定数据集上训练自编码器，因此它在处理与训练集相类似的数据时可达到合理的压缩结果，但是在压缩差异较大的其他图像时效果不佳。

四种不同的自编码器：香草自编码器、多层自编码器、卷积自编码器、正则自编码器（包含去噪自编码器）

（1）香草自编码器

三个网络层，即只有一个隐藏层的神经网络，可通过使用Adam优化器和均方误差损失函数，来学习如何重构输入。

（2）多层自编码器

将自动编码器的隐含层数目进一步提高。

 

（3）卷积自编码器【降低维度达到压缩效果】

对输入图像进行下采样，以提供较低维度的特征表征，来迫使自编码器从压缩后的数据进行学习。

 

（4）正则自编码器【使用损失函数来鼓励模型学习其他特性，这些特性包括稀疏表征、小导数表征、以及对噪声或输入缺失的鲁棒性。】

其中有一种是降噪自编码器（Denoising AutoEncoder）：向训练数据加入噪声，并使降噪自编码器学会去除这种噪声来获得没有被噪声污染过的真实输入，这样可强制它学习有用功能，泛化能力比一般编码器强。

Denoising AutoEncoder的核心思想：设计一个能够恢复原始信号的自编码器未必是最好的，而能够对 “被污染/破坏” 的原始数据进行编码、解码，然后还能恢复真正的原始数据，这样的特征才是好的，如下一张图。