qyjun

博客园 首页 新随笔 联系 订阅 管理

论文的作者Matthew Zeiler是Yann LeCun的学生,LeCun是Hinton的学生

这篇论文主要解决通过可视化方法揭示卷积神经网络性能很好的原因及进一步提高性能的方法。这种可视化的技巧被称作反卷积(deconvnet),由Zeiler在2011年的论文《Adaptive Deconvolutional networks for mid and high level feature learning》中提出。作者基于这个方法使用Krizhevsky在2012年论文《Imagenet classification with deep convolutional neural networks》提出的双GPU网络模型开始,然后探索不同的网络架构,解决模型的泛化能力。

反卷积操作可以看做是无监督学习,无监督学习网络模型可以参考Hinton在2006年的论文《A fast learning algorithm for deep belief nets》、Bengio在2007年的论文《Greedy layer-wise training of deep networks》和Bengio团队中Vincent在2008年的论文《Extracting and composing robust features with denoising autoencoders》

 论文提到的概念saliency maps:可以翻译为“显著性图”,具体的意义可以参考这篇博文《关于图像的显著性》

论文中的反池化、反激活、反卷积等操作可以参考这篇中文博客《可视化理解卷积神经网络》

posted on 2017-06-21 21:42  qyjun  阅读(260)  评论(0)    收藏  举报