根据特征图激活情况来查找与某一特征图相关的输入图像

深度学习的效果越来越好,在一些方面甚至超过了人类水平,为了更好地理解神经网络如何识别特定模式的图像,以及为什么识别结果可以如此准确,需要从更深层次,即识别过程去了解神经网络.一旦了解了识别过程,我们就可以对神经网络做进一步的改进,另一方面也有助于人类理解机器作出决策的过程及原因,这一点在智能医疗中显得尤为重要.

特征图的显著激活
一旦神经网络中的某个特征图被显著激活,就可以认为输入图像与此特征图密切相关.
有两种方法可以被用来探究特征图的显著激活:
1.固定一系列特征图,通过原始图像的输入来判断各特征图的激活情况,从中找出与原始图像对应的激活最显著的特征图.即在数据集中查找导致此特征图高于平均激活的图像.
2.固定某个特征图,然后利用random函数生成一幅随机图像,通过优化随机图像中的像素值来找到与特征图相符的特征模式.

实例
首先,对VGG网络中的几个层次的特征图进行可视化,然后对可视化过程进行理解,例如推测特定的滤波器会检测到哪种模式.

特征可视化
神经网络将输入数据转化为越来越有意义但表征越来越复杂的连续层.
可以将深度神经网络看做一个多阶段信息精炼与提纯的操作,信息通过连续的过滤器被不断"提纯"