卷积神经网络（CNN）

1.卷积神经网络

　　介绍神经网络前先讲讲为什么需要卷积神经网络。使用全连接神经网络在处理图像时面临的最大问题是参数太多。如输入一张图片大小是28×28×1,28×28为图片大小，×1表示图像是黑白的，只有一个色彩通道。假设第一层隐藏层的节点数为500个，那么一个全连接的神经网络将有28*28*500+500=392500个参数。当图片更大，且为彩色时，参数的个数将会巨幅增长。参数过多容易导致计算速度减慢，还很容易导致过拟合问题。所以需要一个更合理的神经网络结构来有效减少网络中的参数个数。而卷积神经网络就可以达到这个目的。

　　下面展示用于图像分类问题的一种卷积神经网络架构图

　　由上图可见卷积神经网络最关键的部分主要是卷积层和池化层，卷积层负责像素间建立联系，池化层则负责降维。下面讲介绍这两层是如何实现各自功能的。

1.卷积层

　　1）过滤器（filter）

　　在卷积神经网络中最重要的部分是过滤器（filter），也叫内核或是卷积核，它可以将当前层神经网络上的一个子节点矩阵转化为下一层神经网络上的一个单位节点矩阵。

　　过滤器要处理的节点矩阵的长和宽都是由人工指定的，这个节点矩阵的尺寸也被称之为过滤器的尺寸。常用的过滤器尺寸有3*3或5*5.过滤器处理的矩阵深度和当前层神经网络节点矩阵的深度是一致的，所以虽然节点矩阵是三维的，但过滤器尺寸只需要指定两个维度。另一个需要人工指定的设置是处理得到的单位节点矩阵的深度，这个设置称为过滤器的深度。

　　

　　2）过滤器的卷积层前向传播算法

　　过滤器卷积层结构的前向传播过程就是通过将一个过滤器从神经网络当前层的左上角移动到右下角，并在移动中计算每一个对应的单位矩阵得到的。

 

　　3）参数个数的计算

 

2.池化层

　　1）池化层的过滤器

　　2）池化层的前向传播