花式卷积操作
卷积层的基本操作就是:卷积操作和池化操作两个
1、标准卷积
就是输入特征图(也可能是原图),用filter进行卷积操作,每个filter产生一个输出特征图,filter的个数决定了输出特征图的个数(也就是输出的通道数)
注意:每个filter是有通道数的,默认通道数与输入特征图通道数一致
相关计算,见上面文章链接
相关网络:
LeNet-5(1998):简单的卷积层和池化层相间搭建的网络,此外还有全连接层
2、叠加卷积层
将多个卷积层叠加(一般2-3个)然后再经过池化层
相关网络:
AlexNet(2012)
3、深度级可分离卷积(depthwise separable convolution)
这个卷积操作分为两步,主要为了减少参数,和提高训练速度
- depthwise convolution
- pointwise convolution
假设现在有个16通道的输入,要通过卷积层,产生一个32通道的输出,我的理解:
标准卷积:
此时会有32个filter,每个filter大小为(3,3),filter也是16通道,每个filter可以同时在16个输入通道上滑动,然后每个产生一个输出特征图,于是就产生了32个输出特征图。
深度级可分离卷积:
第一步depthwise convolution:此时会有16个filter(个数与输入特征图通道一致),每个大小为(3,3),但是此时每个filter通道是1,而且每个filter只作用于一个输入特征图,所以这一步会产生16个(与输入特征图个数一致)中间特征图
第二步pointwise convolution:这一步的目的是调整通道数,上一步产生的通道数总是与输入通道数一致的,此时用大小为(1,1)的filter(此时的filter有与输入一致的通道数)做标准卷积操作做的事情,filter的个数就决定了输出特征图的通道数,于是就调整了输出通道数
参考文章:https://zhuanlan.zhihu.com/p/31551004
相关网络:
mobileNet

浙公网安备 33010602011771号