花式卷积操作

卷积层的基本操作就是:卷积操作和池化操作两个

1、标准卷积

就是输入特征图(也可能是原图),用filter进行卷积操作,每个filter产生一个输出特征图,filter的个数决定了输出特征图的个数(也就是输出的通道数)

注意:每个filter是有通道数的,默认通道数与输入特征图通道数一致

相关计算,见上面文章链接

相关网络:

LeNet-5(1998):简单的卷积层和池化层相间搭建的网络,此外还有全连接层

2、叠加卷积层

将多个卷积层叠加(一般2-3个)然后再经过池化层

相关网络:

AlexNet(2012)

3、深度级可分离卷积(depthwise separable convolution)

这个卷积操作分为两步,主要为了减少参数,和提高训练速度

  • depthwise convolution
  • pointwise convolution

假设现在有个16通道的输入,要通过卷积层,产生一个32通道的输出,我的理解:

标准卷积:

此时会有32个filter,每个filter大小为(3,3),filter也是16通道,每个filter可以同时在16个输入通道上滑动,然后每个产生一个输出特征图,于是就产生了32个输出特征图。

深度级可分离卷积:

第一步depthwise convolution:此时会有16个filter(个数与输入特征图通道一致),每个大小为(3,3),但是此时每个filter通道是1,而且每个filter只作用于一个输入特征图,所以这一步会产生16个(与输入特征图个数一致)中间特征图

第二步pointwise convolution:这一步的目的是调整通道数,上一步产生的通道数总是与输入通道数一致的,此时用大小为(1,1)的filter(此时的filter有与输入一致的通道数)做标准卷积操作做的事情,filter的个数就决定了输出特征图的通道数,于是就调整了输出通道数

参考文章:https://zhuanlan.zhihu.com/p/31551004

相关网络:

mobileNet

posted @ 2021-01-26 22:18  GoAhead_emo  阅读(71)  评论(0)    收藏  举报