王老头

导航

卷积过程的参数量计算问题

假定:

M:每个卷积核输出特征图(Feature Map)的边长

K:每个卷积核(Kernel)的边长

Cin:每个卷积核的通道数,也即输入通道数,也即上一层的输出通道数

Cout:本卷积层具有的卷积核个数,也即输出通道数

可见:每个卷积层的时间复杂度由输出特征图面积M2,卷积核面积K2,输入Cin和输出通道Cout完全决定。

其中,输出特征图尺寸本身又由输入矩阵尺寸X,卷积核尺寸K,Padding,Stride这四个参数所决定,表示如下:

M = (X - K + 2 × Padding)/ Stride + 1

注1:为了简化表达式中的变量个数,这里统一假设输入和卷积核的形状都是正方形。

注2:严格来讲每一层应该还包含1个Bias参数,这里为了简洁就省略了。

这里举个例子,假设一个卷积层:输入224×224×3,输出224×224×64,卷积核大小为3×3。

计算量: Times = 224 × 224 × 3 × 3 × 3 × 64 = 8.7 × 10^7

参数量: Space = 3 × 3 × 3 × 64 = 1728

posted on 2018-09-12 09:14  王老头  阅读(2935)  评论(0编辑  收藏  举报