论文《SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size》

在相同的精度下，较小的 CNN 架构至少提供了三个优势：（1）较小的 CNN 在分布式训练期间需要在服务器之间进行更少的通信。(2) 较小的 CNN 需要更少的带宽来将新模型从云端导出到自动驾驶汽车。(3)较小的cnn更容易部署在fpga和其他内存有限的硬件上。为了提供所有这些优势，我们提出了一种称为 SqueezeNet 的小型 CNN 架构。SqueezeNet 在 ImageNet 上实现了 AlexNet 级别的准确度，参数减少了 50 倍。

squeezenet的fire module结构如下：

 

 

 

 

 

 先使用1×1的卷积核进行信息压缩，在将特征图信息进行展开。这样能减少了3×3卷积的数量，可以视作将哪些不重要的3×3卷积核退化为了1×1。

网络结构如下：