摘要:虽然网络性能得到了提高,但随之而来的就是效率问题(AlexNet VGG GoogLeNet Resnet DenseNet) 效率问题主要是模型的存储问题和模型进行预测的速度问题. Model Compression: 从模型权重数值角度压缩 从网络架构角度压缩 对于效率问题,通常的方法即在已经训练好的模型上进行压缩,使得网络携带更少的网络参数,从而解决内存问题,同时解决速度问题。 ...
阅读全文
随笔分类 - 4个轻量级CNN
摘要:虽然网络性能得到了提高,但随之而来的就是效率问题(AlexNet VGG GoogLeNet Resnet DenseNet) 效率问题主要是模型的存储问题和模型进行预测的速度问题. Model Compression: 从模型权重数值角度压缩 从网络架构角度压缩 对于效率问题,通常的方法即在已经训练好的模型上进行压缩,使得网络携带更少的网络参数,从而解决内存问题,同时解决速度问题。 ...
阅读全文
摘要:MobileNet (Efficient Convolutional Neural Networks for Mobile Vision Applications)——Google CVPR-2017 MobileNet引入了传统网络中原先采用的group思想,即限制滤波器的卷积计算只针对特定的group中的输入,从而大大降低了卷积计算量,提升了移动端前向计算的速度。 1.1 卷积分解 Mo...
阅读全文
摘要:ShuffleNet (An Extremely Efficient Convolutional Neural Network for Mobile Devices) —— Face++ shuffle 具体来说是 channel shuffle,是将各部分的 feature map 的 chann
阅读全文
摘要:Xception(Deep Learning with Depth-wise Separable convolutions)——google Inception-V3 Xception 并不是真正意义上的轻量化模型,只是其借鉴 depth-wise convolution,而 depth-wise
阅读全文
|