pocket_flow的介绍和安装

  pocketflow项目地址:https://github.com/Tencent/PocketFlow

pocketflow 框架由两个部分组件构成,分别是模型压缩/加速算法部分和超参数优化部分,

模型压缩和加速算法:

1、通道剪枝(channel pruning),在cnn网络中,对特征图中的通道维度进行剪枝,可以减低模型大小和复杂度(算法实现细节?),支持通道剪枝的分组finetune和retrain功能(?)

2、权重稀疏化:对网络权重引入稀疏性约束,大幅降低网络权重中的非零元素个数(细节?),压缩后的网络权重可以以稀疏矩阵的形式存储和传输

3、权重量化:通过对网络权重进行量化约束,可以降低用于表示单个网络权重的所需比特数,,提供了均匀和非均匀两大类量化算法支持?

4、网络蒸馏(network distillation):对未压缩的原始模型输出作为额外的监督信息,指导压缩后的模型训练。

5、多gpu训练(mulit-gpu training):支持多机多卡分布式训练(怎么实现的和horvord实现的区别是什么)

 

posted on 2020-08-31 08:36  xgcode  阅读(262)  评论(0编辑  收藏  举报