模型剪枝

• 模型剪枝是模型压缩的方法，对深度神经网络的稠密连接引入稀疏性，通过将不重要的权值直接置零来减少非零权值数量。

其一般分为4个步骤

1. 分析预训练模型中每一个神经元的重要程度；
2. 剔除模型中对模型推理激活程度较低的神经元；
3. 模型微调，提高修剪后模型的精度；
4. 对微调后模型进行测试，确定修剪后的模型是否满足要求；