Keras_Quantization

  1. PTQ训练后量化的实现代码;
    1. 过程:
      1. 权重量化;
      2. infer校准数据集统计
    2. 示例代码:
  2. QAT量化训练的实现代码;
    1. 过程(量化后小模型平均精度损失1~2个点)
      1. 训练模拟顶点模型(卷积参数为定点数,batch normalization参数为高精度浮点数)
      2. combines batch normalization with the preceding convolutional layer.
      3. 模拟定点模型转全定点模型。
    2. 示例代码:
posted @ 2023-11-06 18:18  张幼安  阅读(5)  评论(0编辑  收藏  举报