NCNN量化之ncnn2table和ncnn2int8

本文主要描述了NCNN中的量化工具操作过程,首先NCNN的量化工具包含两部分,ncnn2table和ncnn2int8;

在进行ncnn2int8量化过程之前需要进行ncnn2table操作,生成量化表;

下面首先介绍量化表的生成步骤:

一、ncnn2table生成量化表

1、首先准备工作,参考NCNN深度学习框架之Optimize优化器

2、终端进入ncnn/build/tools/quantize目录

3、./ncnn2table --image imagepath --param parampath --bin binpath --output newModel.table

  • 注:在执行命令时,在后面还可以添加mean, norm, size, thread参数,这边工具里已设为默认,就没有修改;
  • 注:这里的image指的是图片集,并且是图片数量较多的图片集;

4、执行命令后,即可看见原文件目录下生成newModel.table的量化表

二、ncnn2int8量化网络模型

1、执行可执行文件ncnn2table,生成量化表

2、终端进入ncnn/build/tools/quantizw目录

3、./ncnn2int8 [inparam] [inbin] [outparam] [outbin] [calibration table]

4、执行命令后,即可在原文件目录下生成param和bin的输出文件(即进行int8量化后的ncnn模型)

posted @ 2019-08-14 16:39  GangTaoWang  阅读(7040)  评论(0编辑  收藏  举报