2024年4月9日
算子量化技术基本概念
摘要： INT8量化分为非对称量化与对称量化。对称量化是非对称量化的一个特例, 通常对称量化的性能会优于非对称量化, 而精度上非对称量化更优。 非对称量化 如上图所示, 非对称量化其实就是把[min,max]范围内的数值定点到[-128, 127]或者[0, 255]区间。 从int8到float的量化公式 阅读全文
posted @ 2024-04-09 05:34 吴建明wujianming 阅读(5) 评论(0) 推荐(0) 编辑