2024年9月5日
低比特量化方法
摘要： 低比特量化方法 计算机里面数值有很多种表示方式，如浮点表示的 FP32、FP16，整数表示的 INT32、INT16、INT8，量化一般是将 FP32、FP16 降低为 INT8 甚至 INT4 等低比特表示，如图7-2所示。 图7-2 数值有很多种表示格式 模型量化则是一种将浮点值映射到低比特离散 阅读全文
posted @ 2024-09-05 17:02 吴建明wujianming 阅读(387) 评论(0) 推荐(0)