摘要: 深度学习神经网络模型中的量化是指浮点数用定点数来表示,也就是在DSP技术中常说的Q格式。 Q格式 Q格式表示为:Qm.n,表示数据用m比特表示整数部分,n比特表示小数部分,共需要m+n+1位来表示这个数据,多余的一位用作符号位(不表示出来)。 例如Q15表示小数部分有15位,一个short型数据,占 阅读全文
posted @ 2025-11-27 19:52 白柒 阅读(6) 评论(0) 推荐(0)