摘要：在神经网络量化过程中，指数平滑法、直方图截断法和KL散度校准法都是用于优化量化过程中缩放因子的计算和选择的技术。这些方法通常旨在尽量减小量化误差，保持模型性能。下面分别解释这三种方法： 1. 指数平滑法（Exponential Smoothing） 基本思路：指数平滑法是一种时间序列分析方法，常用于 阅读全文

摘要：问题总结：nan 问题 现象： 在训练过程中，训练损失（Train Loss）和测试损失（Test Loss）的值变为 nan（Not a Number）。这通常意味着训练过程中出现了数值计算错误或不稳定，导致无法计算出有效的损失值。同时，训练准确率和测试准确率（Train Accuracy 和 T 阅读全文