hwj_note

摘要： 神经网络训练一个模型的过程中，对于每一次参数的更新可以增加一个trick，即对参数进行滑动平均更新，即moving average，会对模型的训练有益。参照源码的一句说法：When training a model, it is often beneficial to maintain moving 阅读全文

摘要： https://blog.csdn.net/hu_guan_jie/article/details/78495297 阅读全文