什么是指数加权平均、偏差修正?

指数加权平均

在深度学习优化算法中,例如Momentum、RMSprop、Adam,都提到了一个概念,指数加权平均,看了Andrew Ng的深度学习课程后,总结一下什么是指数加权平均。

 式中v_t可近似代表1/(1-β)个θ的平均值。

 

 

 

 

 

 

 

 

 

 

 

 

 

 


 

偏差修正

由以上证明可以看出,每个最新数据值,依赖于以前的数据结果。

一般令第一个数值为0,即v0=0;但此时初期的几个计算结果就会与真实的平均值有较大偏差,具体如下:

有了指数加权平均、偏差修正的基础,就可以研究一下深度学习中优化算法的实现原理了。

点击进入文章

《深度学习——优化器算法Optimizer详解(BGD、SGD、MBGD、Momentum、NAG、Adagrad、Adadelta、RMSprop、Adam)》

posted @ 2018-03-11 17:19 郭耀华 阅读(...) 评论(...) 编辑 收藏