2018年3月19日

深度学习中的梯度消失与梯度爆炸

摘要： 引入在深度学习中，我们会听到梯度消失与梯度爆炸。这指的是梯度变得极小或极大。为什么在深层次网络中，才容易发生梯度消失与梯度爆炸呢？这带来什么负面的影响？该怎么样来避免这种极端情况？梯度消失与梯度爆炸的原因考虑一种极端情况，假设我们有一个层数很深的神经网... 阅读全文

posted @ 2018-03-19 22:25 ybdesire 阅读(1165) 评论(0) 推荐(0)

导航