2020年2月23日
出现梯度消失和梯度爆炸的原因及解决方案
摘要： 梯度消失和梯度爆炸其实是一种情况：均是在神经网络中，当前面隐藏层的学习速率低于后面隐藏层的学习速率，即随着隐藏层数目的增加，分类准确率反而下降了。 梯度消失产生的原因： （1）隐藏层的层数过多; （2）采用了不合适的激活函数（更容易产生梯度消失，但是也有可能产生梯度爆炸） 梯度爆炸产生的原因： （1 阅读全文
posted @ 2020-02-23 21:08 我们都是大好青年 阅读(4439) 评论(0) 推荐(0) 编辑