車輪の唄

摘要： 转自: https://www.cnblogs.com/Determined22/p/6562555.html 关于梯度消失问题: 1.网络层次越深, 越容易引起梯度消失, 无论是纵向网络(bp), 还是横向网络(rnn), 梯度消失是由激活函数的导数位于[0,1]区间引起的 2.bp网络梯度消失会 阅读全文