2019年3月8日
深度学习梯度反向传播出现Nan值的原因归类
摘要： 症状：前向计算一切正常、梯度反向传播的时候就出现异常，梯度从某一层开始出现Nan值（Nan: Not a number缩写，在numpy中，np.nan != np.nan，是唯一个不等于自身的数）。 根因：原因目前遇到的分为五种： 其一： 你使用了power(x, a) (a < 1)这样的算子， 阅读全文
posted @ 2019-03-08 10:01 xchk138 阅读(4774) 评论(1) 推荐(2)