代码改变世界

阅读排行榜

深度学习面试题

2018-08-16 21:37 by Time皇族, 322 阅读, 收藏,
摘要: 1、神经网络基础问题 (1)Backpropagation 反向传播运用的是链式求导的基本思想,首先前向传播求出所有节点的输出值: 接下来计算整体损失函数: 再求解每层的梯度,用于更新参数,一般的求梯度形式如下: 是激活函数的梯度。 (2)梯度消失、梯度爆炸 对激活函数进行求导,如果此部分大于1,那 阅读全文