摘要: 摘要 本节将对反向传播进行直观的理解。反向传播是利用链式法则递归计算表达式的梯度的方法。理解反向传播过程及其精妙之处,对于理解、实现、设计和调试神经网络非常关键。反向求导的核心问题是:给定函数 $f(x)$ ,其中 $x$ 是输入数据的向量,需要计算函数 $f$ 关于 $x$ 的梯度,也就是 $\nabla f(x)$ 。 之所以关注上述问题,是因为在神经网络中 $f$ 对应的是损失函数 $L$... 阅读全文
posted @ 2016-09-15 14:26 ooon 阅读(2719) 评论(2) 推荐(0) 编辑