摘要: 求导是几乎所有深度学习优化算法的关键步骤,因为在优化损失函数时会用反向传播,即使参数朝着梯度下降的方向调整,那么就可以使损失函数尽量的小,达到局部最优的情况(全局最优很难,不是说对一个Loss函数凸优化难,而是很多Loss函数不能凸优化),而求梯度实际就是求偏导。 虽然求导的计算很简单,但对于复杂的 阅读全文
posted @ 2024-11-02 15:02 老秦鸭 阅读(318) 评论(0) 推荐(0)