Gradient Descent 和 Stochastic Gradient Descent（随机梯度下降法）
摘要：
Gradient Descent(Batch Gradient)也就是梯度下降法是一种常用的的寻找局域最小值的方法。其主要思想就是计算当前位置的梯度，取梯度反方向并结合合适步长使其向最小值移动。通过柯西施瓦兹公式可以证明梯度反方向是下降最快的方向。 经典的梯度下降法利用下式更新参量，其中J(θ)是关 阅读全文
posted @ 2016-09-21 21:40 klitech 阅读(686) 评论(0) 推荐(0)
浙公网安备 33010602011771号