梯度下降法及其实现

很久之前学的,这次回顾的时候发现自己把梯度下降法和导数=0搞混了。

导数=0是直接的求法,可能是极大值也可能是极小值。

梯度下降法是一步步逼近极小值的方法,而不是一步到位的。(因为在求法中θ1 = θ0 - α*梯度,而梯度是函数上升最快的方向,加上一个负号,所以一定是函数下降的方向)

https://www.jianshu.com/p/c7e642877b0e这篇文章讲的超好,mark一下~ 

posted @ 2019-10-07 13:11  NicoleHe  阅读(170)  评论(0)    收藏  举报