随笔分类 -  优化算法

机器学习笔记-梯度下降法
摘要:无论是在线性回归(Linear Regression)、逻辑回归(Logistic Regression)还是神经网络(Neural Network)等等,都会用到梯度下降算法。 阅读全文
posted @ 2020-06-05 10:28 WarningMessage 阅读(442) 评论(0) 推荐(0)
机器学习笔记-为什么梯度反方向是函数值下降最快的方向
摘要:在学习机器学习算法的时候,很多训练算法用的就是梯度下降,然后很多资料也说朝着梯度的反方向变动,函数值下降最快 阅读全文
posted @ 2020-06-05 10:26 WarningMessage 阅读(3404) 评论(0) 推荐(1)
机器学习笔记-坐标下降法
摘要:坐标下降法(Coordinate Descent)是一个简单但却高效的非梯度优化算法。 阅读全文
posted @ 2020-05-27 13:44 WarningMessage 阅读(2380) 评论(0) 推荐(1)