机器学习

回归算法

线性回归算法

 什么是回归算法

 线性回归

 回归算法理性认知

 线性回归

 线性回归、最大似然估计及二乘法

 最小二乘

 似然函数

 对数似然、目标函数及最小二乘

 θ的求解过程

 最小二乘法的参数最优解

 普通最小二乘法线性回归案例

 目标函数

 模型

 

多项式回归算法

 过拟合

 线性回归的过拟合

 过拟合和正则项

 Ridge回归

 LASSO回归

 Ridge（L2-norm）和LASSO（L1-norm）比较

 Elasitc Net

 线性回归算法过拟合比较

 模型效果判断

 机器学习调参

 梯度下降案例

 梯度下降法

 梯度方向

 批量梯度下降算法 BGD

 随机梯度下降算法 SGD

 BGD和SGD算法比较

 小批量梯度下降法 MBGD

 三者的区别。BGD,SGD,MBGD

 线性回归的扩展

 总结

 局部加权回归-损失函数

 局部加权回归-权重值设置

 局部加权回归-直观理解

 

正则化

Logistic回归算法

 Logistic回归及似然函数

 最大似然/极大似然函数的随机梯度

 极大似然估计与Logistic回归目标函数

 θ参数求解

 

softmax回归算法 - 分类

 算法原理

 softmax算法损失函数

 softmax算法梯度下降法求解

 

梯度下降

特征抽取

线性回归案例