机器学习常用算法

一、线性回归

• 做连续型变量的预测，如房价、股票价格
• 有监督学习=> 学习样本为

 

• 需要学习映射，映射关系是在给定的学习样本上学习到的
• 假定输入x和输出y之间有线性相关关系

损失函数：

•  我们要找到最好的权重/参数
• 定义损失函数：

最小化损失函数：

当J(θ1)最小值时的θ1为最接近真实值的系数

 梯度下降：

 

α小：收敛慢，α大：收敛快

二、逻辑回归

逻辑回归其实就是在找判定边界