机器学习（2）

机器学习诊断

 

支持向量机SVM

聚类

降维

异常检测

推荐算法

梯度下降算法比较

批梯度下降：考虑全局数据，每次更新都会朝着正确的方向，但数据集更大，时空开销会很大。

随机梯度下降：每次迭代只需要考虑一个样本，相对于批梯度下降，时空开销小，但是算法不一定朝着最小值点收敛，而是在最小值点附近徘徊。

小批量梯度下降：两者的折中，收敛快，较稳定。每次训练b个训练实例，对于确定额外参数b的大小需要花费时间。