摘要：
一.算法流程 adaboost回归模型与分类模型类似，主要的不同点在于错误率的计算、基模型的权重计算以及样本权重的更新，下面就直接介绍算法流程部分 输入：训练集$T={(x_1,y_1),(x_2,y_2),...,(x_N,y_N)}$，其中$x_i\in R^n,y_i\in R,i=1,2,. 阅读全文
摘要：
一.简介 adaboost是一种boosting方法，它的要点包括如下两方面： 1.模型生成 每一个基分类器会基于上一轮分类器在训练集上的表现，对样本做权重调整，使得错分样本的权重增加，正确分类的样本权重降低，所以当前轮的训练更加关注于上一轮误分的样本； 2.模型组合 adaboost是采用的加权投 阅读全文
摘要：
简介 前面已经介绍过了一些模型，它们各有各的优缺点： （1）比如SVM中，虽然它的最大化间隔能带来不错的泛化能力，但如果某些支持向量恰好是异常点，那么它的决策边界可能会错的很离谱； （2）对于决策树，虽然它的非线性拟合能力很强，但如果放纵树的生长，它甚至会为了个别噪声点创建琐碎的规则； （3）而对于 阅读全文