【集成学习】boosting和bagging

视频链接

思想

Boosting和Bagging

Boosting

Adaboost

算法流程

(分类误差率小的时候，\(\alpha_{m}\)：权重就更大)

(\(Z{m-1}\)相当于一个归一化过程，规范化因子)

例子

Adaboost推导

• 加法模型

类比，Adaboost就是一个加法模型：

• 梯度下降的缺点

• 前向分布算法

Bagging