摘要： 集成学习被称作机器学习中的屠龙刀，在很多场景下都取得了不错的效果。 集成学习的思想很简单，三个臭皮匠顶个诸葛亮，也就是算法融合，这些算法可以是相同的，也可以是不同的。 集成学习分为两步 1. 先训练一批基分类器 【如果基学习器不同，一般称为个体学习器，意思一样，叫法不同而已】 2. 把这些基分类器组 阅读全文

摘要： adaboost 的思想很简单，算法流程也很简单，但它背后有完整的理论支撑，也有很多扩展。 权重更新 在算法描述中，权重如是更新 其中 wm,i 是m轮样本i的权重，αm是错误率，Øm是第m个基学习器的输出，Zm是归一化因子 当预测值与真实值相同时，yØ=1，-αyØ<0，exp(-αyØ)<1，权 阅读全文