摘要： 这篇博客主要介绍一个最优化算法——前向分步算法，接着用前向分步算法推导 Adaboost 和提升树、梯度提升。 前向分步算法 前向分步算法是一种优化方法，给定损失函数 \(L\)，预测函数 \(f(x)\)，优化目标是最小化损失函数： \(min\sum_{i=1}^{N}L(y_i, f(x_i) 阅读全文