摘要：LightGBM: A Highly Efficient Gradient Boosting Decision Tree 1.问题 GBDT的实现方式有很多种，比较常见的有XGBoost，PGBRT等。虽然这些实现中都有用到一些加速方法和分离点选择方法，但是当数据量和特征维度非常非常大时，效率还是难 阅读全文

摘要：XGBoost: A Scalable Tree Boosting System 1. 问题 XGboost是GBDT的改进版版本，加速了训练，增加了对稀疏特征的优化，而且可以并型优化，是非常好用的机器学习算法。 2. 相关 2.1 泰勒展开 整个XGboost算法是基于泰勒公式展开进行的，思路非常 阅读全文