摘要: xgboost有一篇博客写的很清楚,但是现在网址已经失效了,之前转载过,可以搜索XGBoost 与 Boosted Tree。 现在参照这篇,自己对它进行一个总结。 xgboost是GBDT的后继算法,也是采用boost算法的cart 树集合。 一、基学习器:分类和回归树(CART) cart树既可 阅读全文
posted @ 2019-07-21 22:43 Alexander 阅读(1561) 评论(0) 推荐(0) 编辑
摘要: GBDT(Gradient Boosting Decision Tree,Friedman,1999)算法自提出以来,在各个领域广泛使用。从名字里可以看到,该算法主要涉及了三类知识,Gradient梯度、Boosting集成算法和 Decision Tree决策树。 该算法是GREEDY FUNCT 阅读全文
posted @ 2019-07-21 15:42 Alexander 阅读(990) 评论(0) 推荐(0) 编辑
摘要: 在有监督学习里面有几个逻辑上的重要组成部件[3],初略地分可以分为:模型,参数 和 目标函数。(此部分转自 XGBoost 与 Boosted Tree) 一、模型和参数 模型指给定输入xi如何去预测 输出 yi。我们比较常见的模型如线性模型(包括线性回归和logistic regression)采 阅读全文
posted @ 2019-07-21 15:30 Alexander 阅读(1084) 评论(0) 推荐(0) 编辑