摘要: 梯度提升树(GBDT)原理小结 在集成学习之Adaboost算法原理小结中,我们对Boosting家族的Adaboost算法做了总结,本文就对Boosting家族中另一个重要的算法梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)做一个总结。GBDT有很多 阅读全文
posted @ 2019-01-21 19:14 熊顺超 阅读(323) 评论(0) 推荐(0)
摘要: 梯度下降(Gradient Descent)小结 在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。 1. 梯度 在微积分里面,对多元函数的参数求∂偏导数,把求得的各个 阅读全文
posted @ 2019-01-21 19:12 熊顺超 阅读(455) 评论(0) 推荐(0)
摘要: 2019年01月05日 15:48:32 IT界的小小小学生 阅读数:31 标签: xgb gbdt 梯度下降法 牛顿法 xgboost原理 更多 个人分类: data mining 深度学习 2019年01月05日 15:48:32 IT界的小小小学生 阅读数:31 标签: xgb gbdt 梯度 阅读全文
posted @ 2019-01-06 16:25 熊顺超 阅读(1474) 评论(0) 推荐(0)
摘要: Jiraiyafugui 2017-09-14 04:57:13 总结是最好的学习方法 pandas以类似字典的方式来获取某一列的值,比如df['A'],这会得到df的A列。如果我们对某一行感兴趣呢?这个时候有两种方法,一种是iloc方法,另一种方法是loc方法。loc是指location的意思,i 阅读全文
posted @ 2019-01-01 14:43 熊顺超 阅读(1474) 评论(0) 推荐(0)
摘要: Boosted Tree:一篇很有见识的文章 作者:陈天奇,毕业于上海交通大学ACM班,现就读于华盛顿大学,从事大规模机器学习研究。 注解:truth4sex 编者按:本文是对开源xgboost库理论层面的介绍,在陈天奇原文《梯度提升法和Boosted Tree》的基础上,做了如下注解:1)章节划分 阅读全文
posted @ 2018-12-31 10:59 熊顺超 阅读(1079) 评论(0) 推荐(0)
摘要: 廖 雪峰2012 年 11 月 22 日发布 廖 雪峰2012 年 11 月 22 日发布 分享此页面 WeiboGoogle+用电子邮件发送本页面 分享此页面 WeiboGoogle+用电子邮件发送本页面 分享此页面 WeiboGoogle+用电子邮件发送本页面 分享此页面 WeiboGoogle 阅读全文
posted @ 2018-12-31 10:54 熊顺超 阅读(197) 评论(0) 推荐(0)
摘要: 本文转自cotyb 前言 没有用过的东西,没有深刻理解的东西很难说自己会,而且被别人一问必然破绽百出。虽然之前有接触过python协程的概念,但是只是走马观花,这两天的一次交谈中,别人问到了协程,顿时语塞,死活想不起来曾经看过的东西,之后突然想到了yield,但为时已晚,只能说概念不清,所以本篇先缕 阅读全文
posted @ 2018-12-31 10:24 熊顺超 阅读(237) 评论(0) 推荐(0)