小小喽啰 - 博客园

2021年3月15日

摘要： 1. 树该怎么长很有意思的一个事是，我们从头到尾了解了xgboost如何优化、如何计算，但树到底长啥样，我们却一直没看到。很显然，一棵树的生成是由一个节点一分为二，然后不断分裂最终形成为整棵树。那么树怎么分裂的就成为了接下来我们要探讨的关键。对于一个叶子节点如何进行分裂，XGBoost作者在其原始阅读全文

posted @ 2021-03-15 10:59 小小喽啰阅读(466) 评论(0) 推荐(0)

2021年3月12日

xgboost调参（纯理论）

摘要：阅读全文

posted @ 2021-03-12 17:47 小小喽啰阅读(127) 评论(0) 推荐(0)

LightGBM.cv时，feature_pre_filter和min_data_in_leaf相互矛盾

摘要：当LightGBM.cv时，如果min_data_in_leaf设置的值比默认值（20）小的时候，就会报错： LightGBMError: Reducing `min_data_in_leaf` with `feature_pre_filter=true` may cause unexpected 阅读全文

posted @ 2021-03-12 16:45 小小喽啰阅读(2278) 评论(2) 推荐(0)

pd.pivot不做聚合运算，可以保留作为values那一列的原值

摘要：有时候我们做透视表不需要做聚合运算，或者是作为value哪一列的值有多种形式，比如说里面有数值型还有日期类型，如果做聚合，那么就不能运算成功，又或者是values值是中文，我们想保留中文，那么可以使用pd.pivot() tmp = pd.pivot(data=hd_data,index=['app 阅读全文

posted @ 2021-03-12 11:30 小小喽啰阅读(517) 评论(0) 推荐(0)

2021年3月9日

xgboost如何画决策树

摘要：暂时还没有搞清楚xgboost中每一个树的权重是怎么样的，以及每个树的结果和最终的结果之间的关系是怎么样的？后面再补上，下面如何xgboost中的决策树 # -*- coding: utf-8 -*- """ Created on Tue Mar 9 16:16:56 2021 @author: 阅读全文

posted @ 2021-03-09 20:22 小小喽啰阅读(724) 评论(0) 推荐(0)

df找出每行最大值所在的列名是什么

摘要：我们想要按照每行去找出TOPn个值，比如说，每个列名是每个学科的名字，每一行代表一个学生，我们想找出每个学生前3高分数是多少，又或者是前3高分数的学科是什么，那么就可以这样去是实现 #找出分数 x=chedai_copy[tree_col].iloc[0:1,:].values x[0,np.arg 阅读全文

posted @ 2021-03-09 15:45 小小喽啰阅读(444) 评论(0) 推荐(0)

2021年2月25日

建模一些问题的解读

摘要：建模tips 1.数值型特征分箱有什么用处？数值型特征本是可以直接入模的，但往往风控人员要对其做分箱，转化为WOE编码进而做标准评分卡等操作。从模型效果上来看，特征分箱主要是为了降低变量的复杂性，减少变量噪音对模型的影响，提高自变量和因变量的相关度。从而使模型更加稳定。特征分箱的目的：从模型效阅读全文

posted @ 2021-02-25 20:03 小小喽啰阅读(364) 评论(0) 推荐(0)

catboost代码模板

摘要：之前讲原理的时候就说到算法受随机参数影响比价大且所占内存和时间非常大，因此我们需要用到网格搜索法，且需要时间以及耐心等待对于里面参数不了解的话，可以去网站：https://catboost.ai/docs/concepts/python-reference_catboostclassifier_f 阅读全文

posted @ 2021-02-25 17:47 小小喽啰阅读(403) 评论(0) 推荐(0)

catboost算法原理

摘要：每学习一种算法，我们都要带着问题去学习 1.算法原理是什么？ 2.损失函数是什么？ 3.优势劣势是什么？ 4.算法适用场景，使用之前对数据的要求是什么？类别型变量是否可用？一、catboost算法原理 CatBoost是俄罗斯的搜索巨头Yandex在2017年开源的机器学习库，是Boosting族阅读全文

posted @ 2021-02-25 16:53 小小喽啰阅读(8086) 评论(0) 推荐(2)

LightGBM代码模板

摘要：一、二分类代码模板二分类也就是我们平时的0和1二类，和逻辑回归的label一样 import lightgbm as lgb import pandas as pd import numpy as np import pickle from sklearn.metrics import roc_a 阅读全文

posted @ 2021-02-25 15:21 小小喽啰阅读(451) 评论(0) 推荐(0)