摘要：
上一个博客AdaBoost算法只能说是开山鼻祖，今天要说的这个GBDT才是Boosting领域里面最为强大的算法之一。XGBoost和LightGBM也是在这个算法的基础上进行改进。 # 1 梯度提升树的基本思想 梯度提升树（Gradient Boosting Decision Tree，GBDT） 阅读全文
posted @ 2023-07-16 10:10
lipu123
阅读(727)
评论(0)
推荐(0)
摘要：
# 1 Boosting方法的基本思想 在集成学习的“弱分类器集成”领域，除了降低方差来降低整体泛化误差的装袋法Bagging，还有专注于**降低整体偏差**来降低泛化误差的提升法Boosting。相比起操作简单、大道至简的Bagging算法，Boosting算法在操作和原理上的难度都更大，但由于专 阅读全文
posted @ 2023-07-12 23:34
lipu123
阅读(363)
评论(0)
推荐(0)
摘要：
集成学习是工业领域中应用最广泛的机器学习算法。实际工业环境下的数据量往往十分巨大，一个训练好的集成算法的复杂程度与训练数据量高度相关，因此企业在应用机器学习时通常会提供强大的计算资源作为支持，也因此当代的大部分集成算法都是支持GPU运算的（相对的，如果你发现一个算法在任何机器学习库中，都没有接入GP 阅读全文
posted @ 2023-07-12 18:25
lipu123
阅读(790)
评论(0)
推荐(0)
摘要：
# 1 数据介绍  首先看看这个数据，是从2005年到2008年的每一个小时的电力消耗值。 # 2 实现 阅读全文
posted @ 2023-07-12 14:26
lipu123
阅读(548)
评论(1)
推荐(0)
摘要：
sklearn在2022年进行了一次大的更新。 这里我们跟新的时候要先更新pip: ``` pip install --upgrade scikit-learn ``` # 1 集成学习的三大关键领域 集成学习（Ensemble learning）是机器学习中最先进、最有效、最具研究价值的领域之一， 阅读全文
posted @ 2023-07-09 22:47
lipu123
阅读(146)
评论(0)
推荐(0)
摘要：
ReLU激活函数只能在隐藏层中使用。 Sigmoid/Logistic和Tanh函数不应该用于隐藏层，因为它们会在训练过程中引起问题。 Swish函数用于深度大于40层的神经网络会好很多。 输出层的激活函数是由你要解决的预测问题的类型决定的。以下是一些需要记住的基本原则: 回归-线性激活函数 二元分 阅读全文
posted @ 2023-07-06 21:46
lipu123
阅读(37)
评论(0)
推荐(0)
摘要：
本文主要利用LSTM和CNN来处理移动传感器产生的数据识别人类活动。 # 传感器数据集 ## 数据组成 这个项目使用了 [WISDM (Wireless Sensor Data Mining) Lab](https://www.cis.fordham.edu/wisdm/ "WISDM (Wirel 阅读全文
posted @ 2023-06-30 19:33
lipu123
阅读(840)
评论(1)
推荐(0)
摘要：
# 1.手写数字识别  
评论(0)
推荐(0)
摘要：
# LSTM的产生 我们之前在求RNN的loss的时候很容易出现梯度弥散或者梯度爆炸。这个LSTM的出现很大程度上减少了梯度弥散的情况。 
评论(0)
推荐(0)
摘要：
# 1 数据的生成与导入 这里主要使用的pandas ``` import pandas as pd #加载excel数据 df_excel=pd.read_excel('') df_excel.head() #加载text数据 df_text=pd.read_table('') df_text.h 阅读全文
posted @ 2023-06-26 23:48
lipu123
阅读(189)
评论(0)
推荐(0)
浙公网安备 33010602011771号