2018年8月19日
机器学习--Gradient Boosting Machine(GBM）调参方法详解
摘要： 一、GBM参数 总的来说GBM的参数可以被归为三类： 1、树参数 现在我们看一看定义一个决策树所需要的参数。注意我在这里用的都是python里scikit-learn里面的术语，和其他软件比如R里用到的可能不同，但原理都是相同的。 在继续介绍其他参数前，我们先看一个简单的GBM二分类伪代码： 以上步 阅读全文
posted @ 2018-08-19 21:47 理想几岁 阅读(7871) 评论(0) 推荐(0)
模型的偏差bias以及方差variance
摘要： 1. 模型的偏差以及方差： 模型的偏差：模型预测值偏离真实值的程度。 模型的方差：值模型预测值的离散程度，比如两条几乎相同的样本，但是预测值可能差很多。 我们认为方差越大的模型越容易过拟合：假设有两个训练集A和B，经过A训练的模型Fa与经过B训练的模型Fb差异很大，这意味着Fa在类A的样本集合上有更 阅读全文
posted @ 2018-08-19 20:27 理想几岁 阅读(6536) 评论(0) 推荐(1)