导航

随笔分类 -  参数优化

算法的超参数优化解析

封装贝叶斯优化超参数调整类

摘要：原理介绍：https://zhuanlan.zhihu.com/p/29779000 阅读全文

posted @ 2018-10-24 22:06 wzd321 阅读(232) 评论(0) 推荐(0)

封装GridSearchCV的训练包

摘要：import xgboost as xgb from sklearn.model_selection import GridSearchCV from sklearn.metrics import make_scorer from sklearn.metrics import accuracy_score from sklearn.datasets import load_breast_canc... 阅读全文

posted @ 2018-10-23 22:39 wzd321 阅读(632) 评论(0) 推荐(0)

xgboost的遗传算法调参

摘要：遗传算法适应度的选择： 机器学习的适应度可以是任何性能指标 —准确度，精确度，召回率，F1分数等等。根据适应度值，我们选择表现最佳的父母（“适者生存”），作为幸存的种群。 交配： 存活下来的群体中的父母将通过交配产生后代，使用两个步骤的组合:交叉/重组和突变。 交叉：交配父母的基因(参数)将被重新组 阅读全文

posted @ 2018-09-25 17:11 wzd321 阅读(2499) 评论(2) 推荐(1)

skopt超参数优化实例

摘要：import numpy as np import matplotlib.pyplot as plt from sklearn.datasets import load_boston from sklearn.ensemble import GradientBoostingRegressor from sklearn.model_selection import cross_val_score... 阅读全文

posted @ 2018-09-20 10:55 wzd321 阅读(2576) 评论(0) 推荐(0)

skopt学习之路1-函数介绍：dummy_minimize

摘要：def dummy_minimize(func,dimensions,n_calls=100, x0=None, y0=None, random_state=None, verbose=False, callback=None)该函数执行：基于给定的范围内通过均匀抽样进行随机搜索 def dump(res, filename, store_objective=True, **kwargs)该... 阅读全文

posted @ 2018-09-19 22:35 wzd321 阅读(978) 评论(0) 推荐(0)

机器学习超参数优化库

摘要：Skopt https://scikit-optimize.github.io/是一个超参数优化库，包括随机搜索、贝叶斯搜索、决策森林和梯度提升树。这个库包含一些理论成熟且可靠的优化方法，但是这些模型在小型搜索空间和良好的初始估计下效果最好。 Hyperopt https://github.com/ 阅读全文

posted @ 2018-09-15 14:18 wzd321 阅读(1365) 评论(0) 推荐(0)