随笔分类 -  机器学习

xgboost极限梯度提升算法 (boosting提升法)
摘要：xgboost xgboost简介 XGBoost全称是eXtreme Gradient Boosting，可译为极限梯度提升算法。它由陈天奇所设计，致力于让提升树突破自身的计算极限，以实现运算快速，性能优秀的工程目标。和传统的梯度提升算法相比，XGBoost进行了许多改进，并且已经被认为是在分类和 阅读全文
posted @ 2020-08-05 17:52 闲酒肆中听风吟 阅读(4029) 评论(0) 推荐(0)
TensorFlow基础操作+手写回归+模型的保存于加载
摘要：深度学习介绍 什么是深度学习？ 先把这四个字拆解成两个词，“深度”和“学习”，然后在逐一说明。 学习 “学习”是我们从小就接触的词，每天听着好好学习，天天向上的教诲。小时候的学习就是上课，做题，最终通过考试验证了学习的效果。抽象的说，学习就是认知的过程，从未知到已知的探索和思考。比如从最早的学习，1 阅读全文
posted @ 2020-08-04 21:02 闲酒肆中听风吟 阅读(373) 评论(0) 推荐(0)
数据探索性分析（EDA）
摘要：数据探索性分析（EDA） 什么是EDA 在拿到数据后，首先要进行的是数据探索性分析（Exploratory Data Analysis），它可以有效的帮助我们熟悉数据集、了解数据集。初步分析变量间的相互关系以及变量与预测值之间的关系，并且对数据进行初步处理，如：数据的异常和缺失处理等，以便使数据集的 阅读全文
posted @ 2020-08-04 20:05 闲酒肆中听风吟 阅读(2806) 评论(1) 推荐(0)
随机森林（bagging装袋法的代表）
摘要：随机森林：是bagging装袋法的代表。弱学习器只可以是决策树 简介： 随机森林是一种有监督学习算法，是以决策树为基学习器的集成学习算法。随机森林非常简单，易于实现，计算开销也很小，在分类和回归上表现出非常惊人的性能，因此，随机森林被誉为“代表集成学习技术水平的方法”。 随机森林的随机性体现在哪几个 阅读全文
posted @ 2020-08-03 23:06 闲酒肆中听风吟 阅读(965) 评论(0) 推荐(0)
集成学习
摘要：集成学习 集成学习(ensemble learning)是时下非常流行的机器学习算法，它本身不是一个单独的机器学习算法，而是通 过在数据上构建多个模型，集成所有模型的建模结果。 集成算法的目标 集成算法会考虑多个评估器的建模结果，汇总之后得到一个综合的结果，以此来获取比单个模型更好的回归或分类表现。 阅读全文
posted @ 2020-08-03 22:27 闲酒肆中听风吟 阅读(205) 评论(0) 推荐(0)
决策树
摘要：决策树 认识决策树 决策树(Decision Tree)是一种有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策（基于分类或者回归）规则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。决策树算法容易理解，适用各种数据，在解决各种问题时都有良好表现，尤其是以树模型为核心的各种集成算法 阅读全文
posted @ 2020-07-31 19:34 闲酒肆中听风吟 阅读(500) 评论(0) 推荐(0)
机器学习-支持向量机SVM
摘要：支持向量机SVM概述 支持向量机(SVM，也称为支持向量网络)，是机器学习中获得关注最多的算法没有之一。 从实际应用来看 SVM在各种实际问题中都表现非常优秀。它在手写识别数字和人脸识别中应用广泛，在文本和超文本的分类中举足轻重。同时，SVM也被用来执行图像的分类，并用于图像分割系统。除此之外，生物 阅读全文
posted @ 2020-07-30 20:53 闲酒肆中听风吟 阅读(487) 评论(0) 推荐(0)
机器学习-聚类算法-Kmeans
摘要：无监督学习与聚类算法 概述 在此之前我们所学习到的算法模型都是属于有监督学习的模型算法，即模型需要的样本数据既需要有特征矩阵X，也需要有真实的标签y。那么在机器学习中也有一部分的算法模型是属于无监督学习分类的，所谓的无监督学习是指模型只需要使用特征矩阵X即可，不需要真实的标签y。那么聚类算法就是无监 阅读全文
posted @ 2020-07-30 17:32 闲酒肆中听风吟 阅读(805) 评论(0) 推荐(0)
机器学习-分类模型的评价指标
摘要：分类模型的评价指标 问题：如何评判两部手机的好坏？ 1.根据性能评价 2.根据外观评价 3.根据价格评价 分析：如果对一个事物进行好坏的评价，首先我们一定是在指定场景下，使用符合该场景相关的评价标准对其进行好坏的评价！那么归于分类模型的评价有如下几种方式： 准确率 精准率 召回率 f1-Score 阅读全文
posted @ 2020-07-28 20:00 闲酒肆中听风吟 阅读(462) 评论(0) 推荐(0)
机器学习-逻辑斯蒂回归
摘要：逻辑回归 在之前的课程中我们已经学习接触过相关的回归模型了，我们知道回归模型是用来处理和预测连续型标签的算法。然而逻辑回归，是一种名为“回归”的线性分类器，其本质是由线性回归变化而来的，一种广泛使用于分类问题中的广义回归算法。要理解逻辑回归从何而来，得要先理解线性回归。线性回归是机器学习中最简单的的 阅读全文
posted @ 2020-07-27 22:07 闲酒肆中听风吟 阅读(407) 评论(0) 推荐(0)
机器学习-WOE&IV编码&分箱 、样本类别分布不均衡处理（过抽样、欠抽样）
摘要：WOE&IV编码&分箱 IV的概念和作用 概念： IV的全称是Information Value，中文意思是信息价值，或者信息量。 作用： 我们构建分类模型时，经常需要对特征进行筛选。比如我们有200个候选特征，通常情况下，不会直接把200个特征直接放到模型中去进行训练，而是会用一些方法，从这200 阅读全文
posted @ 2020-07-27 21:20 闲酒肆中听风吟 阅读(4669) 评论(0) 推荐(1)
机器学习-朴素贝叶斯算法
摘要：朴素贝叶斯算法 概率基础 算法介绍 引出 在许多分类算法应用中，特征和标签之间的关系并非是决定性的。比如说，我们想预测一个人究竟是否会在泰坦尼克号海难中生存下来，那我们可以建立某个分类模型来学习我们的训练集。在训练中，其中一个人的特征为:30岁，男，普 通舱，他最后在泰坦尼克号海难中去世了。当我们测 阅读全文
posted @ 2020-07-23 23:08 闲酒肆中听风吟 阅读(574) 评论(0) 推荐(0)
机器学习-多项式回归+过拟合&欠拟合的处理
摘要：由一个案例引出 房地产估价数据集数据集（house.xlsx） 数据集信息： 房地产估值的市场历史数据集来自台湾新北市新店区。“房地产估价” 是一个回归问题。 属性信息： 输入如下： X1 =交易日期（例如，2013.250 = 2013年3月，2013.500 = 2013年6月，等等） X2 = 阅读全文
posted @ 2020-07-23 22:41 闲酒肆中听风吟 阅读(1392) 评论(0) 推荐(0)
机器学习-线性回归+回归算法的评价指标
摘要：线性回归 回归问题的目标值是连续性的值，而分类问题的目标值是离散型的值。 回归处理的问题为预测： 预测房价 销售额的预测 设定贷款额度 总结：上述案例中，可以根据事物的相关特征预测出对应的结果值 线性回归在生活中的映射（现实生活中就有线性回归）：生活案例【预测学生的期末成绩】： 期末成绩的制定：0. 阅读全文
posted @ 2020-07-22 16:51 闲酒肆中听风吟 阅读(970) 评论(0) 推荐(0)
机器学习-手写数字识别实现
摘要：使用knn实现手写数字图片的识别 from sklearn.model_selection import cross_val_score import pandas as pd import numpy as np import matplotlib.pyplot as plt from sklea 阅读全文
posted @ 2020-07-21 22:05 闲酒肆中听风吟 阅读(731) 评论(0) 推荐(0)
机器学习-KNN+交叉验证
摘要：KNN分类模型 分类：将一个未知归类的样本归属到某一个已知的类群中 预测：可以根据数据的规律计算出一个未知的数据 概念： 简单地说，K-近邻算法采用测量不同特征值之间的距离方法进行分类（k-Nearest Neighbor，KNN） #两点间距离 A(x1,y1) B(x2,y2) dist(A,B 阅读全文
posted @ 2020-07-21 21:14 闲酒肆中听风吟 阅读(699) 评论(0) 推荐(0)
机器学习-机器学习基础
摘要：sklearn的数据集 数据集划分 数据集接口介绍 数据集划分 前提：机器学习就是从数据中自动分析获得规律，并利用规律对未知数据进行预测。换句话说，我们的模型一定是要经过样本数据对其进行训练，才可以对未知数据进行预测的。 问题：我们得到数据后，是否将数据全部用来训练模型呢？ 当然不是！因为我们如果模 阅读全文
posted @ 2020-07-20 23:05 闲酒肆中听风吟 阅读(206) 评论(0) 推荐(0)
机器学习-机器学习概述、特征工程
摘要：机器学习简介 祖师爷 艾伦.图灵，人工智能之父。其最大的成就就是图灵测试。一个人和一个机器跟你去聊天，你不知道对方是人还是机器，如果经过聊天后，你分辨不出谁是人谁是机器则说明这个机器通过了图灵测试 人工智能和机器学习的区别？ 机器学习是实现人工智能的一种技术手段 什么是机器学习？ 官方解释： 机器学 阅读全文
posted @ 2020-07-20 21:08 闲酒肆中听风吟 阅读(351) 评论(0) 推荐(0)