摘要：
作为机器学习中可解释性非常好的一种算法，决策树(Decision Tree)是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习 阅读全文
摘要：
上一篇中我们详细介绍推导了主成分分析法的原理，并基于Python通过自编函数实现了挑选主成分的过程，而在Python与R中都有比较成熟的主成分分析函数，本篇我们就对这些方法进行介绍： R 在R的基础函数中就有主成分分析法的实现函数princomp()，其主要参数如下： data：要进行主成分分析的目 阅读全文
摘要：
作为Python中经典的机器学习模块，sklearn围绕着机器学习提供了很多可直接调用的机器学习算法以及很多经典的数据集，本文就对sklearn中专门用来得到已有或自定义数据集的datasets模块进行详细介绍； datasets中的数据集分为很多种，本文介绍几类常用的数据集生成方法，本文总结的所有 阅读全文
摘要：
主成分分析（principal component analysis,简称PCA）是一种经典且简单的机器学习算法，其主要目的是用较少的变量去解释原来资料中的大部分变异，期望能将现有的众多相关性很高的变量转化为彼此互相独立的变量，并从中选取少于原始变量数目且能解释大部分资料变异情况的若干新变量，达到降 阅读全文
摘要：
在获取数据，并且完成数据的清洗之后，首要的事就是对整个数据集进行探索性的研究，这个过程中会利用到各种描述性统计量和推断性统计量来初探变量间和变量内部的基本关系，本篇笔者便基于R，对一些常用的数据探索方法进行总结： 1.描述性统计量部分 1.1 计算描述性统计量的常规方法 summary() summ 阅读全文
摘要：
上一篇我们介绍了Fisher线性判别分析的原理及实现，而在判别分析中还有一个很重要的分支叫做二次判别，本文就对二次判别进行介绍： 二次判别属于距离判别法中的内容，以两总体距离判别法为例，对总体G1,，G2，当他们各自的协方差矩阵Σ1，Σ2不相等时，判别函数因为表达式不可化简而不再是线性的而是二次的， 阅读全文
摘要：
之前数篇博客我们比较了几种具有代表性的聚类算法，但现实工作中，最多的问题是分类与定性预测，即通过基于已标注类型的数据的各显著特征值，通过大量样本训练出的模型，来对新出现的样本进行分类，这也是机器学习中最多的问题，而本文便要介绍分类算法中比较古老的线性判别分析： 线性判别 最早提出合理的判别分析法者是 阅读全文
摘要：
我们之前经常提起的K-means算法虽然比较经典，但其有不少的局限，为了改变K-means对异常值的敏感情况，我们介绍了K-medoids算法，而为了解决K-means只能处理数值型数据的情况，本篇便对K-means的变种算法——K-modes进行简介及Python、R的实现： K-modes是数据 阅读全文
摘要：
DBSCAN算法是一种很典型的密度聚类法，它与K-means等只能对凸样本集进行聚类的算法不同，它也可以处理非凸集。 关于DBSCAN算法的原理，笔者觉得下面这篇写的甚是清楚练达，推荐大家阅读： https://www.cnblogs.com/pinard/p/6208966.html DBSCAN 阅读全文
摘要：
不管之前介绍的K-means还是K-medoids聚类，都得事先确定聚类簇的个数，而且肘部法则也并不是万能的，总会遇到难以抉择的情况，而本篇将要介绍的Mean-Shift聚类法就可以自动确定k的个数，下面简要介绍一下其算法流程： 1.随机确定样本空间内一个半径确定的高维球及其球心； 2.求该高维球内 阅读全文