随笔分类 - 机器学习
随机森林算法原理及OpenCV应用
摘要：随机森林算法是机器学习、计算机视觉等领域内应用较为广泛的一个算法、它不仅可以用来做分类（包括二分类和多分类），也可用来做回归预测，也可以作为一种数据降维的手段。在随机森林中，将生成很多的决策树，并不像在决策树那样只生成唯一的树。随机森林在变量（列）的使用和数据（行）的...
阅读全文
AdaBoost算法原理及OpenCV实例
摘要：备注：OpenCV版本 2.4.10在数据的挖掘和分析中，最基本和首要的任务是对数据进行分类，解决这个问题的常用方法是机器学习技术。通过使用已知实例集合中所有样本的属性值作为机器学习算法的训练集，导出一个分类机制后，再使用这个分类机制判别一个新实例的属性，并且可以通过...
阅读全文
Opencv决策树分类器应用
摘要：机器学习在数据挖掘、计算机视觉、搜索引擎、医学诊断、证券市场分析、语言与手写识别等领域有着十分广泛的应用，特别是在数据分析挥着越来越重要的作用。在机器学习中，决策树是最基础且应用最广泛的归纳推理算法之一，基于决策树算法，衍生出很多出色的集成算法，如random for...
阅读全文
OpenCV实现朴素贝叶斯分类器诊断病情
摘要：贝叶斯定理由英国数学家托马斯.贝叶斯（Thomas Baves）在1763提出，因此得名贝叶斯定理。贝叶斯定理也称贝叶斯推理，是关于随机事件的条件概率的一则定理。对于两个事件A和B，事件A发生则B也发生的概率记为P(B|A)，事件B发生则A也发生的概率记为P(A|B)...
阅读全文
Opencv中K均值算法（K-Means）及其在图像分割中的应用
摘要：K均值（K-Means）算法是一种无监督的聚类学习算法，他尝试找到样本数据的自然类别，分类是K由用户自己定义，K均值在不需要任何其他先验知识的情况下，依据算法的迭代规则，把样本划分为K类。K均值是最常用的聚类技术之一，通过不断迭代和移动质心来完成分类，与均值漂移算法的...
阅读全文
统计学相关概念及机器学习中样本相似性度量之马氏距离
摘要：均值、标准差、方差：样本均值描述的是集合的中间点、平均值、均值的信息是有限的，有时候甚至是完全没有参考意义的，比如各统计局最喜欢发布的平均工资、年收入等等，只有个文字游戏而已。标准差描述的是样本集合中的各个样本点到均值的距离的平均值。以集合[0,8,12,20]和集合...
阅读全文
Opencv中SVM样本训练、归类流程及实现
摘要：支持向量机（SVM）中最核心的是什么？个人理解就是前4个字——“支持向量”，一旦在两类或多累样本集中定位到某些特定的点作为支持向量，就可以依据这些支持向量计算出来分类超平面，再依据超平面对类别进行归类划分就是水到渠成的事了。有必要回顾一下什么是支持向量机中的支持向量。...
阅读全文
机器学习: Tensor Flow +CNN 做笑脸识别
摘要：Tensor Flow 是一个采用数据流图（data flow graphs），用于数值计算的开源软件库。节点（Nodes）在图中表示数学操作，图中的线（edges）则表示在节点间相互联系的多维数据数组，即张量（tensor）。这是谷歌开源的一个强大的做深度学习的软...
阅读全文
机器学习：scikit-learn 做笑脸识别 (SVM, KNN, Logisitc regression)
摘要：scikit-learn 是 Python 非常强大的一个做机器学习的包，今天介绍scikit-learn 里几个常用的分类器 SVM, KNN 和 logistic regression，用来做笑脸识别。这里用到的是GENKI4K 这个数据库，每张图像先做一个人脸检...
阅读全文
Python: 文件操作与数据读取
摘要：文件及目录操作python中对文件、文件夹（文件操作函数）的操作需要涉及到os模块，主要用到的几个函数是，import os返回指定目录下的所有文件和目录名: os.listdir()重命名：os.rename（old， new）创建多级目录：os.makedirs（...
阅读全文
理解 t-SNE （Python）
摘要：t-SNE（t-distribution Stochastic Neighbor Embedding）是目前最为流行的高维数据的降维算法。t-SNE 成立的前提基于这样的一个假设：我们现实世界观察到的数据集，都在本质上有一种低维的特性（low intrinsic ...
阅读全文
理解 t-SNE （Python）
摘要：t-SNE（t-distribution Stochastic Neighbor Embedding）是目前最为流行的高维数据的降维算法。t-SNE 成立的前提基于这样的一个假设：我们现实世界观察到的数据集，都在本质上有一种低维的特性（low intrinsic ...
阅读全文
感知机模型及其对偶形式
摘要：1. 对偶输入：线性可分的数据集 T={(x1,y1),(x2,y2),…,(xN,yN)}，其中 xi∈Rn,yi∈{−1,+1} ，学习率为 η，输出：α,b，感知机模型为 f(x)=sgn(∑j=1Nαjyjxj⋅x+b)，显然 α 是长度为 N 的向量；算法：...
阅读全文
感知机模型及其对偶形式
摘要：1. 对偶输入：线性可分的数据集 T={(x1,y1),(x2,y2),…,(xN,yN)}，其中 xi∈Rn,yi∈{−1,+1} ，学习率为 η，输出：α,b，感知机模型为 f(x)=sgn(∑j=1Nαjyjxj⋅x+b)，显然 α 是长度为 N 的向量；算法：...
阅读全文
机器学习编程接口（api）设计（oop 设计）
摘要：fit： 对于 kmeans 来说，fit 的过程，就是训练，自然所需的参数，主要是数据集和聚类中心数，1. classification（分类）def train(train_images, train_labels): # build a model for...
阅读全文
机器学习编程接口（api）设计（oop 设计）
摘要：fit： 对于 kmeans 来说，fit 的过程，就是训练，自然所需的参数，主要是数据集和聚类中心数，1. classification（分类）def train(train_images, train_labels): # build a model for...
阅读全文
流形学习初步
摘要：流形学习是机器学习研究员阅读文献绕不开的一个话题。流形学习（Manifold Learning）是机器学习、模式识别中的一种方法，Manifold = Many fold，很多曲面片的叠加，在维数约简方面具有广泛的应用。主要思想是将高维的数据映射到低维，使该低维的...
阅读全文
流形学习初步
摘要：流形学习是机器学习研究员阅读文献绕不开的一个话题。流形学习（Manifold Learning）是机器学习、模式识别中的一种方法，Manifold = Many fold，很多曲面片的叠加，在维数约简方面具有广泛的应用。主要思想是将高维的数据映射到低维，使该低维的...
阅读全文
回归（regression）的理解（regressor，回归子）
摘要：1. 基本概念回归（regression）是监督学习（given {(xi,yi)}）的一个重要分类。回归用于预测输入变量（自变量，Xi）与输出变量（因变量，Yi） 之间的关系，特定是当输入变量的值发生变化时，输出变量的值随之发生的变化。回归模型正是表示从输入变量（x...
阅读全文
回归（regression）的理解（regressor，回归子）
摘要：1. 基本概念回归（regression）是监督学习（given {(xi,yi)}）的一个重要分类。回归用于预测输入变量（自变量，Xi）与输出变量（因变量，Yi） 之间的关系，特定是当输入变量的值发生变化时，输出变量的值随之发生的变化。回归模型正是表示从输入变量（x...
阅读全文
浙公网安备 33010602011771号