随笔分类 - MachineLearning
机器学习算法
摘要：1.原理 CNN的资料特别多，这里不再赘述，仅收集相关的资料供大家参考： a.Deep learning：五十一(CNN的反向求导及练习) b.Deep Learning 2.实现 我们使用keras实现CNN，Keras的使用文档请参考 a.Keras中文文档 b.Keras英文文档。 参考ker
阅读全文
摘要：BP神经网络是深度学习的重要基础，它是深度学习的重要前行算法之一，因此理解BP神经网络原理以及实现技巧非常有必要。接下来，我们对原理和实现展开讨论。 1.原理 有空再慢慢补上，请先参考老外一篇不错的文章：A Step by Step Backpropagation Example 激活函数参考：深度
阅读全文
摘要：1.信息熵 给定概率密度函数\(p(x)\)， 定义该函数的信息熵 \(H(p)=H[\mathbf{x}]=-\int{p(\mathbf{x})lnp(\mathbf{x})d\mathbf{x}}\) 信息熵描述了分布的混乱程度。均匀分布是使得信息熵最大的概率分布。单点的冲击响应函数对应的信息
阅读全文
摘要：Softmax回归用于处理多分类问题，是Logistic回归的一种推广。这两种回归都是用回归的思想处理分类问题。这样做的一个优点就是输出的判断为概率值，便于直观理解和决策。下面我们介绍它的原理和实现。 1.原理 a.问题 考虑\(K\)类问题，假设已知训练样本集\(D\)的\(n\)个样本\(\{(
阅读全文
摘要：Logistic回归是机器学习中非常经典的一个方法，主要用于解决二分类问题，它是多分类问题softmax的基础，而softmax在深度学习中的网络后端做为常用的分类器，接下来我们将从原理和实现来阐述该算法的思想。 1.原理 a.问题描述 考虑二分类问题，利用回归的思想，拟合特征向量到类别标签的回归,
阅读全文
摘要：深度图转点云的计算过程很简洁，而里面的原理是根据内外参矩阵变换公式得到，下面来介绍其推导的过程。 1. 原理 首先，要了解下世界坐标到图像的映射过程，考虑世界坐标点M(Xw,Yw,Zw)映射到图像点m(u,v)的过程，如下图所示： 详细原理请参考教程＂相机标定(2) 摄像机标定原理＂，这里不做赘述。
阅读全文
摘要：libsvm很早之前就用了，现在封装一下方便自己使用，也方便大家更快的使用这个库，这个库一个挺有用的特性就是对测试样本的概率估计。源码在随笔的最后。liblinear的版本也是类似移植，主要是处理好数据的传入即可。 1.源码 码农最喜欢的稻草了，封装的项目源码，请看附件：CxLibSVM.zip l
阅读全文
摘要：这\(^{[1]}\)是一篇关于如何使用高维度特征在人脸验证中的文章，作者以主要LBP为例子，论述了高维特征和验证性能存在着正相关的关系，即人脸维度越高，验证的准确度就越高。由于那时候没有用DeepLearning在LAWF上测试精度就能达到很高的精度95+%，受到了很多人的关注。而有些开源库已经实
阅读全文
摘要：欧拉角和四元数都可以用来描述物体的姿态。欧拉角的万向节死锁理解稍微奇怪。四元数原理的理解较为复杂。欧拉角和四元数之间可以做转换。这里收集了若干资料已做备忘。 万向节死锁（Gimbal Lock） ： 欧拉角中的万向节死锁（Gimbal Lock）是一个重点和难点，理解了它对理解为何使用四元数替代欧拉
阅读全文
摘要：利用Landmarks进行人脸对齐裁剪是人脸检测中重要的一个步骤。效果如下图所示： 基本思路为： a.人脸检测 人脸的检测不必多说了，基本Cascade的方式已经很不错了，或者用基于HOG/FHOG的SVM/DPM等。这些在OpenCV，DLIB都有。 b.在检测到的人脸上进行Landmarks检测
阅读全文
摘要：1.卡尔曼滤波的导论卡尔曼滤波器（Kalman Filter），是由匈牙利数学家Rudolf Emil Kalman发明，并以其名字命名。卡尔曼出生于1930年匈牙利首都布达佩斯。1953，1954年分别获得麻省理工学院的电机工程学士以及硕士学位。1957年于哥伦比亚大学获得博士学位。卡尔曼滤波器是...
阅读全文
摘要：EM（Expectation Maximization）算法参考资料：[1].从最大似然到EM算法浅解[2]. 简单的EM算法例子[3].EM算法）The EM Algorithm(详尽的理论推导过程，源自斯坦福大学的教程)[4].混合高斯模型（Mixtures of Gaussians）和EM算法
阅读全文
摘要：很有意思的一篇人脸识别算法文章，人家写的太好，就不好意思写了，收集了一些资料，包括了原理介绍，流程图，项目网址和作者主页信息等。参考资料：[1].http://blog.csdn.net/csyhhb/article/details/46300001（原理介绍）[2].http://blog.csd...
阅读全文
摘要：机器视觉中，常用到协方差相关的知识，特别是基于统计框架下的机器学习算法，几乎无处不在的用到它，因此了解协方差是再基础不过的了。这里推荐一个很不错的基础教程：协方差的意义和计算公式 均值和方差 引入协方差之前，先简单回顾下概率统计中的两个重要基础概念：均值和方差。均值，顾名思义就是一堆样本的平均值，方
阅读全文
摘要：最近因为需要收集了一些OCR的供应商，可以做身份证识别，银行卡识别，名片识别等特定场景下的文字识别。在通用场景下的文字识别效果还不是很理想。现在OCR在特定的场景下做得已经很不错了。下面列出下这些厂商及其相应的演示链接。1、文通（http://www.wintone.com.cn/a/prods/n...
阅读全文
摘要：近些年国内的人脸技术已经得到了很大的发展，今天网上无意看到了微软和face++两家公司的人脸检测，Face++号称国际顶尖的技术，也用过他们的接口感觉确实很不错，而微软则不再话下了。于是想对比微软和Face++的人脸检测效果。1、演示接口以官方提供的在线测试接口为准：微软：https://cn.pr...
阅读全文
摘要：算法思想：算法通过最小化约束条件4ac-b^2 = 1，最小化距离误差。利用最小二乘法进行求解，首先引入拉格朗日乘子算法获得等式组，然后求解等式组得到最优的拟合椭圆。算法的优点： a、椭圆的特异性，在任何噪声或者遮挡的情况下都会给出一个有用的结果； b、不变性，对数据的Euclidean变换具有...
阅读全文
浙公网安备 33010602011771号