随笔分类 - 机器学习
1
用于记录机器学习的核心知识
摘要：前言：今天他给大家带来一篇发表在CVPR 2017上的文章。 原文：LBCNN 原文代码：https://github.com/juefeix/lbcnn.torch 本文主要内容：把局部二值与卷积神经网路结合，以削减参数，从而实现深度卷积神经网络端到端的训练，也就是未来嵌入式设备上跑卷积效果将会越
阅读全文
摘要：2017 3.1在一点钟从宿舍爬起来去实验室，看了一篇论文，产生如下思考。纪念下第一次通宵学习，哈哈。 悖论1：任何的快速线性分类器可以被应用生成一个整体的非线性分类器。 如下图：正方形是一个非线性分类器，那么他不就是由四个线性分类器组成的吗 悖论2：若干个线性特征可以组成一个整体的非线性特征。有的
阅读全文
摘要：本篇文章主要讨论样本方差和样本协方差除以n-1问题，其他暂且不做过多赘述。 方差的维基百科定义：一个随机变量的方差描述的是它的离散程度，也就是该变量到其期望值的距离。 计算公式： 样本方差：样本方差是依据所给样本对方差做出的一个无偏估计。用样本去推测整体情况。 计算公式： 其中n为样本数。 等等，为
阅读全文
摘要：前言：这几天一直都在研究模糊聚类。感觉网上的文档都没有一个详细而具体的讲解，正好今天有时间，就来聊一聊模糊聚类。 一：模糊数学 我们大家都知道计算机其实只认识两个数字0,1。我们平时写程序其实也是这样if 1 then do.永远这种模式，在这种模式中，一个元素要么属于这个集合，要么不属于这个集合，
阅读全文
摘要：前言：当我跟你说起核的时候，你的脑海里一定是这样的： 想到的一定是BOOMBOOM。谈核色变，但是今天我们说的核却温和可爱的多了。 我记得我前面说到了SVM的核武器是核函数，这篇文章可以作为http://www.cnblogs.com/xiaohuahua108/p/5934282.html这篇文章
阅读全文
摘要：很多文章说到奇异值分解的时候总是大概罗列下它的功能，并没有对功能及物理意义进行过多的阐述，现在我来对奇异值进行整理一下。 一 奇异值分解 对任意的矩阵A∈Fmn，rank(A)=r(矩阵的秩)，总可以取A的如下分解：，其中U和V是正交矩阵。分别为左右奇异值向量。 U是m×m阶酉矩阵；Σ是m×n阶非负
阅读全文
摘要：大家好，我是人见人爱，花见花开的小花。哈哈~~！ 在统计和数据挖掘中，亲和传播（AP）是基于数据点之间"消息传递"概念的聚类算法。与诸如k-means或k-medoids的聚类算法不同，亲和传播不需要在运行算法之前确定或估计聚类的数量。 类似于k-medoids，亲和力传播算法发现"样本"，输入集合
阅读全文
摘要：大家看了之后，可以点一波关注或者推荐一下，以后我也会尽心尽力地写出好的文章和大家分享。 本文先导：在我们平时看NBA的时候，可能我们只关心球员是否能把球打进，而不太关心这个球的颜色，品牌，只要有3D效果，看到球员扣篮的动作就可以了，比如下图： 如果我们直接对篮球照片进行几百万像素的处理，会有几千维甚
阅读全文
摘要：今天我想送给大家两句话：1：在这个浮躁的社会中，每个人都想找到捷径，那么我想认真踏实地做好一件事也便是最大的捷径了。2：不要管别人做什么，有自己的目标，可能你现在的环境牛人多多，让你压力巨大，也可能你身处的环境废物多多，让你感慨你本可以让自己更加强大。不要管这些，只要相信自己选择的，走下去。 以上献
阅读全文
摘要：提要：今天讲的牛顿法与拟牛顿法是求解无约束问题最优化方法的常用方法。 一 牛顿法 假设我们求下面函数的最小值： 假设f(x)具有连续的二阶的连续偏导数，假设第K次迭代值为xk的值，那么可将f(X)在xk附近进行二阶泰勒展开得到： 我们对上述公式求导可得: 假设其中可逆，我们就可以得到牛顿法的迭代公式
阅读全文
摘要：本文申明：本系列文章为本人原创，如有转载请注明文章原地址。 今天我们机器学习老师在说到周志华老师的《机器学习》这本书的时候，p60页讲到了LDA，但是其中的公式推导省略了很多，现在我来补充一下。 一：LDA的思想 给定两个数据集一个是XX一个是OO，然后我们把XXOO投影到一条直线上，但是啊，这个人
阅读全文
摘要：大家好久不见，实战部分一直托更，很不好意思。本文实验数据与代码来自机器学习实战这本书，倾删。 还是一样，设置两个数组，前两个作为特征值，后一个作为标签。当然这是简单的处理，实际开发中特征值都是让我们自己选的，所以有时候对业务逻辑的理解还是很重要的。 这段代码见一面1.4节。 Alpha表示步长，ma
阅读全文
摘要：本文申明：本文原创，如转载请注明原文出处。 引言：上一篇我们讲到了logistic回归，今天我们来说一说与其很相似的svm算法，当然问题的讨论还是在线性可分的基础下讨论的。 很多人说svm是目前最好的分类器，那我们就来看看我们的svm好在哪里。 一：初识svm 问题：用一条直线把下图的圆球和五角星分
阅读全文
摘要：本文申明：本系列笔记全部为原创内容，如有转载请申明原地址出处。谢谢 序言：what is logistic regression? Logistics 一词表示adj.逻辑的;[军]后勤学的n.[逻]数理逻辑;符号逻辑;[军]后勤学， “回归”是由英国著名生物学家兼统计学家高尔顿在研究人类遗传问题时
阅读全文
摘要：Hello，我就是人见人爱，花见花开，蜜蜂见了会打转的小花。。哈哈，我们终于讲到了当年大学让我头痛不已的贝叶斯。先给个模型： 一：贝叶斯定理 维基百科定义：贝叶斯定理（英语：Bayes' theorem）是概率论中的一个定理，它跟随机变量的条件概率以及边缘概率分布有关。在有些关于概率的解说中，贝叶斯
阅读全文
摘要：本文申明：本文原创，如有转载请申明。数据代码来自实验数据都是来自【美】Peter Harrington 写的《Machine Learning in Action》这本书，侵删。 Hello,又和大家见面了，今天心情出奇的好，不知道为什么。就是好。。。此处省略一万字。。。上一次和大家说了，决策树的理
阅读全文
摘要：引言：今天来和大家谈谈决策树算法。决策的重要性，我想就不必我多言了吧。但是还是先请大家看一下知乎的这个问题，普通人如何通过训练提高决策能力，http://www.zhihu.com/question/49602855?location=35 ，然后我们在来聊一聊，计算机如何快速提高决策能力。我想以自
阅读全文
摘要：前言 Hello ,everyone. 我是小花。大四毕业，留在学校有点事情，就在这里和大家吹吹我们的狐朋狗友算法 KNN算法，为什么叫狐朋狗友算法呢，在这里我先卖个关子，且听我慢慢道来。 KNN(k-nearest neighbor的缩写)又叫最近邻算法。是1968年由Cover和Hart提出的一
阅读全文
摘要：一 安装python2.7 去https://www.python.org/downloads/ 下载，然后点击安装，记得记住你的安装路径，然后去设置环境变量，这些自行百度一下就好了。 由于2.7没有pip ,所以最好装下。这是下载地址 https://pypi.python.org/pypi/pi
阅读全文
摘要：1950年 - 阿兰·图灵创造了“图灵测试”。如下图，C使用问题来判断A和B是人类还是机器。如果判断不出来了，就表示机器有了智慧。那么就是智能的。但是我一直人为，这样说太片面，不符合哲学的智能，毕竟机器没有知觉，就好像现在35°c，可能机器通过传感器温度，却没有我这种大汗淋漓的感觉所以我感觉这个有待
阅读全文
1