2016年11月16日
smo算法
摘要： 文章在word里写好了，公式没法贴到论坛里，所以直接截图了 阅读全文
posted @ 2016-11-16 17:47 holy_black_cat 阅读(331) 评论(0) 推荐(0)
支持向量机通俗导论
摘要： 支持向量机通俗导论（理解SVM的三层境界） 作者：July 。致谢：pluskid、白石、JerryLead。说明：本文最初写于2012年6月，而后不断反反复复修改&优化，修改次数达上百次，最后修改于2016年11月。 前言 动笔写这个支持向量机(support vector machine)是费了 阅读全文
posted @ 2016-11-16 17:45 holy_black_cat 阅读(448) 评论(0) 推荐(0)
二次规划
摘要： 二次规划 二次规划为非线性规划的一种，若某非线性规划的目标函数为自变量x 的二次函数，约束条件又全是线性的，就称这种规划为二次规划。 Matlab 中二次规划的数学模型可表述如下： 这里H 是实对称矩阵，f ,b 是列向量，A 是相应维数的矩阵。 这里H 是实对称矩阵，f ,b 是列向量，A 是相应 阅读全文
posted @ 2016-11-16 15:30 holy_black_cat 阅读(1043) 评论(0) 推荐(0)
交叉熵
摘要： 作者：Noriko Oshima链接：https://www.zhihu.com/question/41252833/answer/108777563来源：知乎著作权归作者所有，转载请联系作者获得授权。 熵的本质是香农信息量()的期望。现有关于样本集的2个概率分布p和q，其中p为真实分布，q非真实分 阅读全文
posted @ 2016-11-16 10:38 holy_black_cat 阅读(3542) 评论(0) 推荐(0)
机器学习中的维数灾难
摘要： 在看机器学习的论文时，经常会看到有作者提到“curse of dimensionality”，中文译为“维数灾难”，这到底是一个什么样的“灾难”？本文将通过一个例子来介绍这令人讨厌的“curse of dimensionality”以及它在分类问题中的重要性。 假设现在有一组照片，每一张照片里有一只 阅读全文
posted @ 2016-11-16 10:23 holy_black_cat 阅读(553) 评论(0) 推荐(0)
矩阵与线性变换
摘要： 一般来说，方阵能描述任意线性变换。线性变换保留了直线和平行线，但原点没有移动。线性变换保留直线的同时，其他的几何性质如长度、角度、面积和体积可能被变换改变了。从非技术意义上说，线性变换可能“拉伸”坐标系，但不会“弯曲”或“卷折”坐标系。 矩阵是怎样变换向量的 向量在几何上能被解释成一系列与轴平行的位 阅读全文
posted @ 2016-11-16 10:21 holy_black_cat 阅读(1201) 评论(0) 推荐(1)
2016年11月15日
l2正则化
摘要： 在机器学习中，无论是分类还是回归，都可能存在由于特征过多而导致的过拟合问题。当然解决的办法有 （1）减少特征，留取最重要的特征。 （2）惩罚不重要的特征的权重。 但是通常情况下，我们不知道应该惩罚哪些特征的权重取值。通过正则化方法可以防止过拟合，提高泛化能力。 先来看看L2正则化方法。对于之前梯度下 阅读全文
posted @ 2016-11-15 14:28 holy_black_cat 阅读(237) 评论(0) 推荐(0)
2016年11月9日
Matlab 的reshape函数
摘要： 看Matlab的help文档讲得不是清楚。 先给上一段代码： >> a=[1 2 3;4 5 6;7 8 9;10 11 12]; >> b=reshape(a,2,6); >> a=[1 2 3;4 5 6;7 8 9;10 11 12]; >> b=reshape(a,2,6); 这段代码的结果 阅读全文
posted @ 2016-11-09 15:23 holy_black_cat 阅读(403) 评论(0) 推荐(0)
2016年11月8日
matlab 等值线函数 contour
摘要： matlab 等值线函数 contour 例子： x=1:1:6;y=1:1:14;[xx,yy]=meshgrid(y,x);z=[2.44 2.78 3.46 4.55 3.43 2.72 2.46 2.46 2.72 3.43 4.55 3.46 2.78 2.44;3.00 4.42 5.9 阅读全文
posted @ 2016-11-08 18:40 holy_black_cat 阅读(5887) 评论(0) 推荐(0)
LIBSVM使用方法及参数设置 主要参考了一些博客以及自己使用经验。
摘要： 主要参考了一些博客以及自己使用经验。收集来觉得比较有用的。 LIBSVM 数据格式需要 决策属性 条件属性a 条件属性b ... 2 1:7 2:5 ... 1 1:4 2:2 ... 数据格式转换 当数据较少时，可以用formatdatalibsvm轻松地将文本数据转换成为svm工具使用的数据。 阅读全文
posted @ 2016-11-08 14:47 holy_black_cat 阅读(1975) 评论(0) 推荐(0)