10 2019 档案
摘要：写在前面：当遇到一个陌生的python第三方库时，可以去pypi这个主页查看描述以迅速入门！ 或者import timedir（time） easydict的作用：可以使得以属性的方式去访问字典的值！>>> from easydict import EasyDict as edic
阅读全文
摘要：基础篇： 支持向量机：Maximum Margin Classifer —— 支持向量机简介。 支持向量机: Support Vector —— 介绍支持向量机目标函数的 dual 优化推导，并得出“支持向量”的概念。 支持向量机：Kernel —— 介绍核方法，并由此将支持向量机推广到非线性的情况
阅读全文
摘要：本文是“支持向量机系列”的第五篇，参见本系列的其他文章。 作为支持向量机系列的基本篇的最后一篇文章，我在这里打算简单地介绍一下用于优化 dual 问题的 Sequential Minimal Optimization (SMO) 方法。确确实实只是简单介绍一下，原因主要有两个：第一这类优化算法，特别
阅读全文
摘要：本文是“支持向量机系列”的第四篇，参见本系列的其他文章。 在最开始讨论支持向量机的时候，我们就假定，数据是线性可分的，亦即我们可以找到一个可行的超平面将数据完全分开。后来为了处理非线性数据，使用 Kernel 方法对原来的线性 SVM 进行了推广，使得非线性的的情况也能处理。虽然通过映射 \phi(
阅读全文
摘要：本文是“支持向量机系列”的第三篇，参见本系列的其他文章。 前面我们介绍了线性情况下的支持向量机，它通过寻找一个线性的超平面来达到对数据进行分类的目的。不过，由于是线性方法，所以对非线性的数据就没有办法处理了。例如图中的两类数据，分别分布为两个圆圈的形状，不论是任何高级的分类器，只要它是线性的，就没法
阅读全文
摘要：本文是“支持向量机系列”的第二篇，参见本系列的其他文章。 上一次介绍支持向量机，结果说到 Maximum Margin Classifier ，到最后都没有说“支持向量”到底是什么东西。不妨回忆一下上次最后一张图： 可以看到两个支撑着中间的 gap 的超平面，它们到中间的 separating hy
阅读全文
摘要：0 前言 本文承接上一篇博文拉格朗日乘子法和KKT条件http://www.cnblogs.com/liaohuiqiang/p/7805954.html，讲讲拉格朗日对偶性的问题。 在约束优化问题中，常常用拉格朗日对偶性来将原始问题转为对偶问题，通过解对偶问题的解来得到原始问题的解。
阅读全文
摘要：转自：https://www.cnblogs.com/liaohuiqiang/p/7805954.html 0 前言 上”最优化“课，老师讲到了无约束优化的拉格朗日乘子法和KKT条件。 这个在SVM的推导中有用到，所以查资料加深一下理解。 1 无约束优化 对于无约束优化问题中，如果一
阅读全文
摘要：本文是“支持向量机系列”的第一篇，参见本系列的其他文章。 支持向量机即 Support Vector Machine，简称 SVM 。我最开始听说这头机器的名号的时候，一种神秘感就油然而生，似乎把 Support 这么一个具体的动作和 Vector 这么一个抽象的概念拼到一起，然后再做成一个 Mac
阅读全文
浙公网安备 33010602011771号