02 2019 档案

统计学习方法 学习笔记（六）：序列最小最优化算法SMO
摘要：经过前三篇的学习笔记，对理论上的支持向量机算是稍微了解了，如何去求解前三篇学习笔记中的对偶问题呢？在这一篇学习笔记中将给出答案。 凸二次规划的对偶问题： $$\min_{\alpha} \frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_i\alpha_iy_ 阅读全文
posted @ 2019-02-24 22:26 _DoubleLin 阅读(1058) 评论(1) 推荐(0)
统计学习方法 学习笔记（五）：支持向量机（下）
摘要：通过支持向量机（上）和支持向量机（中）的介绍，对支持向量机应该有点感性的认识啦！在这个学习笔记中，来继续探寻带核函数的支持向量机（解决如下图所示的问题） 对解线性分类问题，线性分类支持向量机是一种非常有效的方法。但是，有时分类问题是非线性的，这时可以使用非线性支持向量机。 核技巧： 如上图所示，设原 阅读全文
posted @ 2019-02-22 22:32 _DoubleLin 阅读(444) 评论(0) 推荐(0)
统计学习方法 学习笔记（四）：支持向量机（中）
摘要：了解了线性可分支持向量机及问题后，在这一篇笔记中，来了解一下对于线性不可分训练数据是如何使用支持向量机的。 线性支持向量机： 假设给定一个特征空间上的训练数据集 $$T =\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}$$ 其中，$x_i \in \mathcal{X} 阅读全文
posted @ 2019-02-22 19:36 _DoubleLin 阅读(366) 评论(0) 推荐(0)
统计学习方法 学习笔记（三）：支持向量机（上）
摘要：了解过感知机后，知道了感知机的固有缺点，那么在接下来的这三篇笔记中，将很好地解决感知机的约束。在这一篇笔记中，我将要介绍线性可分支持向量机，来解决感知机对于线性可分数据集会存在多个解的问题。 支持向量机： 支持向量机（support vector machines, SVM）是一种二类分类模型。它的 阅读全文
posted @ 2019-02-21 22:07 _DoubleLin 阅读(511) 评论(0) 推荐(0)
统计学习方法 学习笔记（二）：感知机
摘要：在这一篇笔记中，来了解一下感知机模型（perceptron），我们将要了解感知机的模型，感知机的学习策略和感知机的学习算法，并且使用Python编程来实现书中的例子。 感知机： 感知机是神经网络与支持向量机的基础，是二类分类的线性分类模型，其输入为实列的特征向量，输出为实列的类别，取+1和-1二值（ 阅读全文
posted @ 2019-02-19 22:42 _DoubleLin 阅读(614) 评论(0) 推荐(0)
统计学习方法 学习笔记（一）：统计学习方法概论
摘要：本系列笔记，主要是整理统计学习方法的知识点和代码实现各个方法，来加强笔者对各个模型的理解，为今年找到好工作来打下基础。 计划在一个月内更新完这本书的笔记，在此立一个flag: 从2019/2/17开始 到 2019/3/17结束。 在本章中，我们需要了解这些概念：统计学习的定义、研究对象、方法；监督 阅读全文
posted @ 2019-02-17 20:27 _DoubleLin 阅读(593) 评论(0) 推荐(0)