随笔分类 -  机器学习 统计学习

摘要：此文章已于 11:45:32 2015/11/20 发布到 shibalangLogistics RegressionLogistics回归是线性分类模型，是由线性模型外加一层sigmoid函数，sigmoid函数的表达式及曲线如下：然而，为什么Logistics回归要选用sigmoid函数呢？这一... 阅读全文

摘要：多元线性回归是最简单的机器学习模型，通过给定的训练数据集，拟合出一个线性模型，进而对新数据做出预测。 对应的模型如下： n: 特征数量。 一般选取残差平方和最小化作为损失函数，对应为： M:训练样本数量。 通过最小化代价损失函数，来求得 值，一般优化的方法有两种，第一是梯度下降算法（Gradient Descent），第二种是矩阵法（The norm... 阅读全文

摘要：感知机学习旨在求出将训练数据集进行线性划分的分类超平面，为此，导入了基于误分类的损失函数，然后利用梯度下降法对损失函数进行极小化，从而求出感知机模型。感知机模型是神经网络和支持向量机的基础。下面分别从感知机学习的模型、策略和算法三个方面来介绍。1. 感知机模型 感知机模型如下：f(x)= sign... 阅读全文