HuZihu

摘要： 对于训练集，验证集，测试集的概念，很多人都搞不清楚。网上的文章也是鱼龙混杂，因此，现在来把这方面的知识梳理一遍。让我们先来看一下模型验证（评估）的几种方式。 在机器学习中，当我们把模型训练出来以后，该怎么对模型进行验证呢？（也就是说怎样知道训练出来的模型好不好？）有以下几种验证方式： 第一种方式：把 阅读全文

摘要： 有时候特征x和目标y不呈线性关系，线性模型y=wx+b不能很好地反映事物的规律或者无法对事物进行有效分类，因此此时我们需要使用非线性模型。 （x=([x1,x2,...,xn])T，w=([w1,w2,...,wn])T） 比如说下图的分类问题，显然无论用什么样的直线都很难把圈圈和叉叉很好地分隔开来 阅读全文

摘要： 最小二乘线性回归，感知机，逻辑回归的比较： 最小二乘线性回归 Least Squares Linear Regression 感知机 Perceptron 二分类逻辑回归 Binary Logistic Regression 多分类逻辑回归 Multinomial Logistic Regressi 阅读全文

摘要： 以下摘录一些numpy的练习题。答案仅供参考，并不是唯一的。因为完成题目可以用很多种不同的方法，因此只要你自己的方法能够完成任务即可。 1、如何创建从0到9的一维数组？ 结果： 答案： 2. 如何创建一个3*3的二维数组，值全为True（真）？ 结果： 答案： or 3. 如何创建一个3×3的二维数 阅读全文

摘要： 之前在《过拟合和欠拟合（Over fitting & Under fitting）》一文中简要地介绍了过拟合现象，现在来详细地分析一下过拟合产生的原因以及相应的解决办法。 过拟合产生的原因： 第一个原因就是用于训练的数据量太少。这个很好理解，因为理想的训练数据是从所有数据中抽取的无偏差抽样。如果训练 阅读全文

摘要： 在《机器学习 逻辑回归（一）（Machine Learning Logistic Regression I）》一文中，我们讨论了如何用逻辑回归解决二分类问题以及逻辑回归算法的本质。现在来看一下多分类的情况。 现实中相对于二分类问题，我们更常遇到的是多分类问题。多分类问题如何求解呢？有两种方式。一种是 阅读全文

摘要： NumPy（Numerical Python） 是使用python进行机器学习不可或缺的第三方库，它支持数组与矩阵运算，此外也针对数组运算提供大量的数学函数库。ndarray对象是numpy中的基本对象之一，和python列表不同之处在于：python列表可以存放任何类型的元素，而ndarray对象 阅读全文

摘要： 朴素贝叶斯与逻辑回归的区别： 朴素贝叶斯 逻辑回归 生成模型（Generative model） 判别模型（Discriminative model） 对特征x和目标y的联合分布P(x,y)建模，使用极大后验概率估计法估计出最有可能的P(y|x) 直接对后验概率P(y|x)建模，使用极大似然估计法使 阅读全文

摘要： 逻辑回归（Logistic Regression）是一种经典的线性分类算法。逻辑回归虽然叫回归，但是其模型是用来分类的。 让我们先从最简单的二分类问题开始。给定特征向量x=([x1,x2,...,xn])T以及每个特征的权重w=([w1,w2,...,wn])T，阈值为b，目标y是两个分类标签 1和 阅读全文

摘要： 介绍：https://redstonewill.com/2372/ 项目网址：https://github.com/FavioVazquez/ds-cheatsheets 阅读全文