摘要:#一、 预备知识:方程组解的存在性及引入 最小二乘法可以用来做函数的拟合或者求函数极值。在机器学习的回归模型中,我们经常使用最小二乘法。我们先举一个小例子来走进最小二乘法。 某次实验得到了四个数据点$(x,y):(1,6)、(2,5)、(3,7)、(4,10)$ (下图中红色的点)。我们希望找出一条 阅读全文
posted @ 2021-06-13 13:23 很随便的wei 阅读(255) 评论(2) 推荐(2) 编辑
摘要:一、前言 优化模型主要有线性规划、非线性规划、动态规划和整数规划。而指派问题是整数规划中一类重要的问题: 有$n$项任务,由$n$个人来完成,每个人只能做一件,第$i$个人完成第$j$项任务要$c_$小时,如何合理安排时间才能使总用时最小? 二、 指派问题的数学模型 我们引入 0 - 1变量 \(x 阅读全文
posted @ 2021-06-09 23:02 很随便的wei 阅读(116) 评论(0) 推荐(1) 编辑
摘要:一、前言 博主最近在学习机器学习的PCA降维算法的时候,对于维度灾难和特征稀疏有了新的认识。这篇文章主要讲解什么是维度灾难,并从几何的角度来对其进行形象的解释。 二、维度灾难的概念 维度灾难(Curse of Dimensionality),什么是维度呢?在机器学习的表示中,我们常常用$X$表示数据 阅读全文
posted @ 2021-06-09 22:42 很随便的wei 阅读(49) 评论(0) 推荐(1) 编辑
摘要:一、引入 极大似然估计,我们也把它叫做最大似然估计(Maximum Likelihood Estimation),英文简称MLE。它是机器学习中常用的一种参数估计方法。它提供了一种给定观测数据来评估模型参数的方法。也就是模型已知,参数未定。 在我们正式讲解极大似然估计之前,我们先简单回顾以下两个概念 阅读全文
posted @ 2021-06-09 17:57 很随便的wei 阅读(555) 评论(1) 推荐(3) 编辑