摘要：
t-SNE 算法 1 前言 t-SNE 即 t-distributed stochastic neighbor embedding 是一种用于降维的机器学习算法，在 2008 年由 Laurens van der Maaten 和 Geoffrey Hinton 提出。 t-SNE 是一种非线性降维 阅读全文
摘要：
伯努利试验 伯努利试验（Bernoulli experiment）是在同样的条件下重复地、相互独立地进行的一种随机试验，其特点是该随机试验只有两种可能结果：发生或者不发生。 我们假设该项试验独立重复地进行了 $n$ 次，那么就称这一系列重复独立的随机试验为 $n$ 重伯努利试验，或称为伯努利概型。单 阅读全文
摘要：
机器学习第一次作业 1.试设计一个不同于高斯核和Epanechnikov核的核函数。 2.如果 $\mathrm{N}$ 个独立的观测样本 $x_{1}, x_{2}, x_{3}, \ldots, x_{N}$ 服从概率密度 $\mathrm{p}(\mathrm{x} \mid \hat{\th 阅读全文
摘要：
可逆矩阵 矩阵 $A$ 为 $n$ 阶方阵，若存在 $n$ 阶矩阵 $B$，使得矩阵 $A、B$ 的乘积为单位阵，则称 $A$ 为可逆阵，$B$ 为 $A$ 的逆矩阵。若方阵的逆阵存在，则称为可逆矩阵或非奇异矩阵，且其逆矩阵唯一。 定义 设 $P$ 是数域， $A \in P^{n \times n 阅读全文
摘要：
梯度消失、爆炸带来的影响 举个例子，对于一个含有三层隐藏层的简单神经网络来说，当梯度消失发生时，接近于输出层的隐藏层由于其梯度相对正常，所以权值更新时也就相对正常，但是当越靠近输入层时，由于梯度消失现象，会导致靠近输入层的隐藏层权值更新缓慢或者更新停滞。这就导致在训练时，只等价于后面几层的浅层网络的 阅读全文
摘要：
转置是一个数学名词。直观来看，将A的所有元素绕着一条从第1行第1列元素出发的右下方45度的射线作镜面反转，即得到A的转置。一个矩阵M, 把它的第一行变成第一列，第二行变成第二列，......,最末一行变为最末一列， 从而得到一个新的矩阵N。 这一过程称为矩阵的转置。即矩阵A的行和列对应互换。 基本性 阅读全文
摘要：
实对称矩阵：如果有 $n$ 阶矩阵 $A$ , 其矩阵的元素都为实数, 且矩阵 $A$ 的转置等于其本身, 即 $A=A^{T}$ 则称 A 为实对称矩阵。 它有一些性质: 实对称矩阵属于不同特征值的特征向量相互正交(必线性无关)。 实对称矩阵属于 $ n_{i}$ 重特征值的线性无关的特征向量恰有 阅读全文
摘要：
奇异值分解 特征值分解是一个提取矩阵特征很不错的方法，但是它只是对方阵而言的，在现实的世界中，我们看到的大部分矩阵都不是方阵。 奇异值分解基本定理：若 $ A$ 为 $ m \times n$ 实矩阵, 则 $ A$ 的奇异值分解存在 $A=U \Sigma V^{T}$ $A=U \Sigma V 阅读全文
摘要：
特征值分解 设 $A_{n \times n}$ 有 $n$ 个线性无关的特征向量 $\boldsymbol{x}_{1}, \ldots, \boldsymbol{x}_{n}$，对应特征值分别为 $\lambda_{1}, \ldots, \lambda_{n} $ $A\left[\begin 阅读全文
摘要：
Conda 命令 1 检验当前conda的版本 conda -V 2 conda常用的命令 查看已有的虚拟环境 conda env list 创建虚拟环境和删除虚拟环境 anaconda命令创建python版本为x.x，名字为env_name的虚拟环境。env_name文件可以在Anaconda安装 阅读全文