随笔分类 - 线性代数
深度学习数学基础
摘要：1.主成分分析（principal components analysis, PCA）
阅读全文
摘要：1.行列式 行列式，记作 det(A)，是一个将方阵 A 映射到实数的函数，行列式等于矩阵特征值的乘积 行列式的绝对值可以用来衡量矩阵参与矩阵乘法后空间扩大或者缩小了多少。 如果行列式是 0，那么空间至少沿着某一维完全收缩了，使其失去了所有的体积。 如果行列式是 1，那么这个转换保持空间体积不变
阅读全文
摘要：1.Moore-Penrose 伪逆（Moore-Penrose pseudoinverse） 矩阵 A 的伪逆定义为： A + = lima↘0 (A⊤ A + αI) −1 A ⊤ . 计算伪逆的实际算法没有基于这个定义，而是使用下面的公式： A + = VD + U ⊤ 其中，矩阵 U，D 和
阅读全文
摘要：1.特征分解 将矩阵分解成一组特征向量和特征值 2.方阵 A 的特征向量（eigenvector） 与 A 相乘后相当于对该向量进行缩放的非零向量 v Av = λv 标量 λ 被称为这个特征向量对应的特征值（eigenvalue） 如果 v 是 A 的特征向量，那么任何缩放后的向量 sv (s ∈
阅读全文
摘要：1.对角矩阵（diagonal matrix） 只在主对角线上含有非零元素，其他位置都是零 对角方阵的逆矩阵存diag(v) −1 = diag([1/v 1 ,...,1/v n ] ⊤ ) 2.对称（symmetric）矩阵 转置和自己相等的矩阵 A = A ⊤ 3.单位向量（unit vect
阅读全文
摘要：1.范数（norm） 函数衡量向量大小。 L p 范数定义 其中 p ∈ R，p ≥ 1 范数（包括 L p 范数）是将向量映射到非负值的函数。直观上来说，向量 x 的范数衡量从原点到点 x 的距离 欧几里得范数（Euclidean norm） 当 p = 2 时，L 2 范数 从原点出发到向量 x
阅读全文
摘要：1.线性组合（linear combination） 如果 x 和y 都是某方程组的解，则z = αx + (1 − α)y （其中 α 取任意实数）也是该方程组的解。 为了分析方程有多少个解，我们可以将 A 的列向量看作是从原点（origin）（元素都是零的向量）出发的不同方向，确定有多少种方法可
阅读全文
摘要：1.单位矩阵（identity matrix） 所有沿主对角线的元素都是 1，而所有其他位置的元素都是0 任意向量和单位矩阵相乘，都不会改变 我们将保持 n 维向量不变的单位矩阵记作 I n ，形式上，I n ∈ R n×n 2.矩阵的逆 矩阵 A 的矩阵逆（matrix inversion）记作
阅读全文
摘要：1.常见运算 转置（transpose） 是矩阵的重要操作之一。矩阵的转置是以对角线为轴的镜像，这条从左上角到右下角的对角线被称为主对角线（main diagonal）。 我们将矩阵 A 的转置表示为 A ⊤ ，定义如下 向量可以看作是只有一列的矩阵。对应地，向量的转置可以看作是只有一行的矩阵。 标
阅读全文
摘要：1.标量（scalar）： 一个标量就是一个单独的数，它不同于线性代数中研究的其他大部分对象（通常是多个数的数组）。 我们用斜体表示标量。标量通常被赋予小写的变量名称。 介绍标量时，会明确它们是哪种类型的数。 2.向量（vector）： 一个向量是一列数。这些数是有序排列的。 通过次序中的索引，我们
阅读全文
浙公网安备 33010602011771号