（南科大深度学习课程笔记）Lecture_2_Mathematical background(数学背景)（上） - 详解

Mathematical background(数学背景)（上）

Linear algebra

Scalars and vectors(标量和向量，没什么好说的)

Matrices and tensors（矩阵和张量）

matrix：

通过“数的数组”，只不过这个数组能够有不同数量的“维度”（dimension）就是tensor ：张量就

张量是一个数字数组，可能有

标量就是–零维

–一维是向量：例子：[1, 2, 3]

–二维是矩阵：[[1, 2, 3], [4, 5, 6]]

-或更多尺寸。（两个 2×2 的矩阵叠在一起。）

[[[ 1, 2],[ 3, 4]],[[ 5, 6],[ 7, 8]]]

矩阵的运算

Matrix transpose（转置）

atrix addition and subtraction（加减）

Scalar multiplication（数乘）

Matrix multiplication（乘积）

Identity matrix（单位矩阵I 或 E表示 ）

Trace of a matrix（矩阵的迹）diagonal （对角线元素之和）

Linear systems of equations（A可逆，A的的行列式不为0，A为满rank时解唯一）

解唯一（因为 A−1 是唯一的，所以 x 也唯一）

解存在（因为我们可以显式写出解），

Norms（范数）

Special vectors and matrices（正交矩阵和正交向量相互区别，一个是积为I ，一个是积为0）（复习：等价矩阵的定义：PAQ=B,P,Q唯一，两个矩阵等价 ⇔ 它们行通过初等行列变换互化 ⇔ 它们有相同的秩）（等价向量：等价⇔ 它们互相线性表出）

Matrix eigendecomposition（矩阵特征分解）

Singular value decomposition（奇异值分解）（由于鼠鼠线性代数还没复习到这个地方，就暂时不做解释）

没怎么复习）就是Probability & information theory（概率论与信息论）（鼠鼠也

概率质量函数（Probability mass function）（所有可能结果的概率之和必须等于 1。）（满足归一化）

概率密度函数（Probability density function）（整个定义域上的积分必须等于 1）（满足归一化）

例子：均匀分布（连续版）。

important rules

Variance and covariance（方差和协方差）

分布：（看一下就好了）