【深度学习数学基础:线性代数】4. 线性空间及线性映射:4.3 重根与重数
4. 特征值特征向量
4.3 重根与重数
【补】行列式计算方法
1. 余子式
在\(n\)阶行列式中,去掉元素\(a_{ij}\)所在的第\(i\)行、第\(j\)列元素,由剩下的元素按原来的位置与顺序组成的\(n-1\)阶行列式称为元素\(a_{ij}\)的余子式,记作\(M_{ij}\),即
2. 代数余子式
余子式\(M_{ij}\)乘\((-1)^{i+j}\)后称为\(a_{ij}\)的代数余子式,记作\(A_{ij}\),即
显然也有\(M_{ij} = (-1)^{i+j}A_{ij}\)。
3. 行列式按某一行(列)展开的展开公式
目的:降阶,即\(n\)阶降成\(n\)个\(n-1\)阶
展开原则:某一行(列)为0的元素越多越好
行列式等于行列式的某行(列)元素分别乘其相应的代数余子式后再求和,即
但行列式的某行(列)元素分别乘另一行(列)元素的代数余子式后再求和,结果为零,即
例
(A)17
(B)15
(C)13
(D)11
解:应选(B)。按第一列展开
故选(B)。
【补】解线性方程组的方法
一、线性方程组与向量组其实是一回事
我们来看一般的非齐次线性方程组:
该方程组的系数矩阵:
就是若干个列向量拼成的,且其增广矩阵:
就是系数矩阵再添加一个列向量拼成的。
仔细观察,把上述方程组写成向量的形式便不难看出,该方程组的未知数就是向量组中各成员的系数:
其中:
所以从本质上说,方程组问题就是向量组问题,方程组和向量组是同一个问题的两种表现形式,其本质一样,所以解决方法也一样。
求解线性方程组,就是对增广矩阵作初等行变换,化成行阶梯形矩阵,然后求解。这个基本方法贯穿这门课程始终。
接下来,该方程组有无穷多解时,如何表示出所有的解?这又是某个(无穷)向量组用什么"代表"来表示的问题。这个"代表"就是基础解系。于是,解线性方程组便成了这一部分的关键。
解方程组所得到的解\(x_1, x_2, \cdots, x_n\)就是描述向量与向量之间关系的表示系数。
二、齐次线性方程组
1. 方程组的三种形式
(1) 代数形式(\(m\) 个方程,\(n\) 个未知量):
(2) 向量形式:
列向量的线性组合为零向量:
其中列向量:
(3) 矩阵形式:
系数矩阵与未知向量的乘积为零向量:
其中:
2. 有解的条件
- 当 \(\boldsymbol{r}(\boldsymbol{A}) = n\)(即 \(\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \cdots, \boldsymbol{\alpha}_n\) 线性无关)时,方程组 (I) 有 唯一零解;
- 当 \(\boldsymbol{r}(\boldsymbol{A}) = r < n\)(即 \(\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \cdots, \boldsymbol{\alpha}_n\) 线性相关)时,方程组 (I) 有 非零解(无穷多解),且含 \(n\!-\!r\) 个线性无关解。
3. 解的性质
若 \(\boldsymbol{A}\boldsymbol{\xi}_1 = \boldsymbol{0}\) 且 \(\boldsymbol{A}\boldsymbol{\xi}_2 = \boldsymbol{0}\),则对任意常数 \(k_1, k_2\),有:
4. 基础解系与解的结构
(1) 基础解系的定义
设 \(\boldsymbol{\xi}_1, \boldsymbol{\xi}_2, \cdots, \boldsymbol{\xi}_{n-r}\) 满足(\(r(\boldsymbol{A}) < n\)):
① 是 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的解;
② 线性无关;
③ \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的任一解均可由 \(\boldsymbol{\xi}_1, \boldsymbol{\xi}_2, \cdots, \boldsymbol{\xi}_{n-r}\) 线性表示,
则称 \(\boldsymbol{\xi}_1, \boldsymbol{\xi}_2, \cdots, \boldsymbol{\xi}_{n-r}\) 为 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的 基础解系。
(2) 通解的形式
设 \(\boldsymbol{\xi}_1, \boldsymbol{\xi}_2, \cdots, \boldsymbol{\xi}_{n-r}\) 是基础解系,则方程组的 通解 为:
(\(k_1, k_2, \cdots, k_{n-r}\) 为任意常数。)
上述集合称为 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的 解空间(所有解构成的线性空间)。
5. 求解方法与步骤
-
化行阶梯形矩阵:
对系数矩阵 \(\boldsymbol{A}\) 作初等行变换,化为 行阶梯形 \(\boldsymbol{B}\)(或行最简形)。
初等行变换保持解不变,故 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 与 \(\boldsymbol{B}\boldsymbol{x} = \boldsymbol{0}\) 同解。设 \(r(\boldsymbol{A}) = r\),\(\boldsymbol{B}\) 形式为:\[\boldsymbol{B} = \begin{bmatrix} c_{11} & c_{12} & \cdots & c_{1r} & \cdots & c_{1n} \\ 0 & c_{22} & \cdots & c_{2r} & \cdots & c_{2n} \\ \vdots & \vdots & & \vdots & & \vdots \\ 0 & 0 & \cdots & c_{rr} & \cdots & c_{rn} \\ 0 & 0 & \cdots & 0 & \cdots & 0 \\ \vdots & \vdots & & \vdots & & \vdots \\ 0 & 0 & \cdots & 0 & \cdots & 0 \end{bmatrix}_{m \times n} \] -
选取自由变量:
从 \(\boldsymbol{B}\) 中选一个秩为 \(r\) 的列子矩阵,剩余列对应的未知量为 自由变量(共 \(n\!-\!r\) 个)。 -
求基础解系与通解:
令自由变量取单位向量组,回代求基础解系 \(\boldsymbol{\xi}_1, \cdots, \boldsymbol{\xi}_{n-r}\),再写出通解。
例 齐次线性方程组的通解求解
方程组:
步骤1:初等行变换化阶梯形
系数矩阵 \(\boldsymbol{A}\) 的变换过程:
-
第一步:消元第一列
第一行 \(\times (-1)\) 加至第二行,\(\times (-4)\) 加至第三行,\(\times (-2)\) 加至第四行:\[\xrightarrow[ \begin{subarray}{c} (-1)\text{倍加至第二行} \\ (-4)\text{倍加至第三行} \\ (-2)\text{倍加至第四行} \end{subarray} ]{} \begin{bmatrix} 1 & 1 & 0 & -3 & -1 \\ 0 & -2 & 2 & 2 & 1 \\ 0 & -6 & 6 & 15 & 0 \\ 0 & 2 & -2 & 10 & -5 \end{bmatrix} \] -
第二步:消元第二列
第二行 \(\times (-3)\) 加至第三行,\(\times 1\) 加至第四行:\[\xrightarrow[ \begin{subarray}{c} (-3)\text{倍加至第三行} \\ (1)\text{倍加至第四行} \end{subarray} ]{} \begin{bmatrix} 1 & 1 & 0 & -3 & -1 \\ 0 & -2 & 2 & 2 & 1 \\ 0 & 0 & 0 & 9 & -3 \\ 0 & 0 & 0 & 12 & -4 \end{bmatrix} \] -
第三步:消元第四列
第三行 \(\times (-\frac{4}{3})\) 加至第四行:\[\xrightarrow{(-\frac{4}{3})\text{倍加至第四行}} \begin{bmatrix} 1 & 1 & 0 & -3 & -1 \\ 0 & -2 & 2 & 2 & 1 \\ 0 & 0 & 0 & 9 & -3 \\ 0 & 0 & 0 & 0 & 0 \end{bmatrix} \] -
第四步:简化第三行
第三行 \(\times \frac{1}{3}\):\[\xrightarrow{\times \frac{1}{3}\text{(第三行)}} \begin{bmatrix} 1 & 1 & 0 & -3 & -1 \\ 0 & -2 & 2 & 2 & 1 \\ 0 & 0 & 0 & 3 & -1 \\ 0 & 0 & 0 & 0 & 0 \end{bmatrix} = \boldsymbol{B} \]
此时 \(r(\boldsymbol{A}) = r(\boldsymbol{B}) = 3\),\(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 与 \(\boldsymbol{B}\boldsymbol{x} = \boldsymbol{0}\) 同解。
步骤2:选取自由变量
选第一、二、四列(秩为3),剩余第三、五列对应 自由变量:\(x_3, x_5\)。
步骤3:求通解
设 \(x_3 = k_1\),\(x_5 = 3k_2\)(令 \(x_5 = 3k_2\) 简化 \(x_4 = \frac{x_5}{3} = k_2\)),回代 \(\boldsymbol{B}\boldsymbol{x} = \boldsymbol{0}\):
- 第二行:\(-2x_2 + 2x_3 + 2x_4 + x_5 = 0 \implies x_2 = x_3 + x_4 + \frac{x_5}{2} = k_1 + k_2 + \frac{5}{2}k_2\);
- 第一行:\(x_1 + x_2 - 3x_4 - x_5 = 0 \implies x_1 = -x_2 + 3x_4 + x_5 = -k_1 + \frac{7}{2}k_2\)。
整理解向量:
(\(k_1, k_2\) 为任意常数。)
【注】
-
自由变量的选取:\(x_2, x_3\) 或 \(x_2, x_5\) 或 \(x_3, x_4\) 也可作为自由变量(因阶梯形中列地位等同)。
-
行最简形回代(补充方法):
对 \(\boldsymbol{B}\) 继续变换为 行最简形 \(\boldsymbol{C}\):\[\boldsymbol{B} \xrightarrow[ \begin{subarray}{c} \times (-\frac{1}{2})\text{(第二行)} \\ \times \frac{1}{3}\text{(第三行)} \end{subarray} ]{} \begin{bmatrix} 1 & 1 & 0 & -3 & -1 \\ 0 & 1 & -1 & -1 & -\frac{1}{2} \\ 0 & 0 & 0 & 1 & -\frac{1}{3} \\ 0 & 0 & 0 & 0 & 0 \end{bmatrix} \]\[\xrightarrow[ \begin{subarray}{c} 2\text{倍加至第二行} \\ 3\text{倍加至第一行} \end{subarray} ]{} \begin{bmatrix} 1 & 1 & 0 & 0 & -2 \\ 0 & 1 & -1 & 0 & -\frac{5}{6} \\ 0 & 0 & 0 & 1 & -\frac{1}{3} \\ 0 & 0 & 0 & 0 & 0 \end{bmatrix} \]\[\xrightarrow{(-1)\text{倍加至第一行}} \begin{bmatrix} 1 & 0 & 1 & 0 & -\frac{7}{6} \\ 0 & 1 & -1 & 0 & -\frac{5}{6} \\ 0 & 0 & 0 & 1 & -\frac{1}{3} \\ 0 & 0 & 0 & 0 & 0 \end{bmatrix} = \boldsymbol{C} \]设 \(x_3 = k_1\),\(x_5 = 3k_2\),则 \(x_4 = k_2\),\(x_2 = k_1 + \frac{5}{2}k_2\),\(x_1 = -k_1 + \frac{7}{2}k_2\),通解与之前一致。
三、非齐次线性方程组
1. 方程组的三种形式
(1) 代数形式(\(m\) 个方程,\(n\) 个未知量):
(2) 向量形式:
列向量的线性组合:
其中列向量:
(3) 矩阵形式与增广矩阵:
系数矩阵与未知向量的乘积:
其中:
增广矩阵(记为 \([\boldsymbol{A} \mid \boldsymbol{b}]\)):
2. 有解的条件
- 若 \(\boldsymbol{r}(\boldsymbol{A}) \neq \boldsymbol{r}([\boldsymbol{A} \mid \boldsymbol{b}])\)(即 \(\boldsymbol{b}\) 不能由 \(\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \cdots, \boldsymbol{\alpha}_n\) 线性表示),则方程组 无解;
- 若 \(\boldsymbol{r}(\boldsymbol{A}) = \boldsymbol{r}([\boldsymbol{A} \mid \boldsymbol{b}]) = n\)(即 \(\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \cdots, \boldsymbol{\alpha}_n\) 线性无关,且 \(\boldsymbol{\alpha}_1, \boldsymbol{\alpha}_2, \cdots, \boldsymbol{\alpha}_n, \boldsymbol{b}\) 线性相关),则方程组 有唯一解;
- 若 \(\boldsymbol{r}(\boldsymbol{A}) = \boldsymbol{r}([\boldsymbol{A} \mid \boldsymbol{b}]) = r < n\),则方程组 有无穷多解。
3. 解的性质
设 \(\boldsymbol{\eta}_1, \boldsymbol{\eta}_2, \boldsymbol{\eta}\) 是非齐次线性方程组 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{b}\) 的解,\(\boldsymbol{\xi}\) 是对应齐次方程组 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的解,则:
- \(\boldsymbol{\eta}_1 - \boldsymbol{\eta}_2\) 是 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的解;
- \(k\boldsymbol{\xi} + \boldsymbol{\eta}\) 是 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{b}\) 的解(\(k\) 为任意常数)。
4. 求解方法与步骤
- 求导出组 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\) 的通解:\(k_1\boldsymbol{\xi}_1 + k_2\boldsymbol{\xi}_2 + \cdots + k_{n-r}\boldsymbol{\xi}_{n-r}\);
- 求 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{b}\) 的一个特解 \(\boldsymbol{\eta}\)(\(\boldsymbol{\Rightarrow}\) 非齐次通解 = 齐次通解 + 非齐次特解);
- 非齐次通解为:
(\(k_1, \dots, k_{n-r}\) 为任意常数。)
例
设
已知 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{b}\) 存在两个不同的解(\(\boldsymbol{\Rightarrow}\) 即有无穷多解)。
(1) 求 \(\lambda, a\) 的值
非齐次方程组有两个不同解 \(\implies\) 有无穷多解 \(\implies\) 系数行列式 \(|\boldsymbol{A}| = 0\):
解得 \(\lambda = -1\) 或 \(\lambda = 1\)。
- 当 \(\lambda = 1\) 时,增广矩阵变换:
此时 \(\boldsymbol{r}(\boldsymbol{A}) = 1\),\(\boldsymbol{r}([\boldsymbol{A} \mid \boldsymbol{b}]) = 2\),无解,故 \(\lambda = 1\) 舍去。
- 当 \(\lambda = -1\) 时,增广矩阵变换:
有解 \(\implies a+2 = 0 \implies a = -2\)。
综上:\(\boldsymbol{\lambda = -1}\),\(\boldsymbol{a = -2}\)。
(2) 求方程组 \(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{b}\) 的通解
对 \(\lambda = -1, a = -2\) 的增广矩阵继续变换:
-
导出组通解(\(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{0}\)):
自由变量 \(x_3 = k\),得基础解系 \(\boldsymbol{\xi} = \begin{bmatrix} 1 \\ 0 \\ 1 \end{bmatrix}\)。 -
非齐次特解(\(\boldsymbol{A}\boldsymbol{x} = \boldsymbol{b}\)):
令 \(x_3 = 0\),得 \(\boldsymbol{\eta} = \begin{bmatrix} \dfrac{3}{2} \\ -\dfrac{1}{2} \\ 0 \end{bmatrix}\)。
故通解为:
(\(k\) 为任意常数。)
重根与重数
特征值的重数称为代数重数,特征值所对应的特征向量所构成空间的维数,称为几何重数。
因而有
对于 \(\lambda_{1}=2\),解方程 \((A-2I)\boldsymbol{x}=\mathbf{0}\) 得 \(\boldsymbol{p}_{1}=(0,0,1)^{T}\),所以 \(\lambda_{1}\) 对应的特征向量为 \(k\boldsymbol{p}_{1}\)。
对于 \(\lambda_{2}=\lambda_{3}=1\),解方程 \((A-I)\boldsymbol{x}=\mathbf{0}\) 得 \(\boldsymbol{p}_{2}=(-1,-2,1)^{T}\),所以 \(\lambda_{2}=\lambda_{3}\) 对应的特征向量为 \(k\boldsymbol{p}_{2}\)。此时代数重数为 2,几何重数为 1。(因为\(\{k\boldsymbol{p}_2\}\)所张成的向量空间是1维的(因为这个特征重根对应的特征向量只有1个))
解方程过程如下:
(1) 对 \(\lambda_1 = 2\)
构造矩阵 \(A - 2I\):
解方程组 \((A - 2I)\boldsymbol{x} = \boldsymbol{0}\):
- 第三行:\(x_1 = 0\);
- 代入前两行:\(x_2 = 0\);
- \(x_3\) 为自由变量(设为 \(k\)),得解:
(2) 对 \(\lambda_2 = \lambda_3 = 1\)
构造矩阵 \(A - I\):
解方程组 \((A - I)\boldsymbol{x} = \boldsymbol{0}\):
- 前两行线性相关,有效方程:\(\begin{cases} x_2 = 2x_1 \\ x_3 = -x_1 \end{cases}\);
- 设 \(x_1 = k\)(自由变量),得解:
浙公网安备 33010602011771号