线性方程组

线性方程组

Problem

给出一个线性方程组， 有 \(n\) 个未知数和 \(m\) 个方程

\[a_{11}x_1 + a_{12}x_2 + ... + a_{1n}x_n = b_1\\ a_{21}x_1 + a_{22}x_2 + ... + a_{2n}x_n = b_2\\ ...\\ a_{m1}x_1 + a_{m2}x_2 + ... + a_{mn}x_n = b_m \]

对于解该线性方程组，首先构造增广矩阵，按列分块：

\[A = \left[ \begin{matrix} a_{11} & a_{12} & ... & a_{1n} & b_{1} \\ a_{21} & a_{22} & ... & a_{2n} & b_{1} \\ ... & ... & ... & ... & ... \\ a_{m1} & a_{m2} & ... & a_{mn} & b_{m} \\ \end{matrix} \right] \tag{5} = [\alpha_1 ~~ \alpha_2 ~~ ... ~~ \alpha_n ~~ \beta] \]

对于该增广矩阵，我们利用高斯消元进行求解

Review

秩

一个矩阵 \(A\) 的列秩是 \(A\) 的线性无关的纵列的极大数目。类似的，行秩是 \(A\) 的线性无关的横行的极大数目，矩阵的列秩和行秩总是想等的，因为它们可以简单的称作为矩阵 \(A\) 的秩，通常用 \(r(A), rank(A)~~, ~~ rk(A)\) 表示

行列式定义：设矩阵 \(A\) 为 \(m \times n\) 矩阵，若 \(A\) 至少有一个 \(r\) 阶非零子式，而其所有 \(r + 1\) 阶子式全为零，则称 \(r\) 为 \(A\) 的秩

奇异

对于一个方程 \(A\) 满足条件 \(det(A) ≠ 0\) ，则称 \(A\) 为非奇异方阵，否则称为奇异矩阵， \(det(A)\) 表示 \(A\) 的行列式不为零

方阵 \(A\) 非奇异与一下论述等价：

• \(A\) 式可逆的
• \(A^TA\) 式可逆的
• \(A\) 的行列式不为 \(0\)
• \(A\) 的秩等于 \(n\) (\(A\) 满秩)
• \(A\) 的转置矩阵 \(A^T\) 也是可逆的
• \(A\) 的任意特征值非零
• 存在一个 \(n\) 阶方阵 \(B\) 使得 \(AB=BA=I_n\) ($I_n $ 为单位矩阵)

线性相关

在一个向量空间的一组元素中，若没有向量可用有限个其他向量的线性组合所表示，则称为线性无关或线性独立，反之称为线性相关，例如在三维欧几里得空间 \(\mathbb{R}^3\) 的三个向量 \((1, 0, 0), (0, 1, 0) 和 （0，0，1）\) 线性无关，但 \((2, -1, 1), (1, 0, 1) 和 (3,-1,2)\) 线性相关，因为第三个式前两个的和

• 含有零向量的向量组，必定线性相关。

​ 若由向量组 \(a_1, a_2, ...,a_s\)， 其中 \(a_1 = 0\), 则 \(a_1 = 0 · a_2 + ... + 0 · a_s\)

• 含有两个相等向量的向量组，必定线性相关。

​ 若由向量组 \(a_1, a_2, ...,a_s\)， 其中 \(a_1 = a_2\), 则 \(a_1 = a_2 + 0 ·a_3 + ... + 0 · a_s\)

• 若一向量组相关，则加上任意个向量后，仍然线性相关；即局部线性相关，整体必线性相关。
• 整体线性无关，局部必线性无关。
• 向量个数大于向量维数，则此向量组线性相关。
• 若一向量组线性无关，即使每一向量都在同一位置处增加一分量，仍然线性无关。
• 若一向量组线性相关，即使每一向量都在同一位置处减去一分量，仍然线性相关。
• 若 \(a_1, a_2, ... , a_s\) 线性无关，而\(b, a_1, a_2, ... , a_s\) 线性相关，则 \(b\) 必可由 \(a_1, a_2, ... , a_s\) 线性表示，且表示系数唯一。

基 (basis)

向量空间 \(S\) 中的基首先应该遵循两个条件：

• 首先基内所有向量线性无关
• 他们可以生成 \(S\)

基的扩张：

一个向量空间的每一组基都是一个极大的线性无关集合，同时也是极小的生成集合。可以证明，如果向量空间拥有一组基，那么每个线性无关的子集都可以扩张成一组基（也称为基的扩充定理），每个能够生成整个空间的子集也必然包含一组基

Conclusion

• \(r(A)=r(A|β)=n\)：方程组有唯一解。

• \(r(A)=r(A|β)=p<n\)：则所有这些向量都位于一个 \(n\) 维的线性空间中，可以从矩阵 \(A\) 中找出任意 \(p\) 个线性无关的列向量来构成这个空间中的一组基，由于 \(\beta\) 也在这个空间中，所以 \(\beta\) 能被选定的列向量唯一表示。那为什么有无穷个解呢？在矩阵 \(A\) 中取线性无关的 \(p\) 个向量作为 \(p\) 维空间的基，那剩下的 \(n - p\) 个向量自然可以被选出来的基表示，对应的 \(n - p\) 个未知数称为自由元，不论剩余向量前面的系数取什么值，这些向量的影响都可以被基取对应系数消去，故解就有无穷个。

• \(r(A)+1=r(A|β)\)：说明 \(β\) 不在矩阵 \(A\) 的列向量构成的线性空间中(封闭性)，故无法被表示，即无解