子空间
一、子空间的基
1、张成子空间
若 \(S=\left\{ u_1,u_2,\cdots,u_m \right \}\) 是向量空间 \(V\) 的向量子集合,则 \(u_1,u_2,\cdots,u_m\) 的所有线性组合的集合 \(W\) 称为由 \(u_1,u_2,\cdots,u_m\) 张成的子空间,定义为
张成子空间 \(W\) 的每个向量称为 \(W\) 的生成元,而所有的生成元组成的集合 \(\left\{u_1,u_2,\cdots,u_m\right\}\) 称为子空间的张成集。一个只包含了零向量的向量子空间称为平凡子空间。
2、子空间的基
令 \(W\) 是一向量子空间。向量集合 \(\left\{u_1,u_2,\cdots,u_p\right\}\) 称为 \(W\) 的一组基,若下列两个条件满足:
\((1)\) 子空间 \(W\) 由向量 \(u_1,u_2,\cdots,u_p\) 张成,即
\((2)\) 向量集合 \(B=\left\{u_1,u_2,\cdots,u_p\right\}\) 是一线性无关的集合。
3、子空间的维数
子空间 \(W\) 的任何一组基的向量个数称为 \(W\) 的维数,用符号dim(W)表示。若 \(W\) 的任何一组基都不是由有限个线性无关的向量组成时,则称 \(W\) 是无限维向量子空间。
4、基的意义
\(\bigstar\) 给向量子空间规定一组基能够为子空间 \(V\) 提供一坐标系。
子空间向量的唯一表示定理:令 \(B=\left\{b_1,b_2,\cdots,b_n\right\}\) 是 \(n\) 维向量子空间 \(W\) 的一组基,则对于 \(W\) 中的任何一个向量 \(x\),都存在一组唯一的标量 \(c_1,c_2,\cdots,c_n\) 使得 \(x\) 可以表示为
由上面子空间向量的唯一表示定理可知,系数 \(c_1,c_2,\cdots,c_n\) 的唯一性,使得可以利用它们构成子空间 \(W\) 表示的 \(n\) 个坐标,从而组成子空间的坐标系,即这些系数是将 \(x\) 与基 \(B\) 联系起来的坐标(称为 \(x\) 的 \(B\) 坐标)。
简单表述为:若 \(c_1,c_2,\cdots,c_n\) 是向量 \(x\) 的 \(B\) 坐标,则称
是 \(x\) 的坐标向量。
二、无交连、正交与正交补
两个子空间之间的关系由这两个子空间的元素(即向量)之间的关系刻画。
1、无交连
若 \(S_1,S_2,\dots,S_n\) 这些子空间共同的唯一向量为零向量,即 \(S=S_1\cap S_2\cap \cdots \cap S_n=\left\{0\right\}\),则称子空间 \(S_1,S_2,\dots,S_n\) 无交连, \(S\) 称为子空间的直和,记作
此时,每一个向量 \(x\in S\) 具有唯一的分解表示 \(x=a_1+a_2+\cdots+a_n\) ,其中 \(a_i\in S_i\)
2、正交
若子空间 \(S_1\) 中的每一个向量和子空间 \(S_2\) 中的每一个向量都相互正交,则子空间 \(S_1\) 和 \(S_2\) 相互正交。
3、正交补
若一个向量与子空间 \(S\) 的所有向量都正交,则称该向量正交与子空间 \(S\)。推而广之,若与子空间 \(S\) 正交的所有向量的集合组成一个向量子空间,称为 \(S\) 的正交补空间,记作 \(S^\bot\)。具体而言,令 \(S\) 为一向量空间,则称向量空间 \(S^\bot\) 为 \(S\) 的正交补,表示为
4、无交连、正交与正交补之间的关系
\(\bigstar\) 无交连的两个子空间不一定正交,但正交的两个子空间必定是无交连的。
\(\bigstar\) 子空间 \(S\) 在向量空间 \(V\) 的正交补 \(S^\bot\) 一定与 \(S\) 正交,但与 \(S\) 正交的子空间一般不是 \(S\) 正交补。即向量空间 \(V\) 是由它的子空间 \(S\) 与正交补 \(S^\bot\) 补充而成,可表示为
三、子空间的正交投影与夹角
1、子空间的正交投影
令 \(x\in R^n\),\(S\) 和 \(H\) 是两个子空间。若用一线性变换矩阵 \(P\) 将向量 \(x\) 映射为子空间 \(S\) 的向量 \(x_1\)。这种线性变换称为沿着 \(H\) 方向到 \(S\) 的投影算子,常用符号 \(P_{S\mid H}\) 表示。若子空间 \(H\) 是 \(S\) 的正交补,则 \(P_{S\mid S^\bot}*x\) 是将 \(x\) 沿着与子空间 \(S\) 垂直的方向到 \(S\) 的投影,称 \(P_{S\mid S^\bot}*x\) 为到子空间 \(S\) 的正交投影,常用符号 \(P_S\) 表示。
定义:矩阵 \(P\in C^{m\times n}\) 称为到子空间 \(S\) 正交投影算子,若 \(Range(P)=S\),\(P^2=P\) 和 \(P^H=P\)
由子空间的正交投影定义可知,正交投影算子满足幂等性和Hermitian性。若是一个线性算子满足幂等性和Hermitian性,但是其列空间与子空间 \(S\) 不一致,则它就不是子空间 \(S\) 的正交投影算子。
2、子空间的夹角
复向量空间 \(C^n\) 内的两个非零向量 \(x\) 和 \(y\) 之间的夹角记为 \(\theta(x,y)\),它们之间的锐角定义为
向量 \(x\) 与子空间 \(S\) 之间的锐角定义为 \(x\) 与 子空间内所有向量 \(y\) 之间的最小锐角,即
四、矩阵的四大基础子空间
对于一个 \(m\times n\) 的矩阵
有四个重要的基础子空间,分别为
- 列空间
- 行空间
- 零空间
- 左零空间
1、列空间
取 \(A\) 的列向量,令
则
那么对于矩阵 \(A\) 而言,它包含了 \(n\) 个 \(m\) 维列向量,那么 \(A\) 的列空间就是:这 \(n\) 个 \(m\) 维列向量的线性长成空间。
\(①\) 矩阵 \(A\) 的列空间记作 \(Col(A)\) 或 \(C(A)\)
\(②\) 由于每个列向量的维数是 \(n\),故 \(C(A)\) 是 \(R^m\) 的子空间
\(③\) 列空间中的任意一个向量可表示为
将上式展开即为 \(\bar x=r_1C_1+r_2C_2+\cdots+r_nC_n\),满足向量子集合张成子空间的定义。
2、行空间
对矩阵 \(A\) 做行向量拆分,令
则
\(①\) 矩阵 \(A\) 的行空间记作 \(Row(A)\) 或 \(R(A)\)
\(②\) 由于每个行向量的维数是 \(n\),故 \(R(A)\) 是 \(R^n\) 的子空间
\(③\) 类比于列向量,可以将 \(R(A)\) 看作 \(A\) 的转置矩阵右乘一个比例因子向量 \(\begin{bmatrix} r_1' \\r_2'\\ \vdots \\r_m' \end{bmatrix}\) 的向量空间,可以发现矩阵 \(A\) 的行空间就是 \(A^T\) 的列空间,可得 \(R(A)=C(A^T)\)
3、零空间
所有满足 \(A\bar x=0\) 的向量 \(\bar x\) 集合就称之为矩阵A的零空间。如果矩阵 \(A\) 的各列线性无关,则 \(\bar x\) 就只有零向量这个唯一解,如果 \(A\) 的各列线性相关(意味着降维了,进一步是行列式值为零),那么 \(\bar x\) 就有非零解。
由于 \(A\) 是 \(m\times n\) 矩阵,故零空间一定是 \(R^n\) 的子空间。
4、左零空间
\(①\) 等 A^T$ 的零空间,记作 \(N(A^T)\)
\(②\) 由于 \(\tilde yA=0\) 中向量在左侧,故强调“左”零向量
\(③\) 左零空间一定是 \(R^m\) 的子空间
5、四大子空间的正交关系
\(①\) 列空间和左零空间正交
\(②\) 行空间和零空间正交
故有
\(\bigstar\) 任意 \(R^m\) 空间中的向量:可以向【列空间】和【左零空间】进行分解投影
\(\bigstar\) 任意 \(R^n\) 空间中的向量:可以向【行空间】和【零空间】进行分解投影

浙公网安备 33010602011771号