【深度学习数学基础：线性代数】4. 线性空间及线性映射：4.5 相似矩阵

4. 线性空间及线性映射

4.5 相似矩阵

设\(\boldsymbol{A}\)和\(\boldsymbol{B}\)均为\(n\)阶方阵，若存在可逆阵\(\boldsymbol{P}\)使得\(\boldsymbol{P}^{-1}\boldsymbol{A}\boldsymbol{P} = \boldsymbol{B}\)，则称\(\boldsymbol{B}\)是\(\boldsymbol{A}\)的相似矩阵，或说矩阵\(\boldsymbol{A}\)与\(\boldsymbol{B}\)相似。对\(\boldsymbol{A}\)进行\(\boldsymbol{P}^{-1}\boldsymbol{A}\boldsymbol{P}\)运算称为做相似变换。

• 若\(n\)阶矩阵\(\boldsymbol{A}\)与\(\boldsymbol{B}\)相似，则\(\boldsymbol{A}\)与\(\boldsymbol{B}\)的特征多项式相同，从而\(\boldsymbol{A}\)与\(\boldsymbol{B}\)的特征值亦相同，但\(\boldsymbol{A}\)与\(\boldsymbol{B}\)的特征向量不一定相同。若\(\boldsymbol{A}\)与\(\boldsymbol{B}\)相似则存在可逆阵\(\boldsymbol{P}\)使得\(\boldsymbol{P}^{-1}\boldsymbol{A}\boldsymbol{P} = \boldsymbol{B}\)，因而：

  \[|\boldsymbol{B} - \lambda\boldsymbol{I}| = \left|\boldsymbol{P}^{-1}\boldsymbol{A}\boldsymbol{P} - \boldsymbol{P}^{-1}(\lambda\boldsymbol{I})\boldsymbol{P}\right| = \left|\boldsymbol{P}^{-1}(\boldsymbol{A} - \lambda\boldsymbol{I})\boldsymbol{P}\right| = \left|\boldsymbol{P}^{-1}\right| \cdot |\boldsymbol{A} - \lambda\boldsymbol{I}| \cdot |\boldsymbol{P}| = |\boldsymbol{A} - \lambda\boldsymbol{I}| \]

• 若\(n\)阶矩阵\(\boldsymbol{A}\)与对角阵\(\boldsymbol{\Lambda}\)相似，则对角元\(\lambda_1, \lambda_2, \cdots, \lambda_n\)是\(\boldsymbol{A}\)的\(n\)个特征值：

  \[\boldsymbol{\Lambda} = \begin{pmatrix} \lambda_1 & & & \\ & \lambda_2 & & \\ & & \ddots & \\ & & & \lambda_n \end{pmatrix} \]

• 若\(\boldsymbol{A}\)与\(\boldsymbol{B}\)相似（\(\boldsymbol{P}^{-1}\boldsymbol{A}\boldsymbol{P} = \boldsymbol{B}\)），则\(\boldsymbol{A}\)与\(\boldsymbol{B}\)有相同数量的特征向量，若\(\boldsymbol{v}_A\)为\(\boldsymbol{A}\)的特征向量则\(\boldsymbol{P}^{-1}\boldsymbol{v}_A\)为\(\boldsymbol{B}\)的特征向量。

【注】特征多项式是对于\(n\)阶方阵\(\boldsymbol{A}\)，由行列式\(|\boldsymbol{A} - \lambda\boldsymbol{I}|\)展开得到的关于\(\lambda\)的\(n\)次多项式，其根即为矩阵\(\boldsymbol{A}\)的特征值。

【证明】若\(\boldsymbol{A}\)与\(\boldsymbol{B}\)相似（\(\boldsymbol{P}^{-1}\boldsymbol{A}\boldsymbol{P} = \boldsymbol{B}\)），则\(\boldsymbol{A}\)与\(\boldsymbol{B}\)有相同数量的特征向量，若\(\boldsymbol{v}_A\)为\(\boldsymbol{A}\)的特征向量则\(\boldsymbol{P}^{-1}\boldsymbol{v}_A\)为\(\boldsymbol{B}\)的特征向量。
设 \(\boldsymbol{A}\) 和 \(\boldsymbol{B}\) 是相似矩阵，即存在可逆阵 \(\boldsymbol{P}\) 使得 \(\boldsymbol{B} = \boldsymbol{P}^{-1} \boldsymbol{A} \boldsymbol{P}\)。设 \(\lambda\) 和 \(\boldsymbol{v}_A\) 分别为 \(\boldsymbol{A}\) 的特征值和特征向量，即有

\[\boldsymbol{A} \boldsymbol{v}_A = \lambda \boldsymbol{v}_A \]

设 \(\boldsymbol{v}_B\) 为 \(\boldsymbol{B}\) 的特征向量，则有

\[\boldsymbol{B} \boldsymbol{v}_B = \lambda \boldsymbol{v}_B \]

因此有

\[\boldsymbol{P}^{-1} \boldsymbol{A} \boldsymbol{P} \boldsymbol{v}_B = \lambda \boldsymbol{v}_B \]

等式两边同时左乘 \(\boldsymbol{P}\)，所以有

\[\boldsymbol{A} \boldsymbol{P} \boldsymbol{v}_B = \lambda \boldsymbol{P} \boldsymbol{v}_B \]

所以有

\[\boldsymbol{v}_A = \boldsymbol{P} \boldsymbol{v}_B \quad \rightarrow \quad \boldsymbol{v}_B = \boldsymbol{P}^{-1} \boldsymbol{v}_A \]

【证明完毕】

什么样的矩阵可以与对角阵相似？

• 矩阵 \(\boldsymbol{A}\) 与对角阵相似的充要条件是 \(\boldsymbol{A}\) 有 \(n\) 个线性无关的特征向量
• 若 \(\boldsymbol{A}\) 的 \(n\) 个特征值互不相等，则 \(\boldsymbol{A}\) 与对角阵相似，与对角阵相似不见得\(\boldsymbol{A}\)有\(n\)个不等的特征值，例如对角元素都相等。

很难说明一个一般矩阵具备什么条件时便可对角化，但如果 \(\boldsymbol{A}\) 是实对称阵（如果一个 \(n\) 阶矩阵 \(\boldsymbol{A}\) 的所有元素都是实数，并且矩阵 \(\boldsymbol{A}\) 的转置等于其自身，即 \(\boldsymbol{A}^T = \boldsymbol{A}\)，则称矩阵 \(\boldsymbol{A}\) 为实对称矩阵。），那么

• 特征值一定为实数（特征向量不一定为实向量）
• 不同特征值对应的特征向量正交（非对称阵特征向量仅线性无关）
• 一定存在正交阵 \(\boldsymbol{P}\)，使得 \(\boldsymbol{P}^{-1} \boldsymbol{A} \boldsymbol{P} = \boldsymbol{P}^{\top} \boldsymbol{A} \boldsymbol{P} = \boldsymbol{\Lambda}\), \(\boldsymbol{\Lambda}\) 以 \(\boldsymbol{A}\) 的 \(n\) 个对角元为对角阵

正交阵是一种特殊的方阵，它满足 \(\boldsymbol{Q}^{T} \boldsymbol{Q} = \boldsymbol{Q} \boldsymbol{Q}^{T} = \boldsymbol{I}\)，即它的两个不同的列正交 \(\boldsymbol{q}_{i}^{T} \boldsymbol{q}_{j} = 0\) 且 \(\left\|\boldsymbol{q}_{i}\right\| = 1\)。（两个向量正交，说明内积为0）