线性代数基础

本篇用于记录线性代数中的一些基础知识。定理的证明记住四个词：展开，定义，反证，数学归纳法。

逆序数与行列式的概念

一个$n$阶行列式由$n^2$个元素组成，展开后有$n!$项，其中每一项都是由不同行、不同列的$n$个元素的乘积构成。符号取决于这$n$个不同行、不同列的元素的排列顺序。

逆序数是为了确定行列式每一项的符号。逆序数即数字后面比该数字小的数字的个数。

假定有一个五阶行列式，其中某一项是$a_{12}a_{21}a_{55}a_{43}a_{34}$

行的排序是：$12543$ 它的逆序数计算为：1的逆序数为0，2的逆序数为0，5的逆序数为2 ，4的逆序数为1，3的逆序数为0 。

行的逆序数之和为： $\tau(1 2 5 4 3) = 0+0+2+1+0=3 $

列的排序是：$21534$ 它的逆序数计算为：2的逆序数为1，1的逆序数为0，5的逆序数为2 ，3的逆序数为0，4的逆序数为0 。

列的逆序数之和为： $\tau(2 1 5 3 4) = 1+0+2+0+0=3 $

然后将行、列的逆序数之和加起来，则行列式的该项$a_{12}a_{21}a_{55}a_{43}a_{34}$的逆序数为$6$

故由$(-1)^6=1$可知该项取y正号

一组数中相邻两数对换，则逆序数奇偶性改变。非相邻两数对换，需要进行奇数次相邻两数对换，因此逆序数奇偶性改变。

对于行列式中的项$a_{12}a_{21}a_{55}a_{43}a_{34}$，若将其转换为$a_{12}a_{21}a_{34}a_{43}a_{55}$，则行的逆序数与列的逆序数奇偶性同时改变，它们的和奇偶性不变，故该项前的符号不变。

克拉默法则

若非齐次线性方程组的系数行列式$D$不为$0$，那么方程有唯一解$x_j = \frac{D_j}{D}(j=1,2,\cdots,n)$

其中$D_j$为把$D$中$x_j$的系数对应地替换成常数列而其余各列保持不变得到的行列式。

根据克拉默法则，系数行列式$D \neq 0$的线性方程组只有唯一解。而齐次线性方程组必有零解，所以它只有零解。

余子式与代数余子式

余子式：在$n$阶行列式中，划去元素$a_{ij}$所在的第$i$行与第$j$列的元素，剩下的元素不改变原来的顺序所构成的$n-1$阶行列式称为元素$a_{ij}$的余子式，记作$M_{ij}$。

代数余子式：$A_{ij}=(-1)^{i+j} M_{ij}$

行列式等于它任意一行(列)的各元素与其对应的代数式余子式乘积之和：

$D=a_{i1}A_{i1}+a_{i2}A_{i2}+\cdots+a_{in}A_{in} (i=1,2,3,\cdots,n)$；

$D=a_{1j}A_{1j}+a_{2j}A_{2j}+\cdots+a_{nj}A_{nj} (j=1,2,3,\cdots,n)$。

行列式中某一行（列）各个元素与另一行（列）对应元素的代数余子式乘积之和等于$0$ （行元素不能乘列余子式）

重要行列式

（1）上（下）三角主对角线行列式的值等于主对角线元素的乘积。

（2）副对角线行列式的值等于副对角线元素的乘积$×(-1)^{\frac{n(n-1)}{2}}$

（3）拉普拉斯变换，$A$是$m$阶矩阵，$B$是$n$阶矩阵。（数学归纳法证明）

        $\left|\begin{array}{ccc} A& *\\ 0 & B \end{array} \right| = \left|\begin{array}{ccc} A& 0\\ *& B \end{array} \right| = |A||B|$

        $\left|\begin{array}{ccc} *& A\\ B & 0 \end{array} \right| = \left|\begin{array}{ccc} 0& A\\ B& * \end{array} \right| = (-1)^{mn}|A||B|$

（4）$n$阶$(n \geqslant 2)$范德蒙德行列式（数学归纳法证明）

        $\left| \begin{array}{cccc} 1& 1 & \cdots & 1\\ x_1 & x_2 & \cdots & x_n\\x_1^2& x_2^2 & \cdots & x_n^2\\ \vdots & \vdots & \ddots & \vdots \\ x_1^{n-1}& x_2^{n-1} & \cdots & x_n^{n-1} \end{array} \right| = \prod \limits_{n \geqslant i > j \geqslant 1} (x_i - x_j)$

        简记：第二行大坐标减小坐标

行列式的性质

（1）$|kA| = k^n |A|$

         注意行列式的倍乘不要每行都乘！但矩阵需要。

（2）$|AB| = |A| |B|$

（3）$|A^T| = |A|$

（4）$|A^{-1}| = |A|^{-1}$

（5）$|A^2| = |A|^2$

行列式的化简

（1）两行(列)互换，行列式变号

（2）单行可拆性：若某列(行) 的元素都是两个数的和, 则行列式可按此列(行)分拆为两个行列式的和, 其余列(行)不变

（3）一行(列)乘$k$倍加到另一行(列)，行列式的值不变

（4）两行(列)成比例，行列式的值为0

$|A| \neq 0$

（1）$A$是$n$阶可逆矩阵

（2）$A$满秩（即$r(A)=n$）

（3）$A$的行（列）向量组线性无关

（4）齐次线性方程组$Ax = 0$仅有零解

（5）非齐次线性方程组$Ax=b$有唯一解

（6）$A$可表示为若干初等矩阵的乘积，$P_t \cdots P_2P_1A = E \rightarrow P_1^{-1}P_2^{-1} \cdots P_t^{-1} = A$

（7）$A$的$n$个特征值全不为$0$，即特征值的乘积不为$0$

$|A| = 0$

（1）$A$不可逆

（2）$r(A)<n$

（3）$A$的行（列）向量组线性相关

（4）齐次线性方程组$Ax = 0$有非零解（$Ax = 0$不可能无解）

矩阵乘法

设$A$为 $m×p$ 的矩阵，$B$为 $p×n$ 的矩阵，那么称$m×n$的矩阵$C$为矩阵$A$与$B$的乘积，记为$C=AB$。

即前列需等于后行，所得矩阵为前行$×$后列。$C$矩阵中第$i$行$j$列的元素等于$A$矩阵的第$i$行点乘B矩阵的第$j$列。

矩阵乘法满足结合律，分配律，但是一般不满足交换律。$AB = 0$不能推出$A=0$或$B=0$

由于矩阵乘法不满足交换律，因此在使用一些乘法公式的时候，需要特别注意！

矩阵乘法具有数乘的结合性：$k(AB) = (kA)B = A(kB)$

矩阵转置和逆的性质（证明设一般性矩阵并展开）

（1）$(AB)^T = B^T A^T$

（2）$(A+B)^T = A^T + B^T$

（3）$(kA)^T = kA^T$

（4）$(A^{-1})^T = (A^T)^{-1}$

（5）$(kA)^{-1} = \frac{1}{k}A^{-1}$

（6）$(AB)^{-1} = B^{-1} A^{-1}$

（7）分块矩阵

         $\left[\begin{array}{ccc} A& 0\\ 0 & B \end{array} \right]^T = \left[\begin{array}{ccc} A^T& 0\\ 0& B^T \end{array} \right]$

对称矩阵与反对称矩阵

（1）$A^T = A$为对称矩阵，其中$a_{ij} = a_{ji} $

（2）$A^T = -A$为反对称矩阵，其中$a_{ij} = -a_{ji} $，主对角线必须为$0$

（3）一维列向量$\alpha$，$\alpha\alpha^T$是对称矩阵，$\alpha^T\alpha$是平方和得到的一个数

对角矩阵

（1）$\left[\begin{array}{ccc} a_1& 0 & 0 \\ 0 & a_2 & 0 \\ 0 & 0 & a_3 \end{array} \right] $$ \left[\begin{array}{ccc} b_1& 0 & 0 \\ 0 & b_2 & 0 \\ 0 & 0 & b_3 \end{array} \right] = \left[\begin{array}{ccc} a_1b_1& 0 & 0 \\ 0 & a_2b_2 & 0 \\ 0 & 0 & a_3b_3 \end{array} \right] $

（2）$\left[\begin{array}{ccc} a_1& 0 & 0 \\ 0 & a_2 & 0 \\ 0 & 0 & a_3 \end{array} \right] ^n = \left[\begin{array}{ccc} a_1^n& 0 & 0 \\ 0 & a_2^n & 0 \\ 0 & 0 & a_3^n \end{array} \right]$

（3）$\left[\begin{array}{ccc} a_1& 0 & 0 \\ 0 & a_2 & 0 \\ 0 & 0 & a_3 \end{array} \right] ^{-1} = \left[\begin{array}{ccc} a_1^{-1}& 0 & 0 \\ 0 & a_2^{-1} & 0 \\ 0 & 0 & a_3^{-1} \end{array} \right]$

（4）$\left[\begin{array}{ccc} 0 & 0 & a_1 \\ 0 & a_2 & 0 \\ a_3 & 0 & 0 \end{array} \right] ^{-1} = \left[\begin{array}{ccc} 0 & 0 & a_3^{-1} \\ 0 & a_2^{-1} & 0 \\ a_1^{-1} & 0 & 0 \end{array} \right]$

矩阵初等变换

（1）两行（列）互换（互换）

（2）一行（列）乘非零常数$k$（倍乘）

（3）一行（列）的k倍加到另一行（列）（倍加）

等价矩阵

如果矩阵$B$可以由$A$经过一系列初等变换得到，那么矩阵$A$与$B$是等价的。矩阵$A$与矩阵$B$等价的充要条件是$r(A)=r(B)$。

经过多次变换以后，得到一种最简单的矩阵，就是这个矩阵的左上角是一个单位矩阵，其余元素都是$0$，那么这个矩阵就是原来矩阵的等价标准型。

其中可逆矩阵经过一系列初等变换得到单位矩阵。

初等矩阵

初等矩阵为单位矩阵进行一次初等变换得到的矩阵。初等矩阵均可逆，且其逆是相同类型的初等矩阵。       

初等行变换相当于左乘相应的初等矩阵。

初等列变换相当于右乘相应的初等矩阵。

初等矩阵如何变换，则被乘矩阵就如何变换。

逆的求法

（1）根据定义$AB=E \rightarrow BA=E \rightarrow A=B^{-1}$，$A$的逆矩阵唯一，可逆矩阵必须是方阵

（2）$(A|E) \rightarrow$初等行变换$\rightarrow (E|A^{-1})$

（3）$(A|B) \rightarrow$初等行变换$\rightarrow (E|A^{-1}B)$，对于求解$BA^{-1}$的形式，采用转置的方式化简为$(A^{-1})^TB^T \rightarrow (A^T)^{-1}B^T$

（4）$A^{-1}=\frac{1}{|A|}A^*$

（5）初等矩阵的逆

         倍加初等矩阵，其逆将倍数取相反数

         互换初等矩阵，其逆是其本身

         倍乘初等矩阵，其逆将倍数取倒数

（6）二阶行列式求逆，主对角线互换，副对角线变号。

化简行阶梯与化简行最简

第一行倍乘下来消$0$，第二行倍乘下来消$0$倍乘上去消$0$，以此类推。

秩的求法

（1）$A \rightarrow$初等行变换$\rightarrow$阶梯型，则$r(A)=$非零行的行数

（2）矩阵$A$中非全$0$子行列式的最高阶数（即若$r(A)=r$，则其$r+1$阶行列式全为$0$）

秩的性质

（1）$r(A+B) \leqslant r(A|B) \leqslant r(A)+r(B)$

（2）$r(A_{m \times n}) \leqslant min(m,n)$

（3）$r(AB) \leqslant min \lbrace r(A),r(B) \rbrace$

（4）$r(kA)=r(A)(k \neq 0)$

（5）$r(A-E)=r(E-A)$

（6）$r(A)=r(PA)=r(AQ)=r(PAQ)(P,Q$为可逆矩阵$)$

（7）$r(A)=r(A^T)=r(A^TA)=r(AA^T)$

（8）$r\left[ \begin{array}{cc} A & 0 \\ 0 & B \end{array} \right] = r(A)+r(B)$

（9）$max \lbrace r(A),r(B) \rbrace \leqslant r(A|B) \leqslant r(A)+r(B)$

（10）$A_{m×n},B_{n×s},AB=0$，则$r(A)+r(B) \leqslant n$（$A$的列数）

注：$Ax=0$的解的极大线性无关组的个数（基础解系）为$n-r(A)$（未知数的个数减真实约束的个数，即方程的自由变量个数）

伴随矩阵

方阵$A = (a_{ij})_{n×n}$的各元素的代数余子式$A_{ij}$所构成的如下矩阵

$A^* = \left[ \begin{array}{cccc} A_{11}& A_{21}& \cdots & A_{n1}\\A_{12} &A_{22} & \cdots & A_{n2} \\ \vdots & \vdots & \ddots & \vdots \\ A_{1n}&A_{2n} & \cdots & A_{nn} \end{array} \right]$

该矩阵称为矩阵$A$的伴随矩阵

注：伴随矩阵是所有$n-1$阶行列式组成的矩阵

方程组的增广矩阵

$\bar{A} = \left[ \begin{array}{ccc|c} a_{11}& a_{12}& a_{13} & b_1 \\ a_{21}& a_{22}& a_{23} & b_2 \\  a_{31}& a_{32}& a_{33} & b_3  \end{array} \right]$

伴随矩阵的性质

（1）$AA^* = A^*A = |A|E \rightarrow A^*=|A|A^{-1}$

（2）$|A^*|=|A|^{n-1}$

（3）$r(A^*) = n(r(A)=n)$（用（2）证明）

         $r(A^*) = 1(r(A)=n-1)$（用（1）证明，结合秩的性质（10））

         $r(A^*) = 0(r(A)<n-1)$（用$n-1$阶行列式全为$0$证明）

（4）$(A^*)^{-1} = (A^{-1})^*$

（5）$(A^*)^* = |A|^{n-2} A$

（6）$(A^*)^T = (A^T)^*$

线性方程组有解判定

（1）无解：$r(A)+1=r(\bar{A})$

（2）唯一解：$r(A)=r(\bar{A})=n$

（3）无穷解：$r(A)=r(\bar{A})<n$

线性表示

（1）非零列向量$ \beta $可由$\alpha_1,\alpha_2,\cdots,\alpha_n$线性表示

         $\Leftrightarrow$ 非齐次线性方程组$(\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T = \beta$有解

         $\Leftrightarrow r(\alpha_1,\alpha_2,\cdots,\alpha_n) = r(\alpha_1,\alpha_2,\cdots,\alpha_n,\beta)$(系数矩阵的秩等于增广矩阵的秩)

（2）在（1）的条件下，向量组$\alpha_1,\alpha_2,\cdots,\alpha_n$线性无关

         $\Leftrightarrow$ 非齐次线性方程组$(\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T = \beta$有唯一解

         $\Leftrightarrow r(\alpha_1,\alpha_2,\cdots,\alpha_n) = n$

         $\Leftrightarrow |\alpha_1,\alpha_2,\cdots,\alpha_n| \neq 0$

         $\Leftrightarrow (\alpha_1,\alpha_2,\cdots,\alpha_n)$可逆

（3）在（1）的条件下，向量组$\alpha_1,\alpha_2,\cdots,\alpha_n$线性相关

         $\Leftrightarrow$ 非齐次线性方程组$(\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T = \beta$有无穷解

         $\Leftrightarrow r(\alpha_1,\alpha_2,\cdots,\alpha_n) < n$

         $\Leftrightarrow |\alpha_1,\alpha_2,\cdots,\alpha_n| = 0$ （也有可能不是方阵）

         $\Leftrightarrow (\alpha_1,\alpha_2,\cdots,\alpha_n)$不可逆

（4）$\alpha$线性相关$\Leftrightarrow \alpha = 0$

         $\alpha_1,\alpha_2$线性相关$\Leftrightarrow \alpha_1,\alpha_2$成比例，共线

         $\alpha_1,\alpha_2,\alpha_3$线性相关$\Leftrightarrow \alpha_1,\alpha_2,\alpha_3$共面

（5）向量组$\alpha_1,\alpha_2,\cdots,\alpha_n$线性相关

         $\Leftrightarrow$ 有个向量可由其余向量线性表示

         $\Leftrightarrow$ 齐次方程$(\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T = 0$有非零解

         $\Leftrightarrow r(\alpha_1,\alpha_2,\cdots,\alpha_n)< n$

         $\Leftrightarrow |\alpha_1,\alpha_2,\cdots,\alpha_n| = 0$

         $\Leftrightarrow (\alpha_1,\alpha_2,\cdots,\alpha_n)$不可逆

等价向量组

如果两个向量组可以互相表示，则这两个向量组等价。（注意向量组中的每一个元素是一个向量，因此对于一个矩阵，我们可以分块将每一列看成一个列向量，从而将该矩阵写成一个行向量的形式）

两个向量组等价，则他们的秩相等。

线性表示定理

（1）如果向量组$A(\beta_1,\beta_2,\cdots,\beta_t)$可由向量组$B(\alpha_1,\alpha_2,\cdots,\alpha_t)$线性表示，则$r(A) \leqslant r(B)$（可用(4)证明）

         表示$A$的时候用了$B$的全部或一部分，$A$的秩等于$B$中用到的这部分的秩，而$B$中可能含有这部分不能表出的向量，所以$A$的秩$ \leqslant B$的秩

         若向量组$B$同时可由向量组$A$线性表示，则两个向量组等价，他们的秩相等。

         若向量组$A$经过一系列初等行变换可变成向量组$B$，则他们等价，具有相同的线性相关性，也具有相同的线性表示。（思考$Ax=0$，这里本质上是对方程组进行同解变换，而并不影响$x$的值）

（2）任何一个$n$维向量，可由$n$维单位坐标向量线性表示。

（3）如果向量组$\alpha_1,\alpha_2,\cdots,\alpha_s$可由向量组$\beta_1,\beta_2,\cdots,\beta_t$线性表示，且$s>t$，则$\alpha_1,\alpha_2,\cdots,\alpha_s$必线性相关

（4）如果向量组$\alpha_1,\alpha_2,\cdots,\alpha_s$线性无关，且可由向量组$\beta_1,\beta_2,\cdots,\beta_t$线性表示，则$s \leqslant t$

（5）如$n$维向量$\alpha_1,\alpha_2,\cdots,\alpha_s$线性无关，而$\alpha_1,\alpha_2,\cdots,\alpha_s,\beta$线性相关，则向量$\beta$必能由$\alpha_1,\alpha_2,\cdots,\alpha_s$线性表示且表示方法唯一。

线性相关定理

（1）对于$m$个$n$维向量组$\alpha_1,\alpha_2,\cdots,\alpha_m$，若可以找出一组不全为$0$的实数$k_1,k_2,\cdots,k_m$，使$k_1\alpha_1+k_2\alpha_2+\cdots+k_m\alpha_m=0$，则这个向量组线性相关（如果只有全为$0$的$k_1,k_2,\cdots,k_m$，则线性无关）

（2）$n+1$个$n$维向量必定线性相关

（3）部分相关则整体相关，整体无关则部分无关（思考$k_1\alpha_1+k_2\alpha_2+\cdots+k_m\alpha_m=0$）

（4）低维无关则高维无关，高维相关则低维相关（思考方程组求解，高维则多一个方程，低维则少一个方程）

极大线性无关组

一个向量组的子集合线性无关，再添加一个向量组中的向量线性相关，则该子集合为该向量组的极大线性无关向量组。

其中该向量组中每一个向量均可由该极大线性无关组线性表示。其向量的个数就是该向量组的秩。

基础解系

对于齐次线性方程组$Ax=0$，如果$r(A)=r<n$，则方程组中有$n-r$个线性无关的解，且方程组的任一个解都可以由这$n-r$个线性无关的解线性表示。（极大线性无关）

求基础解系，先找出$r$个自由变量，分别令为$r$维单位坐标向量，并求出其他变量的值，从而得到该方程的$n-r$个线性无关的解。

（这里的求解可以用初等变换后的矩阵，思考这里是在对方程组进行加减变换）

注：当$n-r=1$时，可以令自由变量为一个方程中最好算的数。

解的结构

如果$\xi_1,\xi_2$是$Ax=b$的解，则$\xi_1-\xi_2$是导出组$Ax=0$的解

如果$\xi$是$Ax=b$的解，$\eta$是$Ax=0$的解，则$\xi+k\eta$是$Ax=b$的解

非齐次线性方程组$Ax=b$的通解为其特解加上导出组$Ax=0$的基础解系（齐次线性方程组的解向量的极大无关组）

（其中$\alpha_0,\alpha_0+\xi_1,\cdots,\alpha_0+\xi_n$组成的向量组线性无关）

求特解也需要找出其$r$个自由变量，令它们等于$0$求出其他变量的值

向量空间的定义

$W-n$维向量的非空集合，且

（1）$\forall \alpha,\beta \in W \Rightarrow \alpha+\beta \in W$

（2）$\forall \alpha \in W, \forall k \Rightarrow k\alpha \in W$

则称$W$是$n$维向量空间的子空间（对加法和数乘封闭）

特殊向量空间

齐次线性方程组解向量的集合是解空间。

非齐次线性方程组解向量的集合不是解空间。

$W= \lbrace k \alpha_0 | \alpha_0 = (1,3,5)^T,k \in R \rbrace$ 由$\alpha_0$生成的空间$L(\alpha_0)$

$W= \lbrace k_1 \alpha_1 +k_2 \alpha_2 + k_3 \alpha_3 | A = (\alpha_1,\alpha_2,\alpha_3),k_i \in R \rbrace$ 由$(\alpha_1,\alpha_2,\alpha_3)$生成的空间$L(\alpha_1,\alpha_2,\alpha_3))$

向量空间的基

如果向量空间$V$中的向量$\alpha_1,\alpha_2,\cdots,\alpha_m$满足：

（1）$\alpha_1,\alpha_2,\cdots,\alpha_m$线性无关

（2）$V$中任意向量$\beta$均可由$\alpha_1,\alpha_2,\cdots,\alpha_m$线性表示

即$x_1 \alpha_1+x_2 \alpha_2+\cdots+x_m\alpha_m = \beta$

则称$\alpha_1,\alpha_2,\cdots,\alpha_m$是向量空间$V$的基，

$m$称为向量空间的维数，称$V$是$m$维向量空间，

数组$x_1,x_2,\cdots,x_m$称为向量$\beta$在基$\alpha_1,\alpha_2,\cdots,\alpha_m$下的坐标。

（将向量组的概念扩展到无穷）

注：向量的维数与向量空间的维数无关。

过渡矩阵

由向量空间的一组基转换到另一组基的矩阵。

内积

令$(\alpha,\beta)=a_1b_1+a_2b_2+\cdots+a_nb_n$，称为向量$\alpha$,$\beta$的内积。

$(\alpha,\beta) = \alpha^T\beta = \beta^T \alpha$

$(\alpha,\beta)=||\alpha|| \cdot ||\beta|| cos \theta$

内积的性质

（1）$(\alpha,\beta)=(\beta,\alpha)$

（2）$(\alpha+\beta,\gamma)=(\alpha,\gamma)+(\beta,\gamma)$

（3）$(k \alpha,\beta)=k(\alpha,\beta)$

（4）$(\alpha,\alpha) \geqslant 0$，当且仅当$\alpha=0$时，等式成立 

（5）$(\alpha,\beta)=0$，称$\alpha$与$\beta$正交

向量$\alpha$的长度

$||\alpha|| = \sqrt{(\alpha,\alpha)} = \sqrt{a_1^2+a_2^2+\cdots+a_n^2}$

$(\alpha,\alpha)=||\alpha||^2$

若$||\alpha||=1$，称$\alpha$为单位向量

$||k\alpha||=|k| \cdot ||\alpha||$

$\frac{\alpha}{||\alpha||}$，单位化

$(\alpha,\beta)^2 \leqslant (\alpha,\alpha)(\beta,\beta)$或者$(\alpha,\beta) \leqslant ||\alpha|| \cdot ||\beta||$，当且仅当$\alpha,\beta$线性相关时等式成立（柯西—施瓦茨不等式）

$Schmidt$正交化

设$\alpha_1,\alpha_2,\alpha_3$线性无关

令$\beta_1=\alpha_1$

    $\beta_2=\alpha_2-\frac{(\alpha_2,\beta_1)}{(\beta_1,\beta_1)}\beta_1$

    $\beta_3=\alpha_3-\frac{(\alpha_3,\beta_1)}{(\beta_1,\beta_1)}\beta_1-\frac{(\alpha_3,\beta_2)}{(\beta_2,\beta_2)}\beta_2$

则$\beta_1,\beta_2,\beta_3$两两正交，再单位化

正交矩阵

设$A$是$n$阶正交矩阵，满足$AA^T=A^TA=E$，则称$A$为正交矩阵

正交矩阵性质

（1）$A$是正交矩阵，$A^T=A^{-1}$

（2）$A=(\alpha_1\alpha_2\alpha_3)$是正交矩阵 $\Leftrightarrow$ $\alpha_1\alpha_2\alpha_3$都是单位向量，且两两正交（标准正交向量组）

（3）如果$A$是正交矩阵，则$|A|=1$或$-1$

（4）如果$A,B$都是$n$阶正交矩阵，则$AB$是正交矩阵

规范正交基

设$e_1,e_2,\cdots,e_n$是向量空间的一个基，如果

$$(e_i,e_j) = \left \{ \begin{aligned} &1 &  i=j \\ &0& i \neq j \end{aligned} \right.$$

则称$e_1,e_2,\cdots,e_n$为标准正交基

注：一般是要求某个齐次线性方程组的解的规范正交基

矩阵的特征值与特征向量

设$A$是$n$阶矩阵，如果存在数$\lambda$和非零$n$维列向量$\alpha$，使得$A\alpha=\lambda\alpha$成立，则称$\lambda$是矩阵$A$的一个特征值$(eigenvalue)$，$\alpha$是矩阵$A$的一个特征向量$(eigenvector)$。同一个特征值的特征向量对自身的加法和数乘仍是这个特征值的特征向量（因此施密特正交化后的向量仍是这个特征值的特征向量）。不同特征值对应的特征向量线性无关。若特征值是重根，则该特征值下有多个线性无关的特征向量，但个数不超过它的重数。

求特征向量

（1）利用定义

（2）求$(\lambda E-A)\alpha = 0$齐次方程组的非零解

         $\Rightarrow$由$|\lambda E-A| = 0$求特征值$\lambda_i$ （注意反过来的特征值代入该行列式，行列式为0）

             共$n$个（含重根）

         $\Rightarrow$由$(\lambda E-A)x=0$求基础解系

             即$\lambda_i$线性无关的特征向量

特征值的性质

（1）$\sum \lambda_i = \sum a_{ii} = t_rA$（矩阵的迹） （这里的矩阵是原矩阵，不可以是初等变换后的矩阵）

（2）$\prod \lambda_i = |A|$  （注意这里行列式的求法）（同时注意当不满秩时，必有一个特征值为$0$）

（3）$(A+kE)\alpha=(\lambda+k)\alpha$

（4）$A^2\alpha=\lambda^2 \alpha$

（5）若$A$可逆，则$A^{-1}\alpha=\frac{1}{\lambda}\alpha$

（6）若$A$可逆，则$A^*\alpha=\frac{|A|}{\lambda}\alpha$

相似矩阵

设$A,B$都是$n$阶矩阵，如果存在可逆矩阵$P$使$P^{-1}AP=B$，就称矩阵$A$相似于矩阵$B$，$B$时$A$的相似矩阵，记成$A\thicksim B$

相似矩阵性质

（1）$A \thicksim A$

（2）如果$A \thicksim B$，则$B \thicksim A$

（3）如果$A \thicksim B$，$B \thicksim C$，则$A \thicksim C$

（4）如果$A \thicksim B$，则$A^2 \thicksim B^2$

（5）如果$A \thicksim B$，则$A+kE \thicksim B+kE$

（6）如果$A \thicksim B$，且$A$可逆，则$A^{-1} \thicksim B^{-1}$

（7）如果$A_1 \thicksim B_1$，$A_2 \thicksim B_2$，则

         $\left[\begin{array}{ccc} A_1& 0\\ 0 & A_2 \end{array} \right] \thicksim \left[\begin{array}{ccc} B_1& 0 \\ 0& B_2 \end{array} \right]$

（8）如果$A \thicksim B$，对于任意$\lambda$，有特征多项式$|\lambda E-A|=|\lambda E-B|$，进而令特征多项式等于$0$，有特征值$\lambda_A = \lambda_B$

（9）如果$A \thicksim B$，则$r(A)=r(B)$

（10）如果$A \thicksim B$，则$|A|=|B|$

（11）如果$A \thicksim B$，则$\sum a_{ii} = \sum b_{ii}$，由（8）推导

相似对角化

$A \thicksim \Lambda$（对角矩阵），即$P^{-1}AP=\Lambda \rightarrow AP=P\Lambda$，存在矩阵$P$使得矩阵$A$对角化

其中可立即发现$A(\alpha_1,\alpha_2,\alpha_3) = (\lambda_1 \alpha_1,\lambda_2 \alpha_2,\lambda_3 \alpha_3) =(\alpha_1,\alpha_2,\alpha_3)diag(\lambda_1,\lambda_2,\lambda_3)$

需要$(\alpha_1,\alpha_2,\alpha_3)$可逆，即$\alpha_1,\alpha_2,\alpha_3$线性无关。

$\Leftrightarrow$对角矩阵$\Lambda$一定是矩阵$A$的特征值

$\Leftrightarrow$可逆矩阵$P$一定是矩阵$A$的特征向量 

$\Leftrightarrow$矩阵$A$有$n$个线性无关的特征向量 $\Leftarrow$矩阵$A$有$n$个不同的特征值

$\Leftrightarrow$$k$重根必有$k$个线性无关的特征向量

实对称矩阵

如果有$n$阶矩阵$A$，其矩阵的元素都为实数，且矩阵$A$的转置等于其本身（$a_{ij}=a_{ji}$），则称$A$为实对称矩阵。

实对称矩阵性质

（1）特征值都是实数

（2）不同特征值对应的特征向量两两正交（有重根则对该根下的特征向量施密特正交化）

（3）对任一个$n$阶实对称矩阵$A$，总存在$n$阶正交矩阵$Q$，使得$Q^{-1}AQ=diag(\lambda_1,\lambda_2,\cdots,\lambda_n)$。即实对称矩阵必定与对角矩阵相似，且$P$为正交矩阵。（即实对称矩阵满足相似对角化的一切条件，同时其特征向量可以两两正交因此可逆矩阵必定为正交矩阵。普通可相似对角化的矩阵的特征向量不过线性无关而已。为什么不可以对普通可相似对角化的矩阵不同特征值线性无关的特征向量进性施密特正交化？因为进行后就不一定是特征向量了）

注：该定理的证明采用数学归纳法。对于$n$阶的情况，取实对称矩阵$A$的一个特征向量$\lambda_1$，设一个正交矩阵$Q_1$（$Q_1$的第一个列向量为特征值$\lambda_1$的特征向量$\alpha_1$），使$Q_1^{-1}AQ_1=\left[\begin{array}{cc} \lambda_1& b\\ 0 & B \end{array} \right]$。由于$A$为实对称矩阵，$Q_1$为正交矩阵，可证$Q_1^{-1}AQ_1$为对称矩阵。从而$b=0$，$B$为$n-1$阶实对称矩阵，从而有$P^{-1}BP=diag(\lambda_2,\lambda_3,\cdots,\lambda_n)$。设$Q_2=\left[\begin{array}{cc} 1& 0 \\ 0 & P \end{array} \right]$，$Q_2$为正交矩阵，令$Q=Q_1Q_2$，可得$(Q_1Q_2)^{-1}AQ_1Q_2=\left[\begin{array}{cc} \lambda_1& 0\\ 0 & P^{-1}BP  \end{array} \right]=diag(\lambda_1,\lambda_2,\cdots,\lambda_n)$。即实对称矩阵$A$可相似对角化，其中$Q$为正交矩阵，$\lambda_1,\lambda_2,\cdots,\lambda_n$为其特征值。

二次型的矩阵表示

$f(x_1,x_2,x_3)=x^TAx$

其中$A = \left[ \begin{array}{ccc} a_{11}& a_{12}& a_{13} \\ a_{21}& a_{22}& a_{23} \\ a_{31}& a_{32}& a_{33} \end{array} \right]$

主对角线为$x_1^2,x_2^2,x_3^2$项系数，$a_{12}, a_{21}$为$x_1x_2$项系数的二分之一，$a_{13}, a_{31}$为$x_1x_3$项系数的二分之一，$a_{23}, a_{32}$为$x_2x_3$项系数的二分之一。

二次型的秩$r(f)=r(A)$。

二次型矩阵必为实对称矩阵。

二次型标准型

二次型只有平方项，混合项系数均为$0$

正惯性指数为正系数个数

负惯性指数为负系数个数

一个二次型无论怎么化成标准型，它们的正惯性指数与负惯性指数是唯一确定的。（即规范型唯一）

二次型化标准型

（1）配方法

如果没有平方项，则令$x_1=y_1+y_2$，$x_2=y_1-y_2$，$x_3=y_3$代入

（2）正交变换法

由于$A$为实对称矩阵，则肯定存在$x=Py$，$P$为正交矩阵，使二次型化为标准型$x^TAx=y^T\Lambda y=\lambda_1y_1^2+\lambda_2y_2^2+\cdots+\lambda_ny_n^2$

注：$P$为正交矩阵，$y^TC^TACy = y^TC^{-1}ACy$

二次型规范型

二次型平方项系数只有$+1,-1,0$

二次型化规范型

先化成标准型，然后坐标变换消系数。

二次型坐标变换

$x=Cy$，如果$C$可逆，即$|C| \neq 0$，则称为可逆线性变换。

如果坐标变换带入二次型，得$y^TC^TACy$，令$C^TAC=B$，称矩阵$A,B$合同，记$A \simeq B$。

合同性质

（1）$A \simeq A$

（2）如果$A \simeq B$，则$B \simeq A$

（3）如果$A \simeq B$，$B \simeq C$，则$A \simeq C$

（4）$p,q$分别为正负惯性指数，如果二次型矩阵$A$与$B$合同，那么它们化为标准型后，$p_A=p_B,q_A=q_B$。反之如果二次型矩阵$A$与$B$化为标准型后$p_A=p_B,q_A=q_B$，那么$A$与$B$合同。

正定二次型

设二次型$f(x)=x^TAx$，如果$\forall x = (x_1.x_2,\cdots,x_n)^T \neq 0$，恒有$f(x)>0$，则称$f$为正定二次型，二次型矩阵$A$称为正定矩阵。

$\Leftrightarrow$化为标准型后正惯性指数等于$n$，即平方项系数均大于$0$

$\Leftrightarrow$经过可逆矩阵$C$坐标变换后，可化为二次型矩阵为单位矩阵的标准型，即$A \simeq E$

$\Leftrightarrow$存在可逆矩阵$D$，使得$A=D^TD$

$\Leftrightarrow$经过正交变换法得到的标准型，其二次型矩阵主对角线元素全大于$0$，即$A$的特征值全大于$0$

$\Leftrightarrow A$的顺序主子式全大于$0$（自左上向右下扩阶）

注：

二次型正定$\Rightarrow$平方项系数均大于$0$

二次型正定$\Rightarrow$$|A|>0$

二次型经坐标变换，正定性不变。

线性空间V

满足加法，数乘

（1）$\alpha+\beta=\beta+\alpha$

（2）$(\alpha+\beta)+\gamma=\alpha+(\beta+\gamma)$

（3）$V$中$\exists$零元素$0$，使$\forall \alpha \in V$有$\alpha+0=\alpha$

（4）$\forall \alpha \in V$，都有一负元素$-\alpha \in V$使$\alpha+(-\alpha)=0$

（5）$1\alpha=\alpha$

（6）$\forall k,l \in R$，有$k(l\alpha)=(kl)\alpha$

（7）$k(\alpha+\beta)=k\alpha+k\beta$

（8）$(k+l)\alpha=k\alpha+l\alpha$

线性空间的性质

（1）零元素是唯一的

（2）每个元素的负元素是唯一的

注：零元素不一定是$0$，元素与其负元素相加也不一定等于$0$，注意零元素与负元素的定义

线性变换

$\sigma$是线性空间$V$的一个变换，如果$\sigma$保持加法和数乘运算，即

$\sigma(\alpha+\beta)=\sigma(\alpha)+\sigma(\beta)$

$\sigma(k\alpha)=k\sigma(\alpha)$

则$\sigma$是线性空间$V$上的线性变换

（$\sigma$是将一个向量映射为另一个向量）

线性变换的性质

（1）$\sigma(0)=0$

（2）$\sigma(-\alpha)=-\sigma(\alpha)$

（3）线性变换将线性相关的向量组映射成线性相关的向量组

（4）线性变换与矩阵唯一对应

（5）设线性空间$V_3$取两组基$\alpha_1,\alpha_2,\alpha_3$，$\beta_1,\beta_2,\beta_3$，由基$\alpha_1,\alpha_2,\alpha_3$到基$\beta_1,\beta_2,\beta_3$的过渡矩阵为$C$，$V_3$中线性变换$\sigma$在这两组基下的矩阵分别为$A$和$B$，则$C^{-1}AC=B$

线性变换的表示形式

非矩阵表示形式

$\sigma(C_1\alpha_1+C_2\alpha_2+C_3\alpha_3)=(C_1\beta_1+C_2\beta_2+C_3\beta_3)$

矩阵表示形式

$\sigma(\alpha_1,\alpha_2,\alpha_3)=(\beta_1,\beta_2,\beta_3)=(\alpha_1,\alpha_2,\alpha_3)A$  

两种表现形式的差距在于是否知道$\beta_1,\beta_2,\beta_3$如何用$\alpha_1,\alpha_2,\alpha_3$表示

设线性变换$\sigma$在基$\alpha_1,\alpha_2,\alpha_3$下的变换矩阵是$A$，向量$\alpha$与$\sigma(\alpha)$在这组基下的坐标分别为$(x_1,x_2,x_3)^T,(y_1,y_2,y_3)^T$，则$y=Ax$