BIT线性代数 结课总结

不是作业（应该只有文科课会布置这类作业吧）

这本书的大多数定理的证明都被我看了多遍。每次看完后，虽然能理解证明的正确性，但很容易忽略某个定理或引理在后续内容中的作用，即“证这个有什么用”，也不一定都能理解记忆证明过程中的思维点，即“为什么要这样证”的问题。虽然重复阅读多次，但是其中的间隔并不规律，看完之后的总结也没有记录下来。现在，试着重新梳理一遍相关内容，解决这些问题。

1.3 矩阵的秩唯一

证明思路：假设同一矩阵有两个阶梯型，前者秩大，后者秩小。构造齐次线性方程组，将秩大的那个的自由未知元赋值为0，则此时方程只有零解。而秩小的那个，未知元大于秩的个数，因此有非零解。两方程组本应该同解，矛盾。

2.5

矩阵等价的定义：可经有限次初等变换（行或者列）得到。行等价则限定行变换，列等价则限定列变换。

对初等矩阵进行初等变换，可以用相应的初等矩阵左乘或者右乘得到。一般对初等矩阵的变换，记法都是对行负责的。因此，列变换时需要交换行列的编号。

初等矩阵可逆，因此行等价、列等价的关系是双向的，具备对称性。

2.6 矩阵的秩

主要目标是证明初等变换是不改变矩阵的秩。

化阶梯型时，可以做到非零行（不严格）单调递减。因此，非零行个数不大于矩阵的秩。行变换不改变零列个数，列变换不改变零行个数。由于化阶梯型时非零列个数没变，最后秩仍然小于非零列的个数，因此，秩小于等于任何时候非零列和非零行的个数。

行等价则秩相同。因为行变换不改变矩阵的秩，因此可以用行变换将某个矩阵转化成另一矩阵，过程不改变矩阵的秩，而最后矩阵的秩也相同。

自行推导列变换相关。主要要用到初等变换的可逆性、秩和非零行的关系、列变换不改变非零行个数的性质，综合两个不等式，从而得到相等的结论。

如果两矩阵等价，则两矩阵的秩相同，因为可以通过不改变秩的过程进行互化。

引入相抵标准型，证明相抵标准型和秩的等价性。运用初等变换的可逆性、先行后列化简化阶梯型的具体方法来证明。

转置不改变矩阵的秩。相抵标准型的对称性。对原矩阵化相抵标准型的过程取转置，可以得到相同的相抵标准型。

矩阵相乘，秩不增加。两矩阵相乘，结果矩阵的秩等于前者阶梯型与后者相乘所得矩阵的秩。进一步观察非零行的继承性，得到小于前一因子的秩的结论。取转置，运用转置矩阵的秩与先前矩阵的秩相同的结论证明。运用数学归纳法将结论推广。

若方阵满秩，则可表示为有限个初等矩阵的乘积。运用初等矩阵的可逆性得到。

下面引入可逆矩阵的概念。

可逆矩阵的唯一性。单位矩阵性质。

可逆性随乘积的传递性。直接构造。

可逆矩阵和满秩的等价性。满秩矩阵可以转化成有限个初等矩阵相乘，而初等矩阵可逆；两可逆矩阵的乘积满秩，那么两因子也满秩。

可逆矩阵的乘积也可逆。从初等矩阵分解上考虑。

因此，矩阵可逆、满秩、有限个初等矩阵乘积三者等价。

对于定义的精简。

逆矩阵的求法：初等变换。方程角度、记录角度。

求逆不能加法分配。

矩阵的分块：注意转置、乘法、求逆、化准对角。

转置两次；乘法要求行的分法和列的分法相同。行的分法从上往下看，列的分法从左往右看；对各块求逆成立有条件；用类似初等矩阵/初等变换的角度来考虑化准对角矩阵。

任意矩阵对对称矩阵的构造、反称矩阵的构造，和任意函数分解为唯一奇函数偶函数一样。

对角矩阵的求逆、乘法。

准对角矩阵：行和列做相同划分，保证对角块是方块。

上三角矩阵、下三角矩阵：定义；求逆、乘法封闭。

（弱）上三角矩阵可逆的等价条件：对角元全部非零。充分性易知，必要性通过反证法构造零行。取法是从最后一个开始取，先考虑n行是零元时的情况。

求逆封闭：数学归纳法、乘积封闭。先处理最右列，然后用分块矩阵求逆，最后用乘积封闭性。

第三章：向量和向量空间

 向量空间：加法封闭，数乘封闭，非空。

子空间：被包含，向量空间。

解向量，零空间。齐次线性方程组解的加法封闭、数乘封闭。

列空间，航空间，记法。按列构成、按行构成。

线性无关，线性相关。一般利用这个条件，都从原始定义中的等式出发。

线性相关与线性无关的放缩性质。线性相关小推大，无关反之。

线性相关的等价条件①：按列构成的矩阵的齐次线性方程组有非零解。得到推论：向量个数大于向量元数，必定线性相关（方程个数小于未知元个数）

线性表示。判断线性表示：把待判断向量作为方程组的常数项，向量组按列组成系数矩阵。

线性相关的等价条件②：存在某个向量可被其余向量线性表示。

重要：若向量组线性无关，和某个外来向量一起构成的向量组线性相关，则可被唯一表示。利用线性无关的原始定义。

向量组的线性表示：矩阵乘法形式。

表示向量组A、被表示向量组B、变换矩阵C，A*C=B。

其中，如果A线性无关，则C唯一（上条结论）。若B线性无关，则C列满秩（反证法或者顺推法）顺推法利用零空间的包含性，反证法类似。

重要推论：B线性无关，则个数不大于A。证明：秩的不增性，秩和列数的关系。

线性表示的传递性。从矩阵乘法角度理解。

向量组的等价，传递、对称性。借助线性表示的性质得到。

等价和与生成子空间包含的关系。

向量组等价的等价形式：生成子空间相等。

极大无关组定义：线性无关，扩充组线性相关（参考重要处）

极大无关组向量个数的唯一性：构造两个线性无关组，得到不等式，只能取等。

向量秩的定义：极大无关组中向量的个数。

向量组秩的等价定义：存在r个线性无关的向量，（若存在）任意r+1个向量都线性相关。等价性的推导难点在于，从极大无关组推导到这一条件的第二部分。这里使用反证法，如果存在r+1个向量线性无关，则把这r+1个向量组成向量组，可被极大无关组表示，所以向量个数应该更小，矛盾。

线性相关的等价条件：秩小于个数。

线性表示的性质：被表示组的秩小于等于表示组。利用向量组秩的原始定义，极大无关组的秩和原始向量组的秩相同。再利用线性无关性，结合线性表示的性质，得到这一结论。从而，得到等价向量组的秩相同。（这个结论并不是显然的，推导上述性质也没有用到这一结论）另外一个推论是，部分组的秩只会小于整体组，因为非常显然地，部分组能被整体组线性表示。

我们来看向量组的秩和矩阵的秩之间的关系。

容易验证，对于向量组进行和矩阵类似的初等变换，变换后的矩阵和原先的矩阵等价，所以不改变原先的矩阵的秩。因此，行等价的矩阵按行构成的向量组等价，而由等价的充要条件，其行空间也相等。

从简化阶梯型开始，我们可以发现，主元所在行构成的向量组是行向量组的极大无关组，对列也是如此。而一般的矩阵与简化阶梯型行等价，矩阵的秩相同，向量组的秩也相同。（弱）相应地，运用转置，一般矩阵的转置矩阵的秩，等于转置矩阵行向量组的秩，因此等于原矩阵列向量组的秩。因此，行/列向量组的秩等于矩阵的秩，这将可逆性和线性无关性联系了起来。更进一步，我们可以证明，与一般矩阵中和阶梯型主元所在列序号相同的向量，构成原矩阵列向量组的极大无关组。要证明这些向量是极大无关组，无非就是证明这个原矩阵中的向量组的秩为r。而向量组的秩等价于矩阵的秩。它们构成的矩阵，行等价于阶梯型矩阵中这些列所组成的矩阵，而这个矩阵也是阶梯形矩阵，列满秩，所以根据等价矩阵秩相等，得到原向量组满秩。

之所以这样证明，是因为我们对向量组的各个分量进行了行变换，所以不能使用向量组的等价性。但是，我们可以利用向量组和矩阵的秩相等、可以对矩阵进行行变换列变换而不改变其秩的特性，进而证明这一结论。加粗部分的转化也非常重要。

还有一种意识流的理解方法，大致是：行变换并不改变各个向量的表示关系，只是在内部的各个分量上做着同步的变化。

引入基的概念。定义是在向量空间中，一组线性无关、可表示其他所有向量的向量，称为一个“基”，相当于向量空间的极大无关组。不同的基相互等价，所以基中向量个数唯一。

维数是基中向量的个数，只含零向量的基的维数规定为0。

 

第五章 方阵的特征值和特征向量

从非零向量输入和输出满足数乘关系的定义开始，问题等价于齐次线性方程组存在非零解，再等价于对应行列式为零。将行列式展开，可以写成多项式（特征多项式），对应方程称为特征方程。特征方程可以写成多项式的一般形式，也可以写成特征值因式分解形式。因此，可以建立一些量的关系。对于乘积关系，可用对角矩阵进行记忆。而由于乘积关系，很容易由行列式推出矩阵可逆和对角元非负的等价关系。

从应用方面看特征值、特征向量的意义，可以发现，由于矩阵可以看作一种描述旋转等变换的函数，那么特征向量在经历处理前后共线。特别地，在进行旋转时，特征值为1的向量所在直线是旋转的转轴。

再看一些性质。由最基本的表达式出发，同乘系数、同乘矩阵，然后推出矩阵满足的多项式，特征值也满足。（也可通过乘以特征向量，利用向量非负性直接得到这一结论）。逆矩阵可以看作负一次幂，

解题中，可以用矩阵的方程得出特征值的全部可能取值。

接下来，引入相似概念。按照我的理解，相似的意义主要在于相似对角化，从而便于计算矩阵的任意次幂。

首先，我们介绍了相似的定义，从而得到相似的一些基本性质：相似意味着特征多项式完全相同（行列式，将单位矩阵拆分后提出）。左右两边是可逆矩阵，所以秩不变，易知行列式相同，所以相似的两矩阵可逆性相同。还有，相似具备传递性、自反性、对称性。

如果A和B相似，那么以它们为唯一未知元的相同多项式相似。先看常数，再看幂函数，最后推到多项式，思路和特征值部分相同。

接下来，我们看相似对角化的条件。若矩阵能相似对角化为对角矩阵，则将定义式左右同乘变换矩阵。观察变换矩阵的每一列，发现变换矩阵的每一列都是对角矩阵对应对角元为特征值的原矩阵特征向量。而且，由于变换矩阵可逆，所以这些特征向量彼此线性无关。反过来，如果存在n个线性无关的特征向量，将它们按列排成变换矩阵，易知符合相似对角化的条件。因此，我们得到了矩阵可以相似对角化的充要条件：存在n个线性无关的特征向量。如果矩阵的特征多项式无重根（特征值互异），则因为此时特征向量必然线性无关，则满足上述条件。

然后我们来考虑如何知道某一矩阵彼此线性无关的特征向量个数的最大值。受这个推论启发，我们来证明不同特征值的特征向量彼此线性无关。有两种方法，一种是每次同乘原矩阵，递推说明系数都为0（上课讲的做法，其实把特征值之差除掉就更明显了）；另一种是书上的反证法，（忘了）。

然后再证明更进一步的猜想，把所有特征值的所有基础解系放一起，仍然线性相关。采用反证法，如果存在某个解系的系数不为零，把它与相同特征值拼成的的向量结合在一起，得到一个特征向量，它必不为零。把其他同特征值的向量结合在一起，发现和上段结论矛盾。

然后，由于这些基础解系的组合能够表示所有特征向量，且线性无关，所以它们就是所要求的向量组。引入几何重数的概念，表示某一特征值对应的基础解系个数，则相似对角化充要条件等价于几何重数之和为n。其实就是对应齐次线性方程组的零空间维数，由矩阵列数和矩阵的秩相减得来。（待复习）

引入代数重数的概念。代数重数之和恒为n。由此，来探究代数重数和几何重数的关系。

 首先，通过数学归纳法，我们可以证明任何矩阵可以相似于上三角矩阵。这个证明的要点是构造一个变换矩阵，先将原矩阵变换为便于使用归纳假设的矩阵。（一点也不）容易想到，任取原矩阵的一个特征向量，将它用施密特正交化方法扩充成一组规范正交基，将向量按列组成变换矩阵。这个矩阵是正交矩阵，其逆矩阵也是它的转置矩阵，利用特征向量处理后得到数乘，结合向量内积、正交相关知识，发现合理。再叠加归纳假设，发现达成目标。这里需要一个小结论，变换矩阵的叠加仍然非奇异，而且逆矩阵关系可以满足。课本上把这个引理放在了前面，顺序阅读时需要注意联系。

我们事后来看，这一步的作用在于：将原矩阵的第一列都消干净，只保留左上角的那个元素，从而使得分块清晰，便于利用n-1阶结论。易知最后的上三角矩阵，对角元为各个特征值。

根据相似矩阵的特征多项式全同，则对应代数重数完全相同，且这个上三角矩阵的对角元为原矩阵的特征值。从秩的角度考察几何重数，发现也是全同的，因此我们可以直接研究对应的上三角矩阵。对这个上三角矩阵，减去lamda I后，对角元的零元为等于它的代数重数。而从秩的角度看，一种思路是，划去这些零元的所在行所在列，剩下的子式一定非零，从而推出几何重数小于等于代数重数。另一方面，（待补全）。

因此，很容易得到，只有所有代数重数和几何重数都完全相等，才能使得矩阵能够相似对角化。

我们考察几种特殊的矩阵：幂等矩阵、幂零矩阵、秩为一的矩阵。幂（二次）等矩阵的特征值为0或1。特征值为0，代数几何重数n-r；特征值为1，A的每一列刚好都是特征向量，其中线性无关的向量个数就是矩阵的秩。因此，一定可以相似对角化。而幂零矩阵特征值只为0。如果不为0矩阵，考虑秩的大小，那么不可对角化。秩为一的矩阵可以化为一非零列乘以一非零行。将它平方，运用结合律（这个技巧很常用），得到A*A=c*A，特征值为0或者C。c=0时，几何重数p-1，不可；c不为0时，用幂等矩阵的方法来考虑，可以得到类似的结果。

对于幂等矩阵，有必要记一下它的特征多项式：两个

最后，我们来看实对称矩阵的相似对角化。

首先来推导实对称矩阵的一些性质。①它的特征值一定为实数。左右同乘特征向量的共轭转置后取共轭转置，可以让特征值的共轭等于特征值。②对应特征值不同的特征向量彼此相互正交。取两个不同的特征向量的不同特征值，分别左乘另一特征向量的共轭转置，然后对其中一个取共轭转置，右边取等。

这两个证明都用足了实对称矩阵的特性，关键一步都是乘某个向量的共轭转置，然后左右同取共轭转置。而①的意义在于，（？）可取到实的基础解系，从而得到实的向量。

接着来证明实对称矩阵的相似对角化。（并不自然地）联想到正交、对称、相似，我们猜想存在正交矩阵使得

与先前证明任意矩阵相似于上三角矩阵的过程很相似，我们这一次同样采用构造正交矩阵的方法。只是有一点非常值得注意，无论是左右同取转置，还是单独对第一行元素进行分析，由于对称矩阵的对称性，第一行元素也都为0。变换矩阵都为正交矩阵，而正交矩阵的乘积仍然是正交矩阵。因此，实对称矩阵可以相似于对角矩阵，其变换矩阵为正交矩阵，对角矩阵的对角元为各个特征值。

而这里只证明了存在性，而这个正交矩阵的具体求法以及是否唯一并没有被证明。我们用施密特正交化方法，将特征向量搞成扩充成一组正交基。用数学归纳法证明，正交矩阵的第i列都是以第i个对角元为特征值的特征向量。第一个显然满足，而第n+1个，考察它在施密特正交化过程中涉及到的系数。对β，如果它对应的特征值与n+1的特征值不同，那么根据实对称矩阵特征向量的性质，可以发现系数为0，则此时左乘待变换矩阵，右边系数非零的都是特征值一致的向量，证毕。

第六章 二次型与正定矩阵

对于任何一个二次型而言，我们可以把它们表示成矩阵乘法形式，左右未知元的向量互为转置。二次型对应的矩阵一定是对称矩阵。不要忘记系数关系。

我们希望通过一种代换，将复杂的一般二次型转化为标准型（无交叉项）。一般的方法是用配方法。左上角元素大于零，那么可以把含这个元素的所有项全部换成一个平方项。else，找到最近一个非零平方元素，把它换到左上角；else，将任意交叉项换成平方差。综合以上三种方法，可以将数域中的所有二次型都化成标准型。

配方法的三种方法，都可以成线性替换的形式，而且都是非奇异的。从另外一种角度来考虑，我们要求标准型，无非是把x“展开”，用非退化的线性替换将中间的矩阵变成对角矩阵。结合转置关系，我们引入合同概念。合同要求变换矩阵可逆，所以合同矩阵的秩相同；它们的对称性也相同；关系具有传递性、自反性、交换性。

我们可以想到用初等变换求变换矩阵和标准型。联系上一章末尾的内容，如果要求正交矩阵作为变换矩阵，可以采用先前的办法。对于这两种方法，前者计算量小，速度快；后者的变换不改变原先模长(几何意义上就是“平动”，不改变曲线的形状)，同时得到的对角矩阵以特征值作为对角元。

对于规范型，定义上没有强调一定要让非零元在前。我们可以通过简单的线性替换，将非零的未知元集中在矩阵的左上部分。同时，我们能够更改变元的系数，从而改变最后规范型的系数。如果在数域上，可以把所有非零平方项的系数化为1，而对于实数范围内只能化成-1或1.这样处理后，就得到了标准型。其中。“1”的个数称为正惯性系数，“-1”的个数称为惯性系数。由于变换过程中使用的矩阵都是非奇异的，那么两者之和就是二次型的秩。

就像我们需要证明简化阶梯型唯一一样（虽然我没有完全理解这个证明），我们也需要看看标准型是否唯一。假设对于某个二次型，存在两个不同的标准型（未知元记为y和z，正惯性系数记为o与p）。前者的正惯性系数大于后者，两者的秩相同。现在，我们要试着推出矛盾。

根据线性替换的性质，y和z之间可以通过非奇异的线性替换来相互转换，也就是说它们之间构成了线性方程组。如果我们希望给等式两边的未知元“赋值”，其实就是要证明构造的方程组有合法解

我们希望左边的式子大于0而右边的式子小于。构造齐次线性方程组，方程的个数为n-p+q。，将py=z的线性替换的前q行照抄，以图q的前的所有正元都为0；将y的后q行全部置为0，从而保证n-p个负系数二次项全部消失，左式大于零。

我们来看这个方程组是否有非零解。由于方程的个数大于未知元的个数，所以一定有非零解，且非零的未知元都是y的前q个未知元。因此，左式严格大于零，右边的式子不大于零。其实由于变换奇异，y非零，所以z非零，所以右边的式子严格小于零。

因此，有了唯一的标准型作为桥梁，所有合同的矩阵都对应唯一的标准型；反之亦成立。准确的表述是：A和B的秩相同，正惯性指数也相同是A和B合同的充要条件。

引入定性的概念。原始定义是对于任意非零未知元，二次型的正负性。由于合同变换的非奇异性，我们可以转而研究标准型的正负性。这一点的严格证明，可以从非退化线性替换对定性影响的分析来得到。注意使用原始定义。关键点是非退化变换对于非零的保持性。

 我们观察标准型与正负性的关系，这只取决于正惯性系数、秩和矩阵的阶数。要判断矩阵的定性，较为快速的方法是初等变换法化成对角矩阵，然后观察系数正负、非零系数个数。

至此，我们来看看一些命题的关系。

（1）正定

（2）合同于单位矩阵

  (3) 存在n阶非奇异实矩阵B，使得A=B和B的转置相乘

（4）特征值全部为正

1到2，只需将矩阵化成标准型，发现标准型为单位矩阵。

2到3，取B为变换矩阵的逆矩阵。

3到4，重要技巧。用特征值列出式子，用3种结论代入，观察到强烈的转置对称性，只需左乘特征向量的转置。熟悉点积的矩阵乘法形式。

4到1，由于特征值都为正，所以可以用正交替换法合同对角线元素为特征值的对角矩阵，进一步化为标准型。

这四个命题构成了环状结构，意味着彼此等价。

得出一个推论：正定矩阵的行列式大于零。反例可以迅速证伪逆定理。结合行列式性质和（2）可得出。

用实对称矩阵的子矩阵的行列式来判断实对称矩阵是否对称的方法。

给出顺序子矩阵的定义。证明实对称矩阵正定的等价条件：顺序子矩阵全部为正。

我们先证这一条件的必要性。证明第t个顺序子矩阵大于零，只需将t+1之后的所有元都置零，得到一个小的二次型。原二次型的正定性使得前t元任意非零取值都可以使得二次型为正，所以此时小二次型正定，行列式。

现在来看充分性。运用数学归纳法。对于n阶矩阵，我们面临的问题是，已知第1到n个顺序行列式为正，1到n-1阶小二次型正定，证明证明大二次型正定。

我们用n-1阶的变换矩阵构造分块矩阵，将左上块化为n-1阶单位矩阵，进而通过对称的变换消去左下、右上块。这两步的变换矩阵都是非奇异的，则得到的对角矩阵的行列式也为正。既然如此，右下角元素一定为正。此时，我们可以进一步把这个二次型的矩阵变成n阶单位矩阵，故矩阵正定，证毕。

这个定理的意义有点像克莱默法则的意义。它很适合处理带参数的情况，可以方便地得出正定的条件。