线性代数小记
L1 从几何角度引入矩阵
对于方程组，可以简写为Ax=b，三个变量分别为系数矩阵、未知数列向量、值列向量。考虑它们的系数矩阵，从行的角度可以得到矩阵乘法、从列的角度可以得到线性组合。所以方程组、矩阵乘法、线性组合本质上是一回事。
因此矩阵A和列向量相乘 Ax，可以看成是A的列向量的线性组合
L2 矩阵消元
（从消元法解方程组的角度引入矩阵及三角矩阵、单位矩阵、消元矩阵、置换矩阵、逆矩阵等）
方程组的系数组成系数矩阵A。A的对角元素称为主元。
方程组写成Ax=b，消元法解方程的过程就是把A变为U的过程，此过程相当于从前往后一次消掉x,y,...。当然也可以是下三角，此时是从后往前消。
初等矩阵：
消元矩阵E（Elimination首字母）：消元过程用的因子组成了消元矩阵。
置换矩阵P：行置换用左乘、列置换用右乘。
上三角矩阵U（Upper首字母）。系数矩阵A第二行消掉x、第三行消掉y、... ，就得到U
矩阵消元：将矩阵A变成U的过程就是消元的过程，消元总步骤就是E，EA = U ，对于每一个消元步骤的Ei 是个下三角阵
下三角阵L（Lower首字母）
对角阵D（Diagonal首字母）：非主对角线上的元素全0的矩阵，主元是否有0不做要求。（主对角线上元素称为主元）
单位矩阵I（Identity首字母）：主元全为1，其他元素全为0的矩阵。
转置：AT 表示矩阵A的转置矩阵
L3 矩阵乘法
矩阵乘法 AB=C，直观理解是A的m行乘B的n列
两个角度理解：
方式1：列角度——C中的列是A中的各列的线性组合（为何是A，因为A与C行数一样），组合系数是B的列向量：A列、B列、C列。怎么理解？L1中已有“矩阵A和列向量相乘 Ax，可看成A的列向量的线性组合”，推而广之，把B看成是多个列向量组成的矩阵，也可看成是系数矩阵一样的多个方程组的矩阵形式。
方式2：行角度——C中的行是B中的各行的线性组合（为何是B，因为B与C列数一样），组合系数是A的行向量：A行、B行、C行。
矩阵乘法计算规则
（矩阵乘法不满足交换律，满足结合律）
矩阵乘法的定义是A的多行乘B的多列，为了计算C，我们可通过不同的"分治"角度得到五种不同计算规则：
1 A的一行乘B的一列：此时每次算C的一格值。这种是用的最多的算法，Cij 的值就是A的i行乘B的j列的结果
2 A的一行乘B的多列：此时每次算C的一行值。
3 A的多行乘B的一列：此时每次算C的一列值。
4 A的一列乘B的一行：此时每次算C的一各“分矩阵”，C的值为各“分矩阵”的和。这里的“分矩阵”与子块矩阵的概念不同，后者从横或竖切而前者从剖面切。
5 分块矩阵
第一种是我们通常计算矩阵乘法时用到的方法，这里讲下另三种。具体而言：
分解为 矩阵和向量 或 向量和矩阵 相乘：
方式1：B的1列乘A各行。用B的一列依次去乘A的每行，得到C的对应列（按列求），相当于对A的各列进行线性组合。对应于上述理解方式1。
方式2：A的1行乘B各列。用A的一行依次点乘B的每列，得到C的对应行（按行求），相当于对B的各行进行线性组合。对应于上述理解方式2。
不分解：
方式3：A的1列乘B的1行。A的i列乘B的i行，并对各个结果求和，其中 i∈[1,n] 。
逆矩阵
定义：对于矩阵A，若存在矩阵A-1 使得A-1A =I，则A-1 称为A的逆矩阵。实际上此时有 A-1A = AA-1 = I
若存在矩阵可逆矩阵也叫非奇异矩阵、不可逆矩阵也叫奇异矩阵。
是否有逆的判断：有多种判断方法（几何角度适合理解、代数角度适合计算）
几何角度：
若存在非0向量x使得AX=0则A不可逆，若不存在则有逆。可用反证法，若A可逆，则A-1AX=0，从而X=0，这与X非0违背。
列向量组线性无关，或行向量组线性无关。
代数角度：
A的行列式非0则有逆，否则无逆。无脑算就行了，不用理解成列向量间的关系或方程组。
A化成上三角形或下三角形矩阵后主元全非0则有逆。因为若有0则列向量组线性有关。
如何计算逆：对于矩阵A，若有逆，假设其逆为B，则AB=I，B为未知数，故求A的逆实际上是求解多个方程组，因此将A、I写成增广矩阵的形式再用前面的消元法即可：(A, I) => (BA, BI) => (I,BI) ，即将增广矩阵左边变成单位矩阵后右边就是A的逆。
逆矩阵性质：(A-1)T=(AT)-1 、(AB)-1=B-1A-1 、(AB)T=BTAT
L4 矩阵分解
矩阵消元：EA=U，A已知，E、U是要求的。
矩阵分解：
A = LU，A已知，L、U是要求的。如何将矩阵A分解成下三角阵L与上三角阵U的乘积？这里L是下三角阵、U是上三角阵。
因矩阵A通过若干次消元（E）可得到U（即EA=U），故对U逆消元（E-1）即可得到A（即E-1 U=A），可见L=E-1，故分解的过程：先对A消元得到E、再对E求逆。由于消元过程是多个消元矩阵Ei 依次作用的，Ei 每次只会消一个因子故Ei 是简单的矩阵，容易求逆，故 L= E-1= (En..E1)-1 = E1-1...En-1 ，即 L= E1-1...En-1
A=LDU，将A=LU中的U进一步分解成对角阵与上三角阵的乘积。
https://www.bilibili.com/video/BV1at411d79w
