线性代数笔记

要活用 向量x矩阵是n^2的 好性质来优化 n^3的矩阵乘法

 

下面是原文,上面是会不断更新的小知识。。

==========分==割==线=============

 

使用符号约定:

  • 符号A ∈ Rm×n表示一个m行n列的矩阵,并且矩阵A中的所有元素都是实数。
  • 符号x ∈ Rn表示一个含有n个元素的向量。通常,我们把n维向量看成是一个n行1列矩阵,即列向量。如果我们想表示一个行向量(1行n列矩阵),我们通常写作x(xT表示x的转置,后面会解释它的定义)。
  • 一个向量x的第i个元素表示为xi
  • 我们用aij (或Aij,Ai,j,等) 表示第i行第j列的元素。

单位矩阵,记作I ∈ Rn×n, 是一个方阵,其对角线上的都是1,其他元素都是0。

初等矩阵:单位矩阵进行一次初等变换(初等变换在后面有讲)后得到的矩阵。

  单位矩阵第i,j两行互换得到的方阵为  

  单位矩阵第i行乘以常数k得到初等方阵 

  将单位矩阵的第i行的k倍加到第j行得到初等方阵 

  任何矩阵A 左乘初等矩阵 即对A进行对应的行变换。  而右乘则进行对应的列变换。

对角矩阵除了对角线元素之外其他元素都是0。可以记作= diag(d1,d2,...,dn),显然,I = diag(1,1,...1)。

对称矩阵:方阵A∈ Rn×n满足条件AT

反对称矩阵:方阵A∈ Rn×n满足条件= -AT。            (很容易证明,任何矩阵∈ Rn×nA是对称的,而 A−AT是反对称的。)

矩阵的迹:方阵∈ Rn×n,记作trace(A),或可以省略表示成trA,是矩阵的对角线元素之和。

范数:向量的范数是向量"长度"的非正式度量。例如,我们常用的欧氏或ℓ2范数。

零空间:记作N(A),是满足Aα=0的α向量构成的集合。

列空间:记作C(A),C(A)=span(v1,v2,v3,...,vn),vi是A的列向量。C(A)是向量的集合。

线性相关:对于一组向量{x1,x2,...xn} ∈ Rm,如果没有向量可以表示为其余向量的线性组合,这组向量就是(线性)无关的。相反,如果一个向量属于一个集合,这个集合中的向量可以表示为其余的向量某个线性组合,那么就称其称为向量(线性)相关

矩阵的秩:矩阵∈ Rn×n行(列),是最大的线性无关的 行(列)向量组。 行秩=列秩。

矩阵的逆:矩阵∈ Rn×n,写作A−1,是一个矩阵,并且是唯一的。A−1AA−1.  ,矩阵A有逆 等价于det A !=0

注意不是所有的矩阵都有逆。例如非方阵,是没有逆的。然而,即便对于一些方阵,它仍有可能不存在逆。如果A−1存在,我们称矩阵可逆的或非奇异的,如果不存在,则称矩阵A不可逆奇异

矩阵求逆算法【

  A*A-1=I,  把A用高斯消元消成I, 将其中对A的操作,同步对一个I进行相同操作,最后: A*A-1=I, 同步的 I*A-1=A-1, 这样就得到了A的逆

矩阵的行列式:方阵A∈Rn×n的行列式是一个映射det: Rn×n→R,记作|A|或det A。

  考虑由A中所有行向量a1,a2,..,an的所有可能线性组合组成的点集S⊂Rn,其中线性组合的参数都介于0和1之间;换句话说,由于这些线性组合的参数a1,a2,...,an∈Rn满足0≦ai≦1,i=1,...,n,集合S是张成子空间({a1,   . . , an})的约束。

  A的行列式的绝对值,是集合S的"体积"的一个量度。

  例如,考虑2×2矩阵,

  对应

行列式的定义性质:

1、单位矩阵的行列式为1 ,|I| = 1。(从几何上来看,单位超立方体的体积为1)。

2、对于一个矩阵A∈Rn×n,如果将A中某行乘以一个标量t∈R,新矩阵的行列式值为t|A|。(几何上,集合S的一条边乘以因数t,会导致体积扩大t倍)

  将矩阵A拆成矩阵B和C,    要求B和C只有第i行(列也一样)与A不一样,且B的第i行与C的第i行相加等于A的第i行 ,那么|A|=|B|+|C|。

3、我们交换行列式A任意两行aTiaTj,新矩阵的行列式的值为-|A|,例如:

可以证明,满足上述性质的函数有且仅有一个(??)。

这三个性质的推论包括:

  • 对于 A ∈ Rn×n, |A| = |AT |。
  • 对于 A,B ∈ Rn×n, |AB| = |A||B|。   对应的证明 可以用到拉普拉斯定理(要用到之后的行列式按行展开):https://wenku.baidu.com/view/e6d2231355270722192ef7d9.html
  • 对于 A ∈ Rn×n,当且仅当A奇异(即不可逆)时,|A| = 0。(如果A奇异,它必不满秩,它的列线性相关。此时,集合S对应于n维空间中的一个平板,因此体积为零。)
  • 对于A ∈ Rn×n,且A非奇异, |A-1| = 1/|A|.

拉普拉斯展开定理的推广:

行列式初等变换:

①交换任意两行(或列),det乘上-1

②某行(或列)乘上一个数k,det乘上k

③某行(或列)的k倍加到另一行(或列)上,det不变

④行列式转置后,det不变

行列式的余子式:对于A∈ Rn×n,矩阵A\i,\j ∈R(n-1)×(n-1)是A删除i行和j列的结果。

代数余子式: Mi,j=|A\i,\j|*(-1)(i+j)

行列式的一般(递推)定义:

这个式子被称为行列式的行(列)展开。即 任取第i行(列), 对这n个元素ai,j与其对应的代数余子式Mi,j的积求和 等于det A。

相应的,若 取第i行的元素ai,j分别与第k行(k!=i)对应j的代数余子式Mk,j的积求和,得到的值为0。

证明:https://wenku.baidu.com/view/aeab93a402020740bf1e9b2a.html

递归定义的首项为 A∈ R1×1的行列式。其det为a11。

相似矩阵:对于n阶矩阵A,B,存在P-1AP=B,则矩阵A与B相似。

古典伴随矩阵(简称伴随矩阵):记作adj(A),定义为:即代数余子式的转置。

对于任意非奇异矩阵A∈ Rn×n,有

证明:

 

 用这个可以推出(A-1)*=(A*)-1

    【

      由A* = |A| * A-1 得到

      ①(A-1)* = |A-1| * (A-1)-1 = |A|-1 * A

      ②(A*)-1 = (|A| * A-1)-1 = |A|-1 * (A-1)-1 = |A|-1 * A

      所以(A-1)*=(A*)-1

    】

 

 

Cauchy–Binet formula(柯西–比内公式)
(记法有很多种,意思都是一样的,这里选择了一种比较简洁规范的写法)

mn。令Am×n的矩阵,Bn×m的矩阵,ψ是从{1m}{1n}的函数,满足ψ(1)<ψ(2)<<ψ(m),令Aψ表示从A中选择ψ(1)ψ(m)m列得到的新矩阵,Bψ表示从B中选择ψ(1)ψ(m)m行得到的新矩阵,则有 

det(AB)=ψdet(Aψ)det(Bψ)

特别地,若A是方阵,有det(AB)=det(A)det(B),令B=AT就得到det(AAT)=det(A)det(AT)=det2(A) 
顺便说一句,若m>ndet(AB)=0

 

矩阵的特征值和特征向量:

  若存在数λ和非零向量x,使得Ax = λx = λIx,则称λ是A的一个特征值,x是对应这个特征值的特征向量。

 

  设变量λ是个未知量。

  矩阵A的特征多项式 f(λ) = det(λI-A)  = λn + an-1 λn-1 + an-2 λn-2 + ··· + a0

  在复数域下,f(λ) = 0的n个解,即为 矩阵A的特征根 (也就是特征值)

  由韦达定理可得:λ1 + λ2 + ··· + λn = -an-1 = A11 + A22 + ··· + Ann

          λ1 * λ2 * ··· * λn = (-1)n a0 = det(A)                            (由这条可以看出,A可逆 与 所有特征值非零 等价)

  

  Cayley-Hamilton定理: f(A)=0

  证明:{

    设 矩阵[λI-A] 的伴随矩阵为B

    设 B = Bn-1 λn-1 + Bn-2 λn-2 + ··· + B0    (Bi是未知的矩阵,与B同阶)

    (λI-A) · B = λB - AB = (Bn-1 λn + Bn-2 λn-1 + ··· + B0λ) - (ABn-1 λn-1 + ABn-2 λn-2 + ··· + AB0)

    = Bn-1 λn + (Bn-2 - A·Bn-1) λn-1 + ··· + (B0 - A·B1) λ - A·B0

    同时,由于 B是伴随矩阵, (λI-A) · B = I · det(λI-A) = I · (an λn + an-1 λn-1 + an-2 λn-2 + ··· + a0)

    所以 anI = Bn-1

      an-1I = Bn-2 - A·Bn-1

      ···

      a1I = B0 - A·B1

      a0I = - A·B0

     从上到下每个等式的两边 分别左乘上  An,An-1, ... , I

      an An = ABn-1

      an-1An-1 = An-1 Bn-2 - An·Bn-1

      an-2An-2 = An-2 Bn-3 - An-1·Bn-2

      ...

      a1A = A·B0 - A2·B1

      a0I = - A·B0

      将所有式子相加,得到 f(A)=0
  }

 

  OI求特征多项式:  可以通过 用λ = 随便什么数  代入求det[λI-A]   ,O(n4)。  然后 拉格朗日插值(O(n2))    比如 →BZOJ4162

          至于之前学的 用牛顿恒等式 直接推。 忘了

  

 

 

   

  【乱七八糟的,伪笔记。

 

    特征值能代替矩阵进行多项式运算的前提是,两个矩阵有公共的特征向量,  比如: 单位矩阵与所有矩阵都有公共特征向量,矩阵A与矩阵A^k有公共特征向量。

 

    那么关于A的多项式 就满足 f(A)=f(λ0) ,(常数用单位矩阵来解释),也就有了Cayley-Hamilton定理  特征多项式 f(A)=f(λ)=0 .

 

   】

 

posted @ 2017-06-20 20:53  cyz666  阅读(832)  评论(0编辑  收藏  举报