矩阵乘法的四种理解方式

from http://blog.sciencenet.cn/blog-520608-685388.html

先介绍向量的两种运算，一个行向量乘以一个列向量称作向量的内积，又叫作点积，结果是一个数；

一个列向量乘以一个行向量称作向量的外积，外积是一种特殊的克罗内克积，结果是一个矩阵，

假设 $a^{T}$

$a^{T} \cdot b = a_{1} b_{1} + a_{2} b_{2}$

$b \otimes a^{T} = (\begin{matrix} b_{1} a_{1} & b_{1} a_{2} \\ b_{2} a_{1} & b_{2} a_{2} \end{matrix})$

定义了内积和外积以后，我们讨论矩阵的乘法。矩阵是由向量组成的，因此对矩阵不同角度的抽象，将矩阵乘法转换为向量乘法，可以使我们从不同的角度去理解矩阵的乘法。对于一个矩阵A（假设行和列的大小都是2），我们既可以把它看作由两个行向量组成的列向量， $(\begin{matrix} a_{1}^{T} \\ a_{2}^{T} \end{matrix})$

一、 A是由行向量组成的列向量，B是由列向量组成的行向量

$A B = (\begin{matrix} a_{1}^{T} \\ a_{2}^{T} \end{matrix}) (\begin{matrix} b_{1} & b_{2} \end{matrix})$

此时AB乘积变为了两个新的向量的外积形式，按照外积定义，我们有

$A B = (\begin{matrix} a_{1}^{T} b_{1} & a_{1}^{T} b_{2} \\ a_{2}^{T} b_{1} & a_{2}^{T} b_{2} \end{matrix})$

注意到这里面每一个 $a_{i}, b_{j}$

二、 A和B都是由列向量组成的行向量

$A B = (\begin{matrix} a_{1} & a_{2} \end{matrix}) (\begin{matrix} b_{1} & b_{2} \end{matrix})$

令C = AB，我们考虑C的每一个列向量:

$c_{1} = A b_{1} = (\begin{matrix} a_{1} & a_{2} \end{matrix}) b_{1} = a_{1} b_{11} + a_{2} b_{12}$

同理：

$c_{2} = a_{1} b_{21} + a_{2} b_{21}$

因此，矩阵C的每一个列向量，是A的列向量的一个线性组合，该线性组合中的系数是 $b_{i}$

三、 A是由行向量组成的列向量，B也是由行向量组成的列向量

$A B = (\begin{matrix} a_{1}^{T} \\ a_{2}^{T} \end{matrix}) (\begin{matrix} b_{1}^{T} \\ b_{2}^{T} \end{matrix})$

类似于上面的情况，不过我们现在考虑C的每一个行向量:

$c_{1}^{T} = a_{1}^{T} B = a_{1}^{T} (\begin{matrix} b_{1}^{T} \\ b_{2}^{T} \end{matrix}) = a_{11} b_{1}^{T} + a_{12} b_{2}^{T}$

同理：

$c_{2}^{T} = (\begin{matrix} a_{21} b_{1}^{T} & a_{22} b_{2}^{T} \end{matrix})$

因此，矩阵C的每一个行向量，是B的行向量的一个线性组合，该线性组合中的系数是 $a_{i}^{T}$

四、 A是由列向量组成的行向量，B也是由行向量组成的列向量

$A B = (\begin{matrix} a_{1} & a_{2} \end{matrix}) (\begin{matrix} b_{1}^{T} \\ b_{2}^{T} \end{matrix})$

此时AB乘积变为了两个新的向量的内积形式。按照内积定义我们有：

$A B = a_{1} b_{1}^{T} + a_{2} b_{2}^{T}$

注意到 $a_{i} b_{i}^{T}$

根据以上分析，我们可以将第一种和第四种方式放到一起，第二种和第三种放到一起分别进行理解。第一种方式先将A抽象为列向量，将B抽象为行向量，从而将矩阵乘法变为了一种外积的形式，而外积矩阵中的每一个元素是一个行向量和一个列向量的内积。这种方式每次得到C的一个元素 $c_{i j}$

第四种理解方式先将A抽象为行向量，将B抽象为列向量，从而将矩阵乘法变为了一种内积形式，内积的各个组成部分 $a_{i} b_{i}^{T}$

第二种方式将矩阵A、B都抽象为行向量，行向量的每个组成是一个列向量，A乘以B的每一个列向量得到一个新的列向量，并且该列向量存在于A的列向量空间内，A乘以B相当于是对A进行了列变换。第三种方式则将A乘以B看作是对B进行了行变换。

如果想对一个矩阵进行行变换，可以左乘一个矩阵；相应的如果想对矩阵进行列变换，可以右乘一个矩阵。这种思想被应用到高斯消元的过程中。

最后我们总结一下矩阵C(C=AB)到底是什么，C是一个矩阵，是一个多面孔的矩阵。它既是列向量组成的行向量，每个列向量是A的列空间的线性组合，又是行向量组成的列向量，每个行向量是B的行空间的线性组合；它是一个内积，内积的每个成分是一个外积，同时它又是一个外积，外积矩阵的每一个元素是一个内积。

参考资料：

[1] http://videolectures.net/mit1806s05_strang_lec06/

[2] Introduction to Linear Algebra; Gilbert Strang

posted @ 2018-05-14 11:29 princessd8251 阅读(506) 评论(0) 收藏举报

刷新页面返回顶部