本文为《Introduction to Linear Algebra》的读书笔记
1.1 向量和线性组合
线性代数(linear algebra)的核心就两个操作,并且都作用于向量。
一个是向量相加, \(\bar{v} + \bar{w}\). 一个是向量和标量相乘, \(c·\bar{v} = c\bar{v}\).
两个操作结合，就可以得到向量的线性组合 \(c\bar{v} +d\bar{w}\)
\[
c\bar{v} +d\bar{w} = c
\begin{bmatrix}
1\\
1\\
\end{bmatrix}
+ d
\begin{bmatrix}
2\\
3\\
\end{bmatrix}
=
\begin{bmatrix}
c + 2d\\
c + 3d\\
\end{bmatrix}
\]
The vectors cv lie along a line. When w is not on that line, the combinations cv + dw fill the whole two-dimensional plane.
向量可以写成列向量的形式，一个向量的多个分量多数情况下是没有关联的。
\[v =
\begin{bmatrix}
v_1\\
v_2\\
\end{bmatrix}
\]
向量相加(vector addition)
\[
\bar{v} =
\begin{bmatrix}
v_1\\
v_2\\
\end{bmatrix}
,\space\space
\bar{w} =
\begin{bmatrix}
w_1\\
w_2\\
\end{bmatrix}
,\space\space
\bar{v} + \bar{w} =
\begin{bmatrix}
v_1 + w_1\\
v_2 + w_2\\
\end{bmatrix}
\]
标量乘法(scalar multiplication)
\[
2\bar{v} =
\begin{bmatrix}
2v_1\\
2v_2\\
\end{bmatrix}
= \bar{v} + \bar{v} , \space \space
-\bar{v} =
\begin{bmatrix}
-v_1\\
-v_2\\
\end{bmatrix}
\]
结合 向量相加 和 标量乘法，我们就可以得到 线性组合(linear combination)，先用c去乘v，然后d乘w，最后相加得到 c\(\bar{v}\) + d\(\bar{w}\) .
c\(\bar{v}\) 和 d\(\bar{w}\)的和， c\(\bar{v}\) + d\(\bar{w}\) 是一个线性组合
\[\bar{v} =
\begin{bmatrix}
1\\
1\\
-1
\end{bmatrix}
\space\space也可以写作 \space\space
\bar{v} = (1,1,-1)
\]
但(1,1,-1) 不是行向量，而是列向量，只是为了节省空间。 行向量是 \(\begin{bmatrix} 1& 1& -1\\\end{bmatrix}\)`
知识要点
- A vector \(\bar{v}\) in two-dimensional space has two components \(v_1\) and \(v_2\) .
- \(\bar{v}\) + \(\bar{w}\) =\((v_1+w_1, v_2+w_2)\) 和 \(c\bar{v}=(cv_1, cv_2)\) are found a component at a time 一次计算一个分量
- A linear combination of three vectors \(\bar{u}\) and \(\bar{v}\) and \(\bar{w}\) is c\(\bar{u}\)+ d\(\bar{v}\) + e\(\bar{w}\).
- Take all linear combinations of \(\bar{u}\), or \(\bar{u}\) and \(\bar{v}\), or \(\bar{u}\), \(\bar{v}\), \(\bar{w}\). In three dimensions,
those combinations typically fill a line, then a plane, then the whole space \(R^3\) .
1.2 长度和点乘
向量 \(\bar{v}=(v_1,v_2)\)和\(\bar{w}=(w_1,w_2)\)的点积或者说内积为各个分量的乘积的和 :
\[\bar{v}·\bar{w} = v_1w_1+ v_2w_2 + ...+v_nw_n
\]
比如说，\(\bar{v}=(4,2)\) 和 \(\bar{w}=(-1,2)\) 的点乘积为0
\[\begin{bmatrix}
4\\
2\\
\end{bmatrix}
·
\begin{bmatrix}
-1\\
2\\
\end{bmatrix}
= -4 + 4 = 0.
\]
数学中，0总是一个特殊的值。对于点乘积，0意味着两个向量垂直
长度和单位向量
向量 \(\bar{v}\)自身的点乘积 为长度的平方，这主要是分量互相垂直导致的结果
\[\|v\|^2 =
\begin{bmatrix}
1\\
2\\
3
\end{bmatrix}
·
\begin{bmatrix}
1\\
2\\
3
\end{bmatrix}
= 1 + 4 + 9 = 14.
\]
单位向量 \(\bar{u}\) 是长度为1 的向量. \(\bar{u}·\bar{u}=1\)
\(\bar{u}=\bar{v}/\|\bar{v}\|\) 是和 \(\bar{v}\) 同方向的单位向量.
单位向量 \(\bar{u}\) 和 \(\bar{U}\) 之间的夹角为\(\theta\), 则 \(\bar{u}·\bar{U}= cos\theta\). 很显然 \(\|\bar{u}·\bar{U}\| <= 1\)
\[Cosine公式 \space\space\space\space
\dfrac{
\bar{v}·\bar{w}
}
{
\|\bar{v}\|\|\bar{w}\|
}
= cos\theta
\]
\[比
\begin{bmatrix}
1\\
2\\
\end{bmatrix}
·
\begin{bmatrix}
3\\
4\\
\end{bmatrix}
更规范的写法是
\begin{bmatrix}
1 & 2
\end{bmatrix}
\begin{bmatrix}
3\\
4\\
\end{bmatrix}
\]
知识要点
- The dot product \(\bar{v} · \bar{w}\) multiplies each component \(v_i\) by \(w_i\) and adds all \(v_iw_i\) .
- The length \(\|v\|\) is the square root of \(\bar{v}·\bar{v}\). Then \(\bar{u} = \bar{v}/\|v\|\) is a unit vector: length 1.
- \(\bar{v}\) · \(\bar{w}\) = 0 意味着 两个向量垂直
- \(\theta\) 的consine 不会超过1
\[Schwarz\space\space inequality
\space\space\space\space\space\space\space\space
\|\bar{v} · \bar{w} \| <= \|\bar{v}\| · \|\bar{w} \|
\]
1.3 矩阵 Matrices
\[A=
\begin{bmatrix}
1 & 2 \\
3 & 4 \\
5 & 6
\end{bmatrix}
是一个3×2的矩阵，m=3行，n=2列
\]
\[Ax=
\begin{bmatrix}
1 & 2 \\
3 & 4 \\
5 & 6
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
\end{bmatrix}是一个列的组合，
Ax=
x_1\begin{bmatrix}
1 \\
3 \\
5
\end{bmatrix}
+
x_2\begin{bmatrix}
2 \\
4 \\
6
\end{bmatrix}
\]
\[A\bar{x} 的3个分量是A的3行和向量\bar{x}的点乘积
\begin{bmatrix}
1 & 2 \\
3 & 4 \\
5 & 6
\end{bmatrix}
\begin{bmatrix}
7\\
8
\end{bmatrix}
=
\begin{bmatrix}
1·7 + 2·8 \\
3·7 + 4·8 \\
5·7 + 6·8 \\
\end{bmatrix}
=
\begin{bmatrix}
23 \\
53 \\
83 \\
\end{bmatrix}
\]
\[矩阵等式Ax=b:\space \space
\begin{bmatrix}
2 & 5 \\
3 & 7 \\
\end{bmatrix}
\begin{bmatrix}
x_1 \\
x_2 \\
\end{bmatrix}
=
\begin{bmatrix}
b_1 \\
b_2 \\
\end{bmatrix}
等价于
\begin{aligned}
2x_1 + 5x_2 = b_1 \\
3x_1 + 7x_2 = b_2 \\
\end{aligned}
\]
\[A\vec{x} =\vec{b}的解可以写成 \vec{x}=A^{-1}\vec{b}. 但一些矩阵不存在逆矩阵A^{-1}
\]
\[三个向量\space\space
\vec{u}=
\begin{bmatrix}
1\\
-1\\
0
\end{bmatrix}
\space \space \space \space
\vec{v}=
\begin{bmatrix}
0\\
1\\
-1
\end{bmatrix}
\space \space \space \space
\vec{w}=
\begin{bmatrix}
0\\
0\\
1
\end{bmatrix}
\]
\[ 这些向量的组合 \space\space
x_1
\begin{bmatrix}
1\\
-1\\
0
\end{bmatrix}
+
x_2
\begin{bmatrix}
0\\
1\\
-1
\end{bmatrix}
+
x_3
\begin{bmatrix}
0\\
0\\
1
\end{bmatrix}
=
\begin{bmatrix}
x_1 \\
x_2 -x_1\\
x_3 -x_2
\end{bmatrix}
\]
然后 使用矩阵重写这个组合 . 向量 \(\vec{u}, \vec{v}, \vec{w}\) 写到矩阵A的列中，矩阵A乘以向量\((x_1,x_2,x_3)\)
\[Ax =
\begin{bmatrix}
1 & 0 & 0 \\
-1 & 1 & 0 \\
0 & -1 & 1 \\
\end{bmatrix}
\begin{bmatrix}
x_1\\
x_2\\
x_3
\end{bmatrix}
=
\begin{bmatrix}
x_1 \\
x_2 - x_1\\
x_3 - x2 \\
\end{bmatrix}
\]
我们也能看成是矩阵A作用于向量x，Ax也是 行 的点乘积
Linear combinations are the key to linear algebra, and the output Ax is a linear combination of the columns of A.
浙公网安备 33010602011771号