【深度学习数学基础：线性代数】3. 线性空间及线性映射：3.1 线性空间

3. 线性空间及线性映射

3.1 线性空间

线性空间是一个特殊的集合，该集合上定义了加法及数量乘两种运算并且这两种运算满足一系列性质。在线性代数中，线性空间也叫向量空间。凡是定义了这两种运算且运算满足所需性质的向量的集合，均可称为向量空间。

设有集合 \(\boldsymbol{V}\)，称 \(\boldsymbol{V}\) 为线性空间，如果在其上定义加法及数量乘

• 加法：设有 \(\boldsymbol{u}, \boldsymbol{v} \in \boldsymbol{V}\) 则任意 \(\boldsymbol{u} + \boldsymbol{v} \in \boldsymbol{V}\)，加法要求具有封闭性
• 数量乘：设有 \(\boldsymbol{v} \in \boldsymbol{V}\)，\(a\) 为任意实数，则 \(a\boldsymbol{v} \in \boldsymbol{V}\)，数量乘也要求具有封闭性
  【注】封闭性就像一个 “闭合的容器”：当集合里的元素进行某种运算（如加法、数乘）时，运算结果始终不会 “跑出” 这个集合。比如整数集对加法是封闭的（两整数相加还是整数），但自然数集对减法不封闭（3-5=-2，-2 不是自然数）。在线性空间中，加法和数乘封闭确保了任意运算后的向量仍属于该空间，这是线性空间的基础特性。
  同时 \(\boldsymbol{V}\) 上满足下列性质
• 交换性：对任意 \(\boldsymbol{u}, \boldsymbol{v} \in \boldsymbol{V}\) 都有 \(\boldsymbol{u} + \boldsymbol{v} = \boldsymbol{v} + \boldsymbol{u}\)
• 结合性：对任意 \(\boldsymbol{u}, \boldsymbol{v}, \boldsymbol{w} \in \boldsymbol{V}\), \(a, b\) 为任意实数，都有 \((\boldsymbol{u} + \boldsymbol{v}) + \boldsymbol{w} = \boldsymbol{u} + (\boldsymbol{v} + \boldsymbol{w})\), \((ab)\boldsymbol{v} = a(b\boldsymbol{v})\)
• 加法单位元（也叫零元）：存在一个元素 \(\boldsymbol{0} \in \boldsymbol{V}\)，使得对所有 \(\boldsymbol{v} \in \boldsymbol{V}\) 都有 \(\boldsymbol{v} + \boldsymbol{0} = \boldsymbol{v}\)
• 加法逆：对每个 \(\boldsymbol{v} \in \boldsymbol{V}\)，都存在一个 \(\boldsymbol{w} \in \boldsymbol{V}\) 使得 \(\boldsymbol{v} + \boldsymbol{w} = \boldsymbol{0}\)
• 乘法单位元：对所有 \(\boldsymbol{v} \in \boldsymbol{V}\) 都有 \(1\boldsymbol{v} = \boldsymbol{v}\)
• 分配性质：对任意实数 \(a, b\)，任意 \(\boldsymbol{u}, \boldsymbol{v} \in \boldsymbol{V}\)，都有 \(a(\boldsymbol{u} + \boldsymbol{v}) = a\boldsymbol{u} + a\boldsymbol{v}\), \((a + b)\boldsymbol{u} = a\boldsymbol{u} + b\boldsymbol{u}\)

【注】线性空间不要求具备乘法逆元，乘法逆元经典的例子比如某数的倒数。
一般情况下如无特殊说明，向量中每个坐标的取值都是实数。如果限定向量坐标的取值范围为某个特殊的集合，如集合 \(\boldsymbol{F}\)，那么在定义向量空间时，数量乘中的 \(a\) 也要属于 \(\boldsymbol{F}\)。

\[\boldsymbol{v} = \begin{bmatrix} v_1 \\ v_2 \\ v_3 \end{bmatrix}, \quad v_i \in \boldsymbol{F} \]

另有几点注意：

• 加法单位元是唯一的；每个元素的加法逆元是唯一的；向量空间不要求具有乘法逆元
• 向量空间中的元素通常称为向量（vector）或点（point）
• 线性代数主要研究有限维向量空间，无限维向量空间实际拓展为泛函
• \(\{\boldsymbol{0}\}\) 是最简单的向量空间，也称为平凡向量空间

【注】通俗解释：无限维空间与泛函

泛函是什么？
可以简单理解为 “向量的函数”：普通函数输入是数，输出也是数；而泛函的输入是向量，输出是一个实数（或复数）。比如 “求向量长度” 就是一个泛函 —— 输入任意向量，输出它的长度值。

无限维空间为何拓展为泛函？
有限维向量（如三维空间中的向量）可以用有限个坐标表示，但无限维向量（如函数空间中的函数）无法用有限坐标描述。此时，研究 “如何用数值刻画无限维向量的性质”（如函数的积分、极限值），就转化为对泛函的研究 —— 泛函通过映射关系，将无限维向量 “量化” 为数值，成为分析无限维空间的核心工具。