范数

范数

范数是一种强化了的距离概念；简单来说，可以把『范数』理解为『距离』。

在数学上，范数包括『向量范数』和『矩阵范数』：

• 向量范数（Vector Norm），表征向量空间中向量的大小。向量空间中的向量都是有大小的，这个大小就是用范数来度量。不同的范数都可以来度量这个大小，就好比米和尺都可以来度量远近一样。
• 矩阵范数（Matrix Norm），表征矩阵引起变化的大小。比如，通过运算 AX = B，可以将向量 X 变化为 B ，矩阵范数就可以度量这个变化的大小。

数据来源：DL花书