作为一名信息技术专业的学生，无论是机器学习、信号处理还是算法分析，微积分与线性代数都是最底层的数学语言。这篇博客整理了我日常学习和工程中高频使用的核心公式，方便随时查阅。
作为一名信息技术专业的学生，无论是机器学习、信号处理还是算法分析，微积分与线性代数都是最底层的数学语言。这篇博客整理了我日常学习和工程中高频使用的核心公式，方便随时查阅。
目录
一、微积分
1.1 误差函数
误差函数（Error Function）在概率统计、信号处理和神经网络激活函数中经常出现：
\[\operatorname{erf}(x) = \frac{2}{\sqrt{\pi}} \int_{0}^{x} e^{-t^2} dt
\]
两个重要性质：
\[\operatorname{erf}(\infty) = 1， \operatorname{erf}(-x) = -\operatorname{erf}(x)
\]
互补误差函数定义为：
\[\operatorname{erfc}(x) = 1 - \operatorname{erf}(x) = \frac{2}{\sqrt{\pi}} \int_{x}^{\infty} e^{-t^2} dt
\]
1.2 重积分
假设我们要计算一个二重积分：
\[I = \iint_{D} f(x,y) \, dxdy
\]
其中 \(D\) 是积分区域，函数 \(f(x, y)\) 是在区域 \(D\) 上连续的。 计算步骤如下：
1. 确定矩形区域
首先，我们必须仔细确定积分区域 \(D\)。假设区域\(D\) 是一个矩形区域时，可以定义为：
\[D = [a,b] \times [c,d]
\]
这意味着 \(x\) 的取值范围是从 \(a\) 到\(b\)，而 \(y\) 的取值范围是从 \(c\) 到\(d\)。
2. 分解积分
在矩形区域内，我们可以将二重积分分解为两个一重积分，得到：
\[I = \int_a^b \int_c^d f(x, y) \, dy \, dx
\]
这里，我们首先对\(y\)进行积分，然后对 \(x\)进行积分。
3. 变量分离
如果函数\(f(x, y)\) 可以分离成两部分，即\(f(x, y) = g(x) h(y)\)，我们可以进一步简化：
\[I = \int_a^b g(x) \, dx \int_c^d h(y) \, dy
\]
4. 结果
现在，我们得到了两个独立的一重积分的乘积：
\[I = \left( \int_a^b g(x) \, dx \right) \left( \int_c^d h(y) \, dy \right)
\]
这种形式的迁移有效地展示了当积分区域是矩形且被积函数可分离时，获得的结果是两个积分的乘积。
1.3 微分运算法则
设 \(u(x)\) 和 \(v(x)\) 为可导函数：
1. 乘积法则
\[(u(x)v(x))' = u'(x)v(x) + u(x)v'(x)
\]
2. 商法则
\[\left( \frac{u(x)}{v(x)} \right)' = \frac{u'(x)v(x) - u(x)v'(x)}{v(x)^2}
\]
3. 加减法则
\[(u(x) \pm v(x))' = u'(x) \pm v'(x)
\]
4. 链式法则
若 \(y = f(g(x))\)，令 \(u = g(x)\)，则：
\[\frac{dy}{dx} = \frac{dy}{du} \cdot \frac{du}{dx} = f'(g(x)) \cdot g'(x)
\]
二、多元微积分
2.1 偏导数
多元函数是指一个函数有多个自变量，例如 \(f(x, y)\) 或 \(f(x_1, x_2, \ldots, x_n)\)。对于多元函数 \(z = f(x,y)\)，偏导数表示对其中一个变量求导，保持其他变量不变：
\[\frac{\partial f}{\partial x} = \lim_{h \to 0} \frac{f(x+h, y) - f(x,y)}{h}
\]
\[\frac{\partial f}{\partial y} = \lim_{h \to 0} \frac{f(x, y+h) - f(x,y)}{h}
\]
2.2 全微分与全导数
全微分：描述函数在所有自变量发生微小变化时的总变化。
若 \(z = f(x,y)\)，则：
\[dz = \frac{\partial f}{\partial x} dx + \frac{\partial f}{\partial y} dy
\]
全导数：当 \(x, y\) 都是另一个变量 \(t\) 的函数时：
\[\frac{dz}{dt} = \frac{\partial f}{\partial x}\frac{dx}{dt} + \frac{\partial f}{\partial y}\frac{dy}{dt}
\]
2.3 链式法则（多元情形）
若 \(z = f(x,y)\)，且 \(x = x(t), y = y(t)\)，则：
\[\frac{dz}{dt} = \frac{\partial f}{\partial x}\frac{dx}{dt} + \frac{\partial f}{\partial y}\frac{dy}{dt}
\]
2.4 梯度与方向导数
梯度（Gradient）是一个向量，指向函数增长最快的方向：
\[\nabla f = \left( \frac{\partial f}{\partial x}, \frac{\partial f}{\partial y} \right)
\]
方向导数：函数在某方向 \(\mathbf{u}\)（单位向量）上的变化率：
\[D_{\mathbf{u}}f = \nabla f \cdot \mathbf{u}
\]
2.5 拉格朗日乘数法
用于求解在带约束条件 \(g(x, y) = c\) 下的极值问题。构建拉格朗日函数：
\[\mathcal{L}(x,y,\lambda) = f(x,y) - \lambda(g(x,y) - c)
\]
然后求偏导并解方程组：
\[\frac{\partial \mathcal{L}}{\partial x} = 0, \quad
\frac{\partial \mathcal{L}}{\partial y} = 0, \quad
\frac{\partial \mathcal{L}}{\partial \lambda} = 0
\]
2.6 隐函数求导
显函数：因变量明确表示为自变量的函数：
\[y = f(x)
\]
隐函数：将自变量和因变量放在同一个式子中，隐藏了二者之间的函数关系：
\[F(x,y) = 0
\]
对隐函数求导时，两边同时对 \(x\) 求导，再解出 \(\frac{dy}{dx}\)。
三、极限与洛必达法则
当遇到 \(\frac{0}{0}\) 型或 \(\frac{\infty}{\infty}\) 型未定式时，可以使用洛必达法则：
若 \(\lim_{x \to a} \frac{f(x)}{g(x)}\) 为 \(\frac{0}{0}\) 或 \(\frac{\infty}{\infty}\) 型，且 \(f(x), g(x)\) 可导，则：
\[\lim_{x \to a} \frac{f(x)}{g(x)} = \lim_{x \to a} \frac{f'(x)}{g'(x)}
\]
（前提是右侧极限存在或为无穷大）
四、线性代数
4.1 克罗内克积 (Kronecker Product)
克罗内克积（Kronecker Product）记作 \(\otimes\)，广泛应用于线性代数、量子计算、张量代数等领域。它将两个矩阵组合成一个更大的分块矩阵。
定义：设 \(A\) 为 \(m \times n\) 矩阵，\(B\) 为 \(p \times q\) 矩阵，则：
\[A \otimes B = \begin{pmatrix}
a_{11}B & a_{12}B & \cdots & a_{1n}B \\
a_{21}B & a_{22}B & \cdots & a_{2n}B \\
\vdots & \vdots & \ddots & \vdots \\
a_{m1}B & a_{m2}B & \cdots & a_{mn}B
\end{pmatrix}
\]
结果是一个 \((m \cdot p) \times (n \cdot q)\) 的矩阵。
示例（以 \(2 \times 2\) 为例）：
\[A = \begin{pmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{pmatrix}, \quad
B = \begin{pmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \end{pmatrix}
\]
\[A \otimes B = \begin{pmatrix}
a_{11}b_{11} & a_{11}b_{12} & a_{12}b_{11} & a_{12}b_{12} \\
a_{11}b_{21} & a_{11}b_{22} & a_{12}b_{21} & a_{12}b_{22} \\
a_{21}b_{11} & a_{21}b_{12} & a_{22}b_{11} & a_{22}b_{12} \\
a_{21}b_{21} & a_{21}b_{22} & a_{22}b_{21} & a_{22}b_{22}
\end{pmatrix}
\]
4.2 哈达玛积 (Hadamard Product)
哈达玛积（Hadamard Product），也称为 Schur 积或逐元素积（Element-wise Product），记作 \(\odot\)。要求两个矩阵维度完全相同。
定义：设 \(A, B\) 均为 \(m \times n\) 矩阵，则：
\[(A \odot B)_{ij} = a_{ij} \cdot b_{ij}
\]
示例：
\[\begin{bmatrix}
a_{11} & a_{12} & a_{13} \\
a_{21} & a_{22} & a_{23} \\
a_{31} & a_{32} & a_{33}
\end{bmatrix}
\odot
\begin{bmatrix}
b_{11} & b_{12} & b_{13} \\
b_{21} & b_{22} & b_{23} \\
b_{31} & b_{32} & b_{33}
\end{bmatrix}
=
\begin{bmatrix}
a_{11}b_{11} & a_{12}b_{12} & a_{13}b_{13} \\
a_{21}b_{21} & a_{22}b_{22} & a_{23}b_{23} \\
a_{31}b_{31} & a_{32}b_{32} & a_{33}b_{33}
\end{bmatrix}
\]
浙公网安备 33010602011771号