关于高斯（正态）分布密度函数的不严谨直觉（严谨证明请学习最大熵原理）

Step 1：构造钟形函数

我们想要构造一个：

• 对称；
• 在中心点 \(\mu\) 处最大；
• 越远离中心，函数值越小；
• 可积分为 1。

我们猜测使用如下函数形式：

\[f(x) = A \cdot \exp\left(-B(x - \mu)^2\right) \]

其中 \(B > 0\)，控制函数宽度，\(A\) 是尚未确定的常数。

---

Step 2：归一化密度函数

为了让 \(f(x)\) 成为合法的概率密度函数，必须满足：

\[\int_{-\infty}^{\infty} f(x)\,dx = 1 \]

已知高斯积分：

\[\int_{-\infty}^{\infty} e^{-B(x - \mu)^2} dx = \sqrt{\frac{\pi}{B}} \]

因此令归一化常数为：

\[A = \sqrt{\frac{B}{\pi}} \]

带入后：

\[f(x) = \sqrt{\frac{B}{\pi}} \cdot \exp\left(-B(x - \mu)^2\right) \]

---

Step 3：推导方差公式 \(\text{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2\)

我们从方差的定义出发：

\[\text{Var}(X) = \mathbb{E}[(X - \mathbb{E}[X])^2] \]

展开平方项：

\[= \mathbb{E}[X^2 - 2X\mathbb{E}[X] + (\mathbb{E}[X])^2] \]

利用期望的线性性：

\[= \mathbb{E}[X^2] - 2\mathbb{E}[X]^2 + \mathbb{E}[X]^2 = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 \]

因此我们得出：

\[\boxed{\text{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2} \]

---

Step 4：计算高斯分布的方差

设 \(\mu = 0\)，简化分析：

\[f(x) = \sqrt{\frac{B}{\pi}} \cdot e^{-B x^2} \]

由于函数关于 0 对称，有：

\[\mathbb{E}[X] = 0 \quad \Rightarrow \quad \text{Var}(X) = \mathbb{E}[X^2] \]

计算：

\[\mathbb{E}[X^2] = \int_{-\infty}^{\infty} x^2 f(x) dx = \sqrt{\frac{B}{\pi}} \cdot \int_{-\infty}^{\infty} x^2 e^{-B x^2} dx \]

代入经典高斯积分结果：

\[\int_{-\infty}^{\infty} x^2 e^{-B x^2} dx = \frac{\sqrt{\pi}}{2 B^{3/2}} \]

整理得：

\[\mathbb{E}[X^2] = \sqrt{\frac{B}{\pi}} \cdot \frac{\sqrt{\pi}}{2 B^{3/2}} = \frac{1}{2B} \]

所以：

\[\text{Var}(X) = \frac{1}{2B} \]

---

Step 5：引入标准差参数 \(\sigma\)

为了用标准差控制分布宽度，令：

\[\text{Var}(X) = \sigma^2 = \frac{1}{2B} \quad \Rightarrow \quad B = \frac{1}{2\sigma^2} \]

带入原函数：

\[f(x) = \sqrt{\frac{1}{2\pi\sigma^2}} \cdot \exp\left(-\frac{(x - \mu)^2}{2\sigma^2}\right) \]

即得到最终标准高斯密度函数形式：

\[\boxed{ f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \cdot \exp\left(-\frac{(x - \mu)^2}{2\sigma^2}\right) } \]