玻尔兹曼熵与概率

玻尔兹曼熵公式是：

S = k log W

其中 S 是熵，k 是玻尔兹曼常数（一个连接微观世界和宏观世界的微小数值），W 是微观状态数，粒子排列成相同宏观状态的不同方式的数量。所以它是可能性数量的对数，这与概率密切相关。如果所有微观状态出现的概率均等，那么 W 就与系统处于该宏观状态的概率有关。

香农信息熵的公式是：

H = -Σ p(i) log p(i)

它是对所有可能的消息或状态求和，其中 p(i) 是每种消息或状态的概率。那个负号和概率的对数……数学结构是一样的。两者都在问“有多少种可能性？”或者“我们有多不确定？”只是语境不同，一个是关于物理状态，一个是关于信息和消息。

---

想象一下，你面前有一杯室温水。从宏观角度来看，它只是……处于特定温度和压力的水。这就是你观察到的。

但放大到分子层面。你会发现数以亿计的 H₂O 分子在水中运动。分子 A 可能以这个速度在这里，分子 B 可能以那个速度在那里……或者你可以交换它们的位置和速度。从宏观角度来看，它仍然像是同一杯温度相同的水。

所有这些分子的每一种特定排列，每个分子的位置、运动速度和运动方向，都对应着一种微观状态。而“室温水”则对应着极其多种不同的微观状态。

温度实际上只是所有振动分子的平均动能。相同的温度等于相同的平均能量，但单个分子的运动状态可能完全不同。

这就是 W 的意义所在，所有这些微观层面上的排列方式，在我们宏观层面上看起来却是一样的。

---

我们不可能追踪每一个分子，这是不可能的。那么，这个公式的意义何在呢？

妙处就在这里：即使我们无法追踪单个分子，大量分子的统计行为仍然遵循可预测的模式。这就好比……你无法预测一次抛硬币的结果，但抛一百万枚硬币，你就能得到接近五十万次正面朝上的概率。这就是大数定律的作用。

这个公式是可以验证的，但需要间接验证。我们可以测量宏观熵变，比如热流、化学反应，或是利用统计力学预测比热容、压力、相变等性质，最后将预测结果与实验结果进行比较。

而且它们吻合！墨水在水中扩散，我们无法追踪每个墨水分子，但我们可以预测它会扩散（熵增），并计算扩散速度，而这与我们的观察结果相符。关键不在于计算特定一杯水中的 W 值。而在于理解这种微观图景如何解释宏观世界的运行规律。

---

单个事件是不确定的，抛硬币的结果千变万化。但当随机事件的数量庞大时，总体行为就变得可预测，甚至在极限情况下是确定的！

这就像……小尺度上的随机性在大尺度上创造了秩序。听起来似乎有点反常，不是吗？但事实正是如此。

这就是统计力学的精髓所在！我们无法预测一个水分子会做什么，但当有10²³个水分子时，它们的集体行为就变得非常可预测。温度、压力、熵，这些都源于无数不可预测的个体运动，但它们的平均值却稳定可靠。不确定性并不会随着微观层面的改变而消失，它依然存在。但从我们观察到的宏观层面来看，这些差异会平均下来。

所以，概率不仅仅关乎我们对个体结果的无知，它也是一种工具，让我们即便对此一无所知，也能预测大型系统的行为。众多随机事件共同作用，形成了可靠的模式。