Zack Savitsky · 2025-01-03

什么是熵，我们知之甚少的度量指标

摘要

熵是物理学中最基础也最令人困惑的概念之一。本文深入探讨了熵的本质，揭示它不仅是对系统无序程度的度量，更是反映人类对宇宙认知局限性的重要指标。文章追溯了熵从19世纪热力学到现代信息论的演变历程，展示了这一概念如何连接物理现象与信息理论，并挑战我们对客观实在的传统理解。

内容框架与概述

文章开篇即点明熵的双重属性——既是描述宇宙不可避免衰退的物理量，也是衡量人类知识边界的认知工具。作者带领读者回顾了熵概念的起源，从19世纪法国工程师萨迪·卡诺研究蒸汽机效率时播下的种子，到1865年德国物理学家鲁道夫·克劳修斯正式命名并定义熵为"增加是宇宙自然趋势"的量。

随后，文章深入探讨了熵与时间箭头的深刻联系，解释了为什么熵的增加帮助我们理解时间的单向流动。更引人入胜的是，作者将视角转向20世纪克劳德·香农的信息论，展示了如何将熵重新理解为信息不确定性的度量，从而在物理学与计算机科学之间架起桥梁。

文章的核心论点逐渐浮现——熵并非纯客观的物理量，而是具有主观性，依赖于观察者的知识和信息状态。通过吉布斯混合悖论等思想实验，作者揭示了不同观察者可能对同一系统得出不同熵值的深刻含义。最后，文章展望了当代物理学如何将熵与知识获取、量子信息和生态学等前沿领域联系起来，展现了这一经典概念在新时代的科学价值。

核心概念及解读

热力学熵：克劳修斯定义的热力学熵是能量在转化过程中"无法用于做功"的程度，它量化了能量的退化。在孤立系统中，熵总是趋向于增加，这就是著名的热力学第二定律。熵的增加不仅意味着能量变得越来越不可用，也解释了为什么时间具有不可逆的方向性——我们看到杯子打破而非自发复原，因为后者需要系统熵减，在统计上几乎不可能发生。

信息熵：香农将热力学熵的概念移植到通信理论中，定义信息熵为"不确定性"的度量。当你对消息内容一无所知时，熵最高；随着信息增加，不确定性下降，熵也随之降低。这揭示了一个深刻洞见——获取信息等同于减少熵。热力学熵和信息熵在数学形式上的惊人相似性，暗示了物理现象与信息处理之间存在着根本性联系。

熵的主观性：传统观点将熵视为系统的客观属性，但现代理解强调熵依赖于观察者的知识状态。如果你知道气体分子在容器左侧，你的熵值估计就低于那些认为分子均匀分布的观察者。吉布斯混合悖论生动展示了这一点——当两种相同气体混合时，从微观角度看没有变化，但从不知情观察者角度看熵增加了。这表明熵更像是"我们无知程度的度量"而非纯物理量。

熵与认知：文章提出一个哲学性观点——熵的不可逆增加反映了知识获取的单向性。我们可以学习从而减少关于某个系统的无知，但无法"遗忘"来恢复先前的无知状态。这为时间箭头提供了一个认知论解释：时间不可逆根本上是因为信息获取是不可逆的。熵既是物理宇宙衰退的度量，也是人类认知局限性的镜子。