熵

熵作为混乱程度的度量

可以看出Ω是一个系统混乱程度的度量，这是有道理的，因为作为有规律的系统，只有有限的几种构型，而混乱的系统可以有无限多个构型。例如，设想有一组10个硬币，每一个硬币有两面，掷硬币时得到最有规律的状态是10个都是正面或10个都是反面，这两种状态都只有一种构型（排列）。反之，如果是最混乱的情况，有5个正面5个反面，排列构型可以有 = 252种。（参见组合数学）
根据熵的统计学定义，热力学第二定律说明一个孤立系统的倾向于增加混乱程度，根据上述硬币的例子可以明白，每一分钟我们随便掷一个硬币，经过一段长时间后，我们检查一下硬币，有“可能”10个都是正面或都是反面，但是最大的可能性是正面和反面的数量相等。 
混乱程度倾向于增加的观念被许多人接受，但容易引起一些错误认识，最主要的是必须明白ΔS ≥ 0只能用于“孤立”系统，值得注意的是地球并不是一个孤立系统，因为地球不断地从太阳以太阳光的形式接收能量。但有人认为宇宙是一个孤立系统，即宇宙的混乱程度在不断地增加，可以推测出宇宙最终将达到“热寂”状态，因为（所有恒星）都在以同样方式放散热能，能源将会枯竭，再没有任何可以做功的能源了。但这一观点并没有得到证明。然而有些人认为，宇宙是个开放的、无限的系统，不能把从有限的时空尺度范围内的“熵增”推广到广袤的宇宙中，因此热寂说不正确。1876年，恩格斯按照运动不灭和转化原理，坚定批判热寂说不正确。

微观计算

在经典统计力学中，微观状态的数量实际是无限的，所以经典系统性质是连续的，例如经典理想气体是定义于所有原子的位置和动量上，是根据实际数量连续计算的。所以要定义Ω，必须要引入对微观状态进行“分类”的方法，对于理想气体，我们认为如果一个原子的位置和动量分别在δx和δp范围之内，它只属于“一种”状态。因为δx和δp的值是任意的，熵没有一个确定值，必须如同上述增加一个常数项。这种微观状态分类方法叫做“组元配分”，相对应于量子力学选择的组元状态。
这种模糊概念被量子力学理论解决了，一个系统的量子状态可以被表述为组元状态的位置，选择作为非破缺的哈密顿函数的典型特征状态。在量子统计力学中，Ω是作为具有同样热力学性质的基本状态的数量，组元状态的数量是可以计算的，所以我们可以确定Ω的值。
但是组元状态的确定还是有些随意，决定于微观状态的“组元配分”和经典物理学中不同的微观状态。
这导致了能斯特定理，有时也叫热力学第三定律，就是说系统在绝对温度零度时，熵为一恒定常数，这是因为系统在绝对温度零度时存在基础状态，所以熵就是它基础状态的简并态。有许多系统，如晶格点阵就存在一个唯一的基础状态，所以它在绝对温度零度时的熵为零（因为ln(1) = 0）。

熵的历史

热力学第一定律阐述的是“能量”以及“能量守恒”的概念，但是第一定律无法定量解释摩擦和耗散的影响
法国数学家拉扎尔·卡诺的分析和贡献最终导致了“熵”这个概念的诞生。1803年，拉扎尔·卡诺发表了一篇文章“运动和平衡的基本原理”，提出在任何一个机器的运动部分的加速和冲击意味着动量（momentum）的损失，换句话说，在任何自然过程中，总是存在着“有用”的能量逐渐耗散这一固有的趋势。基于上述研究，1824年拉扎尔·卡诺的儿子尼科拉斯·莱奥纳德·萨迪·卡诺发表了“关于火的原动力”，提出所有的热机的工作都需要存在温度差，当热量从热机热的部分向热机冷的部分转移时，热机获得了原动力。这是对热力学第二定律的最初洞见。
卡诺提出的可逆热机只存在于理想情况。19世纪50年代和60年代，德国物理学家克劳修斯在对实际热机的研究中进一步指出，任何热机都不是可逆的，不可能毫无“改变”，并进一步对这个“改变”进行了定量研究。克劳修斯认为，实际热机在使用过程中会产生“无法使用”的热量（比如热机的活塞和热机壁摩擦产生的热量。在此基础上，克劳修斯提出了熵的概念，将熵描述为能量的耗散。

时间之箭

熵是在物理学领域中似乎暗示只朝向一个特定行进方向的量，有时被称为时间之箭。随着时间的推移，热力学第二定律：孤立系统的熵状态永远只会增加，不会减少。因此，从这个角度看，熵的测量被看作是一种时钟。