比特，但也用Sh、nat、Hart计量，取决于定义用到对数的底。
熵（英语：entropy）是接收的每条消息中包含的信息的平均量，又被称为信息熵、信源熵、平均自信息量。这里，“消息”代表来自分布或数据流中的事件、样本或特征。（熵最好理解为不确定性的量度而不是确定性的量度，因为越随机的信源的熵越大）
来自信源的另一个特征是样本的概率分布。这里的想法是，比较不可能发生的事情，当它发生了，会提供更多的信息。
由于一些其他的原因，把信息（熵）定义为概率分布的对数的相反数是有道理的。事件的概率分布和每个事件的信息量构成了一个随机变量，这个随机变量的均值（即期望）就是这个分布产生的信息量的平均值（即熵）。熵的单位通常为比特，但也用Sh、nat、Hart计量，取决于定义用到对数的底。
采用概率分布的对数作为信息的量度的原因是其可加性。例如，投掷一次硬币提供了1 Sh的信息，而掷m次就为m位。更一般地，你需要用log2(n)位来表示一个可以取n个值的变量。
熵的计算
如果有一枚理想的硬币，其出现正面和反面的机会相等，则抛硬币事件的熵等于其能够达到的最大值。我们无法知道下一个硬币抛掷的结果是什么，因此每一次抛硬币都是不可预测的。
因此，使用一枚正常硬币进行若干次抛掷，这个事件的熵是一比特，因为结果不外乎两个——正面或者反面，可以表示为0, 1编码，而且两个结果彼此之间相互独立。若进行n次独立实验，则熵为n，因为可以用长度为n的比特流表示。
但是如果一枚硬币的两面完全相同，那个这个系列抛硬币事件的熵等于零，因为结果能被准确预测。现实世界里，我们收集到的数据的熵介于上面两种情况之间。
熵会一直增加，所以水蒸气会变成雨落下来。
1、熵，热力学中表征物质状态的参量，用符号S表示，其物理意义是体系混乱程度的度量。
熵最初是根据热力学第二定律引出的一个反映自发过程不可逆性的物质状态参量。热力学第二定律是根据大量观察结果总结出来的规律：在孤立系统中，体系与环境没有能量交换，体系总是自发地像混乱度增大的方向变化，总使整个系统的熵值增大，此即熵增原理。摩擦使一部分机械能不可逆地转变为热，使熵增加，所以说整个宇宙可以看作一个孤立系统，是朝着熵增加的方向演变的。
2、从一个自发进行的过程来考察：热量Q 由高温(T1)物体传至低温(T2)物体，高温物体的熵减少dS1=dQ/T1，低温物体的熵增加dS2=dQ/T2，把两个物体合起来当成一个系统来看，熵的变化是dS=dS2－dS1>0，即熵是增加的。
水蒸气会变成雨，是热量Q 由高温(T1)物体传至低温(T2)物体，即熵是增加的。
扩展资料：
1、熵定律是科学定律之最，这是爱因斯坦的观点。我们知道能源与材料、信息一样，是物质世界的三个基本要素之一，而在物理定律中，能量守恒定律是最重要的定律，它表明了各种形式的能量在相互转换时，总是不生不灭保持平衡的。
2、熵，即为衡量混乱程度的度量，熵定律也被称为热力学定律。热力学第二定律，又称“熵增定律”，表明了在自然过程中，一个孤立系统的总混乱度（即“熵”）不会减小。
3、在信息论中，熵被用来衡量一个随机变量出现的期望值。它代表了在被接收之前，信号传输过程中损失的信息量，又被称为信息熵。信息熵也称信源熵、平均自信息量。在1948年，克劳德·艾尔伍德·香农将热力学的熵，引入到信息论，因此它又被称为香农熵。
熵在生态学中是表示生物多样性的指标。
熵定律是自然界的最高定律。
4、引力的“熵减”现象说法——热环论：
科学家们通过长期对熵理论的研究，提出了“热环论”（又可称“热动论”）。
以白矮星为例，白矮星内部无热源发光是因为星体引力能从太空云集低温热能。任何星体与太空间都存在着相反的热循环转移过程，即使是具有内部热源的星体也叠加着上述热循环过程（比如恒星的聚变热源）。
5、引力还是“熵增”现象——热寂说：
这就是著名的“热寂说”可以看出来，引力同样可以解释为“熵增”现象：质量的引力把原来的物质从低温加热到高温，这个加热的能量来自物质本身也就是质量的消耗。
但宇宙的质量一开始怎么来的？至今还在假设当中，这也就是宇宙的诞生之谜。不过能推断出的就是：宇宙这些“天生”的质量其实就是“负熵”，宇宙一直都是在“负熵”变“正熵”的过程，即质量消耗而变为热能的过程，所以宇宙如果还有质量，就不会是我们所说的“死亡终结”，有质量就可以创造热能，从而获得非热能形式的能量。所以质量的引力把原来的物质从低温加热到高温，并不是违反热力学第二定律的：“自发性把热从低温物体转移到高温物体”，而是消耗了自身获得热能，由熵增而变高温的（这也就是我们所使用的所有能量的本源）。
而把热能还原为质量，而不引起其他影响的，才是“绝对熵减”。
以上就是关于熵的单位是什么全部的内容，包括:熵的单位是什么、熵不是会一直增加吗,那为什么水蒸气会变成雨落下来、等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！
