问解释熵

EN

不幸的是，有序和随机是一个尺度的两端。你在这个尺度上的位置叫做熵。如果你是在问密码学论坛，我们必须从信息的角度来看待这个问题。

从信息角度看

热力学熵

如果所有的球都因为这些东西冷而休息，那么它们是非常有序的。很容易描述他们的立场，从而说明材料的状态。

如果物质是热的，所有的球都在到处飞(随机)，很难完全描述气体分子的状态。你必须写下它们的所有当前三维位置和它们各自的速度矢量。这是大量的写作，因此也是大量的熵。

扑克与信息视角下的

熵

考虑一下这两个甲板。很容易描述这个词：-

简单地说是C，S，H，D,1-10，J，Q，K，在我刚刚编的代码中。你也许能把它缩短。这说明一个未分类的甲板没有太多的熵。

现在试着描述这个洗牌的甲板：-

你必须把每张卡片都写下来，除非你能找到每一张卡片之间的某种数学关系，否则就没有别的办法了。如果这是一个完全随机的洗牌，状态包含log_2(52!) 位，或者大约226个二进制信息。它不能用更少的描述来完全描述。

来回答你的移除卡片的问题--不一定。你可以稍微订购一下卡片，形成它们之间的关系。假设所有钻石都是以新的方式订购的。这将减少熵，同时保持相同数量的卡片。

摘要

熵=描述系统或状态所需的信息。

在密码学中，如果你知道信息，熵= 0。因此，密码熵就是所列举的不确定性的数量。我们用比特来测量它。