最大熵分布算法代码 - 腾讯云开发者社区

从严肃的密码学来看：“当分布均匀时，熵是最大化的，因为均匀分布使不确定性最大化:没有任何结果比其他的结果更有可能，因此，n位值不能超过n位熵。”MT力求有尽可能均匀的分布，因此人们会认为熵是最大化的，并且等于种子的位长。但是，经过624次迭代后，MT变得完全可预测，此时它的熵应该被认为是零，但随后的分布仍然是一致的。

浏览 0提问于2019-01-20得票数 6

1回答

为什么均匀分布的熵比R中的重复值低？

、

维基百科认为，均匀分布是“最大熵概率分布”。因此，如果我有两个序列(一个均匀分布的序列和一个具有重复值的序列)，都是长度k的序列，那么我就会期望均匀分布序列的熵高于重复值序列。然而，在R中运行以下代码时却不是这样：entropy(runif(1024), method="ML", unit="log2") entropy(rep(1,1024), method="ML

浏览 4提问于2016-07-07得票数 5

回答已采纳

1回答

熵与最小熵的关系

我知道熵是可以编码一组消息的位数。然而，我不明白最小熵是什么，它与熵有什么关系。让我们描述一个简单的密码情况:如果密码是100随机位，那么最小熵也是100吗？

浏览 0提问于2018-11-08得票数 12

1回答

利用交叉熵建立决策树分类器

、

熵和交叉熵是否与基本定义相同？决策树分解取熵或基尼指数，可以用交叉熵来分割决策树吗？或者，在运行决策树算法之后，我应该使用它作为评估指标吗？此外，决策树算法是否假定有任何分布？

浏览 0提问于2020-01-16得票数 2

4回答

熵与无损压缩速率的关系

、

从中我们知道，压缩字符串的熵被原始字符串的熵所限制，如下所示：其中H(X)是源字符串的熵，N是源字符串的长度，L是压缩字符串的期望长度。我想知道的是：我们能用熵找到压缩比的上界吗？

浏览 3提问于2009-02-26得票数 5

回答已采纳

1回答

脚本执行时间是伪随机数字生成的适当来源吗？

这是一个用于生成密码的PHP脚本。当然，在生成密码之前还需要计算其他内容。但是，我认为脚本初始化和队列所需的时间会使它成为一个很好的伪随机。如果没有，有什么关于如何对此进行密码分析的建议？

浏览 0提问于2014-02-21得票数 1

回答已采纳

1回答

什么是排列熵？

、

我想知道什么是置换熵(PE)。然后，我了解了这论文，它描述了体育。现在，假设我们有一个由熵源产生的伪随机排列，我们使用了一个统一的洗牌算法(比如Fisher-Yates洗牌算法)。另外，假设我们使用256位熵来洗牌\{0,1\}^8\rightarrow\{0,1\}^8.那么，输出排列可以具有最大256位熵的事实是真的吗？对于熵的每一个值，我们将得到一个唯一的对应排列。

浏览 0提问于2020-11-10得票数 0

1回答

如何在斯坦福分类器中使用朴素贝叶斯分类器、支持向量机和最大增强

、、、、

目前，我正在使用朴素贝叶斯算法、支持向量机和最大熵算法制作一个引文句子分类器，目前我的数据是110个非引文句子和10个引文句子。我使用代码从斯坦福分类器示例中进行分类，结果很好。但是分类器是准牛顿的。如何使用朴素贝叶斯分类器、支持向量机和最大熵？我已经尝试编辑prop文件并添加"useNB=true"，但结果发现所有数据都是非引用句类。我已经在上读过javadoc了，我不知道应该把朴素贝叶斯算法的setClass放在哪里

浏览 0提问于2015-10-26得票数 1

1回答

特征选择-条件熵

、、

本文提出了一种用于文本分类中特征选择的条件熵定义算法。我遵循CharuC.Aggarwal (5.2.2)在机器学习文本中的公式。作者提到，条件熵值介于(0，log(类数))之间，而我的情况是(0，0.6931472)。作者还提到，最大值的特征可以删除，但是他没有给出定义‘最大’的标准的进一步信息(是熵的最大值还是最大熵值的集合？)

浏览 0提问于2020-09-17得票数 2

回答已采纳

1回答

64位数据的Shannon信息熵值？

、

我用加密算法加密这些数据。密码直方图显示这些数据的分布是均匀的。📷 在此基础上，计算出密码数据的shannon信息熵值，得到普通数据的shannon信息熵值约为15.0525和15.497477。我想问的是，据我所知，密码数据由8位整数数据组成，理想香农信息熵值接近8位，所以我认为这个64位整数数据理想香农信息熵值必须接近64位对吧?为什么我在密码数据和普通数据上都得到了15位左右的香农信息熵值，尽管密码数据具有均匀分布的直方图？我得到，普通数据sha

浏览 0提问于2020-11-19得票数 0

回答已采纳

1回答