用JAVA的DEA算法衡量社交媒体页面的流行度

Measuring the Social Media Popularity of Pages with DEA in JAVA

原文作者：Vasilis Vryniotis

原文地址：http://blog.datumbox.com/measuring-the-social-media-popularity-of-pages-with-dea-in-java/

译者微博：@从流域到海域

译者博客：blog.csdn.net/solo95

用JAVA的DEA算法衡量社交媒体页面的流行度

在前面的文章中，我们讨论了数据包络分析(Data Envelopment Analysis)技术，我们已经看到它如何被用作一个有效的非参数排序算法。在这篇博文中，我们将开发出一个JAVA数据包络分析的实例，我们将用它来评估网络上的网页和文章的社交媒体流行度。该代码是开源的（在GPL v3 license下），您可以从Github免费下载。

更新：Datumbox机器学习框架现在是开源的，可以免费下载。查看包com.datumbox.framework.algorithms.dea以查看Java中Data Envelopment Analysis的实现。

数据包络分析在JAVA中的实现

代码是用JAVA编写的，可以直接从Github下载。它是根据GPLv3许可的，所以可以随意使用它，修改它，或者再分发。

该代码实现了数据包络分析(Data Envelopment Analysis)算法，使用lp_solve库来解决线性规划问题，并使用Web搜索引擎优化分析(Web SEO Analytics )索引提取的数据，以构建基于Facebook，Google Plus和推特上分享的一个混合的社交媒体页面流行度矩阵。在前面的文章中介绍了算法的所有理论部分，在源代码中可以找到关于其实现的详细的javadoc注释。

(原博文之后数据包络分析(Data Envelopment Analysis)算法及其实现全部简称了DEA，请读者注意，译者注。)

下面我们提供一个关于其架构实现的高级别描述：

1. lp_solve 5.5 library

为了解决各种线性规划问题，我们使用一个名为lp\_solve的开源库。某些特定的lib是用ANSI C编写的，并使用JAVA包装来调用库方法。因此，在运行代码之前，您必须在您的系统上安装lp_solve。该库的二进制文件在[Linux和Windows都可以使用，您可以在lp_solve文档中阅读更多有关安装的信息。

在尝试运行JAVA代码之前，请确保您的系统上安装了(相关的)特定库。有关安装和配置库的任何问题，请参阅lp_solve文档。

2.DataEnvelopmentAnalysis Class

这是DEA算法的主要实现类。它实现了一个名为estimateEfficiency()的公共方法，它获取记录的Map并返回它们的DEA得分。

3. DeaRecord Object

DeaRecord是一个特殊的对象，用于存储我们记录的数据。由于DEA需要分离输入和输出，因此DeaRecord对象将以DEA可以处理的方式分别存储我们的数据。

4. SocialMediaPopularity Class

SocialMediaPopularity是一个应用程序，它使用DEA来评估社交媒体网络上Facebook的like，Google的 +1和twitter的Tweets的网页流行度。它实现了两个受保护的方法：calculatePopularity()和estimatePercentiles()以及两个公共方法loadFile()和getPopularity()。

calculatePopularity()使用DEA实现根据社交媒体计数来估计页面的得分数。estimatedPercentiles()方法获取DEA分数并将其转换为百分位数。总的来说，百分比比DEA分数更容易解释; 因此当我们说一个网页的流行分数是70％时，这意味着该网页比70％的其他网页更受欢迎。

为了能够估计一个特定页面的流行度，我们必须有一个包含其他页面的社交媒体数据的数据集。这是有原因的，因为需要预测哪个网页是受欢迎的，哪些不是，您必须能够将其与网络上的其他页面进行比较。为此，我们使用来自以txt格式提供的Web SEO分析索引的小型的匿名样本。您可以通过从网页上的更多页面提取社交媒体计数来构建自己的数据库。(社交媒体计数，比如点赞数、转发数、评论数)

loadFile()方法用于加载DEA的上述统计信息，getPopularity()方法是一种易于使用的方法，可以获取Facebook的like，Google的+1和一个页面的Tweets数量，并以此评估其在社交媒体上的流行度。

如何使用数据包络分析的JAVA实现

在DataEnvelopmentAnalysisExample类中，我提供了2个不同的关于如何使用代码的例子。

第一个例子直接使用DEA方法来根据它们的输出（ISSUES，RECEIPTS，REQS）和输入（STOCK，WAGES）来评估组织单位的效率。这个例子来自DEAzone.com的一篇文章。

Map<String, DeaRecord> records = new LinkedHashMap<>();
 
records.put("Depot1", new DeaRecord(new double[]{40.0,55.0,30.0}, new double[]{3.0,5.0}));
//...adding more records here...
 
DataEnvelopmentAnalysis dea = new DataEnvelopmentAnalysis();
Map<String, Double> results = dea.estimateEfficiency(records);
System.out.println((new TreeMap<>(results)).toString());

第二个示例使用我们的社交媒体流行度应用程序，通过使用来自社交媒体的数据来评估页面的流行度，例如Facebook的like，Google的+1和Tweets。所有的社交媒体计数都被标记为输出，我们传递给DEA一个空的输入向量。

SocialMediaPopularity rank = new SocialMediaPopularity();
rank.loadFile(DataEnvelopmentAnalysisExample.class.getResource("/datasets/socialcounts.txt"));
Double popularity = rank.getPopularity(135, 337, 9079); //Facebook likes, Google +1s, Tweets
System.out.println("Page Social Media Popularity: "+popularity.toString());

必要的扩展

(上面)所提供的代码只是DEA如何被用作排名算法的一个例子。为了改进其实现，需要进行下面的扩展：

1.加速(算法的)实现

特定的DEA算法实现会评估数据库中所有记录的DEA得分。由于我们需要解决如同数据库中记录数量那样多的线性规划问题，这使得实现变得缓慢。如果我们不需要计算所有记录的分数，那么我们可以显著地加快执行速度。因此，该算法的小扩展可以使我们更好地控制哪些记录应该被解决掉，哪些只能被用作约束。

2.扩大社交媒体统计数据库

(这篇文章所)提供的社交媒体统计数据库由来自Web SEO Analytics索引的1111个样本组成。为了能够估计更准确的流行(度)分数，需要更大的样本。您可以通过统计来自网络上更多页面的社交媒体计数来创建自己的数据库。

3.添加更多的社交媒体网络

该实现使用Facebook的喜欢，Google的+1和推文的数量来评估文章的受欢迎程度。不过，来自其他社交媒体网络的指标可以很容易地被考虑在内。您只需要从您感兴趣的网络中构建一个社交媒体数据库，然后扩展SocialMediaPopularity类来处理它们。

关于实施的最终意见

为了能够扩展(算法的)实现，您必须对Data Envelopment Analysis的工作原理有一个很好的理解。这在前面的文章中已经介绍过了，所以在继续进行任何更改之前，请确保您阅读了之前的教程。此外，为了使用JAVA代码，您必须在您的系统中安装lp\_solve库（参见上文）。

如果你在一个有趣的项目中使用这个实现，那么就给我们一条线索，我们将在我们的博客上展示你的项目。另外，如果你喜欢这篇文章，请花点时间在Twitter或Facebook分享。