学习
实践
活动
工具
TVP
写文章

超级干货:2018数据科学以及机器学习领域顶级工具的排名与趋势

2018数据分析、数据科学以及机器学习领域顶级工具的排名与趋势

Python 侵占 R,

RapidMiner激增,

SQL相对稳定,

Tensorflow排名上升且拉动了Keras,

Hadoop下降,

数据科学平台开始进入整合阶段...

在第19届KDnuggets软件年度调查活动中,超过2300名选民参与了投票环节,比2017年少了一些,可能是因为只有一家供应商(RapidMiner)在KDnuggets投票中进行了非常活跃的投票活动。平均而言,参与者大约选择了7种不同的工具,因此只选择了一种工具的选票就凸显出来。 本文排除了大约260个这样的”单票(lone votes)”(主要来自RapidMiner),因为即使他们可以代表使用该工具的用户,他们的经历也非常不典型,并且会导致结果的不一致。为了更好地进行比较,本文还从2016年和2017年的数据中删除了这些单票(2017年约为11%,2016年为12%)。因此,本文所涉及的多数工具的投票比例将会略高于在2017年报道过的比例。本文已排除了”单票”现象,并根据2052名参与者的数据所进行了初步分析,更详细的关联分析和匿名数据分析即将发布。

图1KDnuggets分析/数据科学领域2018年软件调查:2018年主要工具排名及其在2016 - 2017年度民意调查中的使用率(share of usage)(注:为了便于对比分析,重新计算了2016年,2017年投票的结果以排除”单票("lone" votes)”)

表1 排名数据

在表1中,2018 % share 是使用该工具的选民的百分比,% change是与2017年软件调查相比百分比的变化,绿色和红色突出显示10%或更多的变化。每名受访者的平均工具投票数量为7.0,略高于2017年投票中的6.75(不包括单一工具投票)。与2017年软件投票相比,出现了一个新的软件是Keras。 Knime掉出前11名,可能是因为今年他们的用户没有参与投票活动。

1

Python侵占R(Python eats away at R)

截至2017年,Python已经拥有超过50%的使用率,并将其使用率提高到66%,而自从我们的调查完成之后,R的使用率开始下降,并下降到了50%以下。

2

RapidMiner使用率激增

在过去的几轮调查中,RapidMiner是最重要的数据科学平台,它的使用率从2017年的33%大幅增加到50%左右。这其中哪个部分是由于用户增长导致的,哪个部分是由于供应商推广导致的?我问过RapidMiner做了什么来鼓励他们的用户,RapidMiner创始人兼总裁Ingo Mierswa的如是回应:“与许多供应商一样,RapidMiner通过多种渠道向用户推广KDnuggets调查,其中包括向过去12个月内使用过我们产品的用户发送了几封电子邮件,之前我们做过同样的推广,但今年的情况有所不同。首先,今年我们得到了更好的回应,超过400位用户亲自回复我们的电子邮件,因为我们的帮助,他们感到非常高兴,但更重要的是,我们看到过去一年每月活跃的RapidMiner用户增长了300% ,所以我们比以前更多地向用户发送电子邮件,我们很高兴有这样一个忠诚的用户社区。”需要指出的是,我注意到RapidMiner不是KDnuggets上的当前广告商。

3

SQL相对稳定

SQL,包括Spark SQL,SQL to Hadoop工具在内,SQL在最近的3次调查中仍然占有约40%的使用率。 所以,如果你是一位有抱负的数据科学家,学习SQL--它可能会在很长一段时间内很有用。

4

主要趋势

在调查中,使用率超过2%的唯一新条目是Spark SQL,拥有11.7%的使用率。下表列出了2018年使用率增长20%或以上,并且至少达到3%的工具。

表2 使用率增加最多的数据分析/数据科学/ ML工具

5

数据科学平台开始进入整合阶段

我们注意到2017年有56个工具在2017年拥有2%或更高的使用率,但在2018年只有19个工具的(仅约三分之一)使用率有所增加,而有37份工具的使用率下降。 这与最近的收购(Datawatch收购Angoss,Minitab收购Salford)均表明数据科学平台的整合即将展开。

表3 使用率下降幅度最明显的主要数据分析/数据科学工具

6

深度学习工具

使用深度学习工具的选民比例保持稳定,为33%,2017年为32%,2016年为18%。谷歌Tensorflow是迄今为止最主要的平台,但Keras的出现使其成为了Tensorflow上非常受欢迎的封装。

深度学习工具排名是:

Tensorflow, 29.9%

Keras, 22.2%

PyTorch, 6.4%

Theano, 4.9%

Other Deep Learning Tools, 4.9%

DeepLearning4J, 3.4%

Microsoft Cognitive Toolkit (Prev. CNTK), 3.0%

Apache MXnet, 1.5%

Caffe, 1.5%

Caffe2, 1.2%

TFLearn, 1.1%

Torch, 1.0%

Lasagne, 0.3%

7

大数据工具:Hadoop Drops

2018年,约33%的人使用Hadoop或Spark等大数据工具 - 与2017年大致相同,但Hadoop使用率显着下降约30%。

8

编程语言

Python似乎不仅超越了R,还超越了其他大多数语言,除了SQL,Java和C / C ++之外,它们保持在大致相同的水平。自从我们开展这项调查以来,R的排名已经开始下降。其他语言也有所下降,以下是按受欢迎程度排序的主要编程语言。

Python,65.6%(2017年为59.0%),上升11%

R,48.5%(56.6%),下跌14%

SQL,39.6%(39.2%),1%以上

Java,15.1%(15.5%),下跌3%

Unix,shell / awk / gawk,9.2%(10.8%),15%下降

其他编程和数据语言,6.9%(7.6%),-9%下降

C / C ++,6.8%,(7.1%),下跌3%

斯卡拉,5.9%,(8.3%),29%下降

Perl,1.0%(1.9%),下降46%

朱莉娅0.7%(1.2%),下降45%

Lisp,0.3%(为0.4%),下跌25%

Clojure,0.2%(0.3%),-38%下跌

F,#0.1%(为0.5%),下跌-73%

近3年各地区的参与情况如下:

欧洲:37.5%

美国/加拿大:36.6%

亚洲:11.7%

拉丁美洲:6.6%

非洲/中东:4.5%

澳大利亚/新西兰:3.1%

与2017年相比,主要变化是来自欧洲的参与率升高(从35.5%上升),而来自美国/加拿大的参与率则从41.5%下降。

9

调查详细结果

10

历届民调原文

New Leader, Trends, and Surprises in Analytics, Data Science, Machine Learning Software Poll, 2017

R, Python Duel As Top Analytics, Data Science software, 2016

R leads RapidMiner, Python catches up, Big Data tools grow, Spark ignites, 2015

RapidMiner Continues To Lead, 2014

RapidMiner and R vie for first place, 2013

KDnuggets 2012 Poll: Analytics, Data mining, Big Data software used

KDnuggets 2011 Poll: Data Mining/Analytic Tools Used

KDnuggets 2010 Poll: Data Mining / Analytic Tools Used

KDnuggets 2009 Poll: Data Mining Tools Used

KDnuggets 2008 Poll: Data Mining Software Used

KDnuggets 2007 Poll: Data Mining/Analytics Software Tools

备注:1.本文原作者为Gregory Piatetsky,原文标题《Python eats away at R: Top Software for Analytics, Data Science, Machine Learning in 2018: Trends and Analysis》,原文URLhttps://www.kdnuggets.com/2018/05/poll-tools-analytics-data-science-machine-learning-results.html。

2.由王雨晴、朝乐门负责翻译、校对、编辑和发布。

本文转自:数据科学DataScience 已获授权;

END

数据分析、数据产品关联文章阅读:

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180611A07SJV00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注腾讯云开发者

领取腾讯云代金券