【干货】数据科学和机器学习的工具使用情况分布

第18届年度KDnuggets软件投票又一次受到了分析、数据科学界和软件生产商的热情参与。与去年相似,约有2900人参与了此次投票。

最近几年,Python的使用增长率一直比R快,到今年,Python终于以微弱的优势超过了R的使用率 (52.6% Vs 52.1%)。然而最大的惊喜应该是深度学习工具的广泛共享和使用

深度学习工具使用率

2017年深度学习有32%的使用率,而在2016年只有18%,2015年9%。谷歌Tensorflow迅速成为深度学习平台的领头者,以20.2%的使用率领先于其他平台。它去年的使用率只有6.8%,但在今年它进入了使用工具的前10名。

2017vs2014使用工具变化

2014年分析、数据挖掘、数据科学的主要工具有四种:R、Python、SQL和SAS。

而2017年达到了五种,分别是Python、R、SQL、Saprk和Tensorflow。

RapidMiner以33%左右的使用率占据着数据挖掘/数据科学中最流行的通用平台前列,这和2016年几乎完全一样。

我们注意到,许多软件厂商都鼓励自己的用户投票给自己,但所有的软件厂商都有平等的机会这么做,因此这并不违反KDnuggets准则。我们没有看到任何机器自动投票或只投给一个工具的情形。

Spark增长到约23%,在Hadoop体系中保持前10位的领先地位。

除了TensorFlow外,在顶端也出现了另一个新工具Anaconda,有22%的使用率。


分析、数据科学、机器学习领域使用率居前的工具

表1:分析/数据科学领域2015-2017年KDnuggets 投票结果对比

上图展示了前11名的结果,每一个实用工具的支持票数都超过了500。在上表中 ,”2017%Usage”是今年使用这个工具的投票者百分比, “%Change 2017 Vs 2016″ 是与2016年使用情况的对比,这里用绿色和红色高亮表示改变超过5%以上的情况,”% alone” 是只使用当前工具的投票者占比。每个投票者工具平均使用数为6.1,和2016年6.0相比几乎没有变化 。对比于 2016年 KDnuggets分析/数据科学票选结果,前11名中新晋的工具是Anaconda和Tensorflow。

各个区域的参与度如下:

• 美国/加拿大(41.5%) • 欧洲(35.5%) • 亚洲(10.1%) • 拉丁美洲(6.5%) • 非洲/中东地区(3.8%) • 澳大利亚/新西兰(2.7%)

趋势新工具在调查中有超过2%的使用率是• Keras(9.5%)• PyCharm(9%)

• 微软R(4.3%) • IBM DSX(3.0%) • PyTorch(3.0%) • Teradata(2.4 %)


下表列出了在2017年里使用增长率超过20%且使用率至少达到2%的工具,这其中包括5个深度学习工具和4个Microsoft工具。

表2:使用率增长最快的分析/数据科学工具

DataRobot 虽然使用率不足2%,但它从2016年的0.5%增长到了2017年的1.9%。我们注意到,在2016年中至少有2%使用率的工具中,有22个使用量在增加,27个处于下降阶段。这表明,数据科学平台市场仍然没有被整合起来。下表展示了在2016年至少有2%的使用率,但在2017年使用率至少减少了20%的工具。Turi和Salford在最近被收购,Perl和Octave被Python和R打败,RapidInsight也许是没有提醒其用户投票给自己,QlikView很可能输给了Tableau,C4.5可以算是过时技术了。有趣的是,Hadoop体系的的开源工具里,针对于MLlib和其他免费开源分析/数据挖掘工具的使用量也在减少。

表3:使用率下降最快的分析/数据科学工具

深度学习工具使用情况

深度学习工具今年深度学习工具的使用率跃升到32%,2016年只有18%,2015年的9%。谷歌Tensorflow是占主导地位的平台,取代了去年的领导者Theano / Pylearn2。排名前列的工具有:

• Tensorflow,20.2%使用率 • Keras,9.5% • Theano,5.8% • Other Deep Learning Tools,4.8% • Mirrosoft CNTK,3.4% • Caffe,3.1% • PyTorch,3.0% • DL4J 2.2% • MxNet,1.8% • Torch,1.2% • Lasagne,0.9%

Hadoop使用情况

Hadoop的/大数据工具我们已经简化了Hadoop体系下的针对于Hadoop/Spark类工具的的分类。Hadoop下的商业/开源工具、SQL和Spark的使用率占到了33%。这比2016年的39%略低,但2016年很多工具都被划分为大数据工具。2015年,Spark/Hadoop的工具使用率为29%。在2017年的大数据工具的使用是:

• Spark,22.7%

• Hadoop 开源工具,15.0% • Hadoop SQL,10.3% • Hadoop 商业工具 7.6%

Python、Java、Unix,scala大受欢迎 而C/C ++,Perl,Julia,F#,Clojure和Lisp下降。以下是按投票排名的主要编程语言:

• Python,52.6%的使用率(2016年45.8%)

• R,52.1%(2016年49.0%),增长6% • SQL,34.9%(35.5%),下跌2% • Java,13.8%(16.8%),下跌18% • Unix Shell/ AWK / GAWK,9.6%(10.4%),下跌7% • C / C ++,6.3%,(7.3%),下跌13% • Perl,1.7%,(2.3%),下跌27% • Julia,1.1%(1.1%),无变化

Python不断学习竞争对手Julia,持续增长,然而Julia的使用率却令人惊讶地保持了不变。

原文发布于微信公众号 - 钱塘大数据(qtbigdata)

原文发表时间:2017-07-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI研习社

别以为语言学家就整天咬文嚼字,其实他们代码也很 6

AI 研习社按:统计 NLP 已取得巨大成果,但其极度依赖统计手段,相比之下深入的语言学思考少很多。当今研究遇到瓶颈,许多 NLP 的研究者都在引入一些语言学的...

862
来自专栏PPV课数据科学社区

8个案例让数据不再撒谎

最近关于数据造假的评论很多,数据说谎的情况有两种,一种是出于某种目的,人为的将公示的数据注入一些水分;另一种“假”则是因为对业务不了解或经验的不足而在数据解读上...

2925
来自专栏CDA数据分析师

换个姿势看《权力的游戏》,第七季回归之推特数据分析

原作者 Conor Dewey 编译 Mika 本文为 CDA 数据分析师原创作品,转载需授权 作为一部红遍全球的美剧,《权力的游戏》可谓是当之无愧的神剧。自...

2466
来自专栏加米谷大数据

技术分享 | 大数据可视化的五大发展趋势

在这个信息爆炸的时代,借助图形化的手段,高效和清晰的交流信息是数据可视化的目的所在,作为一种信息载体,她拥有对数据的多种表现形式,可以是美丽的且带有趣味性的,以...

3885
来自专栏黄成甲

互联网产品如何建立用户画像?

过年时,闲来无聊,便想起年前和啊喔科技的的朋友聊到过“不写就出局”用户活跃度的话题,大家共同讲起了需要建立产品的用户画像。去年十月,雨花客厅程冲老师在产品课程上...

1912
来自专栏机器之心

观点 | 善于单挑却难以协作,构建多智能体AI系统为何如此之难?

选自Hackernoon 作者:Michaël Trazzi 机器之心编译 参与:程耀彤、路雪 人工智能已经在围棋、图像识别和语音识别等领域达到或超越了人类专家...

3856
来自专栏镁客网

这款DNA机器人,可以帮你分拣身体中的生物垃圾 | 黑科技

1750
来自专栏新智元

神经形态计算的新方法:人造神经元计算速度超过人脑

来源:科学网 编辑:张章 转载编辑:张乾 【新智元导读】一种以神经元为模型的超导计算芯片,能比人脑更高效快速地加工处理信息。近日刊登于《科学进展》的新成果,或许...

3549
来自专栏AI科技评论

开发 | 小米再开源!这次是移动端神经网络框架基准测试项目 MobileAIBench

继小米在 6 月宣布自研的移动端深度学习框架 Mobile AI Compute Engine (MACE:https://github.com/xiaomi/...

1043
来自专栏腾讯开源的专栏

道器相融,由 Angel 谈一个优秀机器学习平台的自我修养

随着人工智能时代来临,大数据平台发生了新的变化,企业该如何更好地利用机器学习、深度学习等人工智能技术从实时数据中高效挖掘有价值的信息?

4951

扫码关注云+社区