最新出炉——数据科学家最常使用的十大算法

导读:本文来自于KDnuggets所做的十大算法调查,对于数据工程师常用的算法进行排名,并对其在2011-2016年间的变化进行介绍。

基于调查,KDnuggets总结出了数据科学家最常使用的十大算法,它们分别是:

1. Regression 回归算法 2. Clustering 聚类算法 3. Decision Trees/Rules 决策树 4. Visualization 可视化 5. k-Nearest Neighbor 邻近算法 6. PCA (Principal Component Analysis) 主成分分析算法 7. Statistics 统计算法 8. Random Forests 随机森林算法 9. Time series/Sequence 时间序列 10. Text Mining 文本挖掘

其中,受访者表示平均使用了8.1个算法,相比2011年类似的调查大幅提高了。

与2011年的类似调查对比我们发现最流行的算法还是回归算法、聚类算法、决策树和可视化。相对来说最大的增长是由 (pct2016 /pct2011 - 1) 测定的以下算法:

  • Boosting,从 2011 年的 23.5% 至 2016 年的 32.8%,同比增长 40%
  • 文本挖掘,从 2011 年的 27.7% 至 2016 年的 35.9%,同比增长 30%
  • 可视化,从 2011 年的 38.3% 至 2016 年的 48.7%,同比增长 27%
  • 时间序列,从 2011 年的 29.6% 至 2016 年的 37.0%,同比增长 25%
  • 异常/偏差检测,从 2011 年的 16.4% 至 2016 年的 19.5%,同比增长 19%
  • 集成方法,从 2011 年的 28.3%至 2016 年的 33.6%,同比增长 19%
  • 支持向量机,从 2011 年的 28.6% 至 2016 年的 33.6%,同比增长 18%
  • 回归算法,从 2011 年的 57.9% 至 2016 年的 67.1%,同比增长 16%

另外,2016年最流行的新算法分别是:

  • K-近邻,46%
  • 主成分分析,43%
  • 随机森林算法,38%
  • 优化,24%
  • 神经网络 - 深度学习,19%
  • 奇异值分解,16%

下降最多的分别是:

  • 关联规则,从 2011 年的 28.6% 至 2016 年的 15.3%,同比下降 47%
  • 增量模型,从 2011 年的 4.8% 至 2016 年的 3.1%,同比下降 36%
  • 因素分析,从 2011 年的 18.6% 至 2016 年的 14.2%,同比下降 24%
  • 生存分析,从 2011 年的 9.3% 至 2016 年的 7.9%,同比下降 15%

不同领域使用的算法比例

我们注意到几乎所有人都在使用监督学习算法。

政府和工业界数据科学家比学生或者学术研究院使用更多不同的算法,而且工业界数据科学家更倾向于使用元算法。

下面,我们继续通过雇员的类型来分析最流行的10个算法和深度学习。

为了让这些差异更容易观看,我们针对特定雇员类型相关的平均算法使用量设计了一个算法。

Bias(Alg,Type)=Usage(Alg,Type)/Usage(Alg,All) - 1.

我们注意到:

  • 工业界数据科学家更倾向于使用回归算法、可视化、统计算法、随机森林算法以及时间序列
  • 政府/非盈利组织更倾向于使用可视化、主成分分析算以及时间序列
  • 学术界研究人员更倾向于使用主成分分析算法和深度学习
  • 学生一般使用的算法较少,但是它们会做更多的文本挖掘以及深度学习

另外,参与投票的读者主要来自于

  • 美国/加拿大, 40%
  • 欧洲, 32%
  • 亚洲, 18%
  • 拉丁美洲, 5.0%
  • 非洲/中东, 3.4%
  • 澳大利亚/新西兰, 2.2%

在 2011 年的调查中,我们将产业/政府分在了同一组,将学术研究人员/学生分在了第二组,另外通过算法对于业界/政府的“亲切度”进行了计算:

N(Alg,Ind_Gov) / N(Alg,Aca_Stu) ------------------------------- - 1 N(Ind_Gov) / N(Aca_Stu)

亲切度为 0 的算法表示其在产业/政府和学术研究人员/学生之间的使用情况对等。IG亲切度越高表示该算法越被产业界普遍使用,反之越“学术”。

其中,最“产业”的算法是:

  • 增量模型Uplift modeling,2.01
  • 异常检测Anomaly Detection,1.61
  • 生存分析Survival Analysis,1.39
  • 因子分析Factor Analysis,0.83
  • 时间序列Time series/Sequences,0.69
  • 关联规则Association Rules,0.5

其中增量模型Uplift modeling又一次成了最“产业”的算法,但是令人惊讶的是其使用率确很低—只有3.1%,几乎是这次调查中使用率最低的算法。

最“学术”的算法是:

  • 神经网络Neural networks - regular, -0.35
  • 朴素贝叶斯Naive Bayes, -0.35
  • 支持向量机SVM, -0.24
  • 深度学习Deep Learning, -0.19
  • EM, -0.17

下图是所有算法以及它们在产业界/学术界的亲切度:

数据科学家最常使用的算法 工业界 vs 学术界

2016数据科学家使用的算法调查汇总

汇总表格中各项含义分别是:

  • N:根据使用度排名
  • Algorithm:算法名称,
  • 类型:S - 监督,U - 无监督,M - 元,Z - 其他,
  • %指代调查中使用这种算法的调查者比例
  • Change—变动(%2016 年/2011% - 1),
  • Industry Affinity—产业亲切度(前文中提到)

via KDnuggets

题图来子Data Scientists at Work

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2016-09-19

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏算法channel

Facebook开源 时间序列预测框架 Prophet

时间序列(Time Series Analysis),应用非常广泛,从业务预测到全球变暖;从商品价格到股票、基金走势。

701
来自专栏机器之心

你的论文能否中顶会?这篇分析同行评审结果的论文可帮助你

1764
来自专栏机器之心

学界 | Uber AI论文:利用反向传播训练可塑神经网络,生物启发的元学习范式

选自arXiv 机器之心编译 参与:Pedro、刘晓坤 怎样才能得到经过初始训练后就可以利用经验持续快速高效学习的智能体呢?Uber AI 近日研究表明,如同深...

2767
来自专栏AI科技评论

大会 | AAAI 2018论文:视频语义理解的类脑智能

AI 科技评论按:近日,美图云视觉技术部门与中科院自动化所共同合作研发,提出一种基于类脑智能的无监督的视频特征学习和行为识别的方法 NOASSOM (Hiera...

3137
来自专栏数据科学与人工智能

【陆勤推荐】想入门机器学习、数据挖掘,我该怎么做?

想入门机器学习、数据挖掘,我该怎么做?我自己是本科数学出身,本科毕业的时候,我并不知道什么是机器学习,也没有写过大型程序,更不要说去搞一个机器学习的算法和实践了...

1885
来自专栏有趣的Python

TensorFlow应用实战-2- 人工智能&深度学习介绍

2- 人工智能&深度学习介绍 人工智能相关的电影 钢铁侠 终结者 机械姬 我,机器人 ? mark 人工智能之父麦卡锡给出的定义 构建智能机器,特别是智能计算机...

3946
来自专栏量子位

机器学习5年大跃进,可能是个错觉

回想2012年,Hinton带着学生们以ImageNet上16.4%的错误率震惊计算机视觉研究界,似乎已经是远古时期的历史。

701
来自专栏量子位

三角兽首席科学家分享实录:基于对抗学习的生成式对话模型

主讲人:三角兽首席科学家 王宝勋 颜萌 整理编辑 量子位 出品 | 公众号 QbitAI 对抗学习和对话系统都是近年来的新热点。今年7月,三角兽研究组与哈工大I...

3356
来自专栏BestSDK

从模型到算法,详解一套AI聊天机器人是如何诞生的

您是否曾经利用 Siri、Alexa 或者 Cortana 以对话方式设置闹钟、呼叫朋友甚至是安排会议日程?相信大多数朋友和我一样,感觉虽然这些方案在日常生活与...

4646
来自专栏机器学习算法全栈工程师

阿里资深 AI 工程师教你逐个击破机器学习核心算法

近年来,随着 Google 的 AlphaGo 打败韩国围棋棋手李世乭之后,机器学习尤其是深度学习的热潮席卷了整个 IT 界。

1013

扫描关注云+社区