图说2016深度学习十大指数级增长

【新智元导读】深度学习火热不是假象,以下的十个指数级增长趋势证明:深度学习在过去的一年内获得了极快的发展,已经成为当下人工智能的“顶梁柱”。本文从 ImageNet、NIPS和CVPR等顶级学术会议,以及谷歌、英伟达等企业应用,还有深度学习人才与投资、收购等角度分析,用13 张图解读深度学习到底有多火。

1. 图像识别准确率的指数级增长

似乎一切都是从 2015年的 ImageNet 挑战赛开始的,当年在图像识别准确率上,机器首次超过了人类,被认为是一个里程碑式的突破。

图:ILSVRC top-5 错误率

2010年算法的图像识别错误率至少在25%左右,但到2015年,计算机图像识别错误率已经低于人类(人类水平大概是4%左右)。2015年是0.03567,也就是3.5%。2016年,ImageNet 竞赛,图像识别错误率进一步下降,错误率今年的最好成绩为:平均错误率0.02991,也就是2.99%左右。

从上图可以看到,在ImageNet 竞赛中,其实从2012年,开始,使用深度学习方法,错误率只有15.3 %左右。这是 Hinton 教授和他的两个研究生 Alex Krizhevsky, Illya Sutskever 的成果。据说,他们使用了 两个 Nvidia 的 GTX 580 CPU (内存 3GB, 计算速度 1.6 TFLOPS), 让程序接受一百二十万个图像训练, 花了接近六天时间。

搜索热度的指数级增长

“深度学习”在2012年开始崭露头角。下图是 Google Trends 中“Deep Learning”的搜索趋势。

深度学习在近两年来已经成为名副其实的热词。

学术会议上深度学习影响力的指数级增长

现实表明,学术研究领域确实迎来爆发式增长

图:NIPS 增长趋势

2016 年,作为学界顶级盛会的 NIPS 共收到投稿超过 2500 篇,最终接收了 568 篇——保守估计接收率 22.7%。这个论文接收率并不算那么低(相较其他顶会)。

再看参会人数及其近年来的增长趋势(上图右),2016参会人数已经超过了5000人——尤其是近两年,用“直线上升”形容毫不夸张。

CVPR 是计算机视觉领域的国际顶级会议。下面是 CVPR 的增长趋势图:

图:CVPR 参会人数趋势

新智元在此前的报道曾统计过,本届会议共收到论文 2145 篇,创下历史记录(有效 1865 篇)。会议接收论文 643 篇(接收率 29.9%)。

2016 CVPR 会议接收的论文里,发表的论文中有 80% 到 90%,口头报告更是接近 100% 都来自深度学习领域。

深度学习技术在企业内部应用的指数级增长

以上能显示深度学习理论的增长趋势。但只有理论吗?让我们看看 Google 内部对深度学习技术的使用情况。

图:Google 使用深度学习的趋势

从上图可以看到,2014年到2015年间,谷歌内部对深度学习技术的使用呈直线上升趋势。应用领域包括:APP、地图、照片、邮箱、语音、安卓、Youtube、翻译、机器人研究、图像理解、自然语言理解、毒品探测。

谷歌大脑负责人Jeff Dean 在接受《福布斯》的采访时曾提到,2011年到2012年间,公司使用深度神经网络技术的团队只有十几组,现在已经超过200多组,有上千人在训练这类的模型,使用的就是谷歌大脑团队搭建的软件。

他说:“5年前,当我们第一次开始组建机器学习研究组,调查使用大量的计算和深度卷积网络处理问题的情况,当时公司里还没有多少人在使用这种方法。后来,我们发现少数看起来可以有效应用的几个地方,其中包括语音识别系统,所以我们跟语音识别团队的同事紧密合作,把深度神经网络加入到语音识别系统中去,从而在识别精准度上获得了显著的提升。然后,我们又与几个计算机视觉相关的团队合作,比如图像识别和一些街景团队,其中包括,用图像中的原始像素去训练模型做一些有意思的事情,从图像中提取文本或者理解图像(是美洲豹,垃圾车或是别的什么东西)。

有趣的是,随着时间的过去,更多的团队开始采用这些方法,因为他们会听到别的团队说在尝试一些别的东西,并且获得了好的结果。不然就是,我们可以把他们与这些团队联系起来,或者我们可以提供一些在他们特定的问题语境下如何使用这些方法的建议。后来,我们把这些都正规化,所以现在我们就有了一个团队来做这些扩展工作。首先是联系想要在产品中用到这些机器学习模型的团队,他们会描述自己遇到的难题,一般情况下,我们团队会说:“这似乎跟其他团队所遇到的难题很像,我们的解决方案很有用,试试看我们的方案,然后给我们反馈”。

深度学习人才需求的指数级增长

从2015年开始,市场对深度学习人才的需求直线上涨,2016年下半年开始更是以超大幅度上涨。另外,2015年开始,我们也看到了大量的学术界顶尖人才流向产业界。

深度学习投资上的指数级增长

图:最近几年对AI技术企业的投资逐年增长

2016年二季度期间,融资交易量最多的地区是美国,共发生47起交易,融资额合计5.245亿美金。

除美国以外,全球有15个国家和地区在2016年二季度发生了AI相关领域创业公司的股权投融资活动,包括中国(及中国香港)、印度、瑞典、乌克兰、法国和加拿大等。

其中加拿大、英国、以色列、德国的AI领域投资相对较为活跃,尤其值得注意的几笔交易是:在加拿大,GE Ventures两次参与了BitStew Systems的C轮融资,该创业公司主要做工业物联网(IIoT)的数据分析平台;在英国伦敦,Lerer Hippeau Ventures,Bloomberg Beta和Salesforce Ventures参与了DigitalGenius的种子轮融资,该创业公司主要为客服领域提供AI解决方案;在以色列,阿里巴巴集团投资了电商搜索发现创业公司Twiggle的A轮融资,而包括Khosla Ventures和Marc Benioff在内的投资机构则支持了医疗创业公司Zebra Medical Vision的B轮融资;在德国,New Enterprise Associates参与了Konux的A轮融资,该创业公司面向产业界提供基于AI技术的传感器解决方案。

大公司收购的指数级增长

人工智能企业并购历史

2016年,每一个季度,都有至少10起关于人工智能的并购发生。这一指数级的增长趋势从2014年开始,目前没有任何下降的趋势。

2016年内在AI领域发生了一些非常高调的收购案,包括6月份公开的推特(Twitter)花费1.5亿美金收购Magic Pony Technology,后者是一家专注视觉处理(visual processing)相关的机器学习(machine learning)算法技术公司。英特尔于今年8月以超过4以美元的金额收购 Nervana 等等。

其中,2016也成为英特尔向人工智能和深度学习发力的转型之年,英特尔副总裁 Jason Waxman 在接受 Recode 采访时表示,向人工智能转型可能会有损英特尔向云计算进军的努力。但 Waxman 也强调了机器学习的重要性,他表示在英特尔从一个用户控制大量连网设备到世界向一个数十亿件设备都相互连并相互对话的世界转型之际,机器学习非常重要。

大众在投资的指数级增长

人工智能特别是深度学习的发展,极大地推动了英伟达的股价的上涨。从2015年开始,英伟达的股价一直都高于纳斯达克平均水平。

最新资料显示, 英伟达了2016年第三财季财报报告当季公司营收实现大幅增长,远超市场预期。财报公布后,英伟达股价大涨近30%至87.97美元,创历史新高。英伟达股价自2015年9月以来持续走高,涨幅已超过三倍多。

今年8月,CEO黄仁勋在投资人会议上强调,深度学习是英伟达十分重要的增长动力,也是公司一直持续大力投资的领域,“过去5年来,我们一直默默投资深度学习,因为我们相信深度学习未来对整个软件产业、整个计算机产业都有着深远的影响,我们把一切都赌在了深度学习上”。

黄仁勋还指出,英伟达数据中心业务,大约有一半都是深度学习系统,这也是得益于公司在深度学习芯片方面的大力投入。

深度学习是 AI 的主要驱动力吗?

上图是在“Google Trend” 中分别查询人工智能和深度学习在过去5年的搜索趋势,蓝色是“深度学习”,红色是“人工智能”。“深度学习”在总量上要少于“人工智能”,但是增长趋势非常明显,最近更是越来越接近。并且,从增长的趋势来看,深度学习增长非常明显。

最后是最重要的一个趋势

人工智能的“智力”水平不断增长,未来或许会超越人类,甚至是高智商的人类水平,但是,目前看来,人工智能的智力水平程度也还只比蚂蚁好一些。(图来自Wait Buy Why)。

参考文献来源:

1. 新智元微信公众号

2.https://medium.com/intuitionmachine/8-exponential-hockey-stick-charts-for-deep-learning-74bba7a0284c#.6ok8ke2qd

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2016-12-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

特写|人工智能背后的人

机器之心原创 作者:虞喵喵 在大部分人看来,人工智能是个有些「科幻」的词汇,代表小说电影中和人类长相相似、或温柔或冷酷的机器人。 稍微熟悉一点,这份印象又变成冷...

41480
来自专栏机器之心

GMIS 2017 | 伯克利教授Stuart Russell:人工智能的过去、现在和未来

机器之心原创 机器之心编辑部 全球机器智能峰会(GMIS 2017),是全球人工智能产业信息服务平台机器之心举办的首届大会,邀请了来自美国、欧洲、加拿大及国内的...

28880
来自专栏CSDN技术头条

第一批被AI累死的人

一双眼睛的局部细节图出现在电脑屏幕上,小慧对着放大的眼睛,一步步地做好标记点。一眼望过去,一排排的电脑屏幕上,都是类似的画面。略显昏暗的办公环境加上电脑屏幕上被...

13320
来自专栏大数据文摘

大咖 | 清华大学王生进教授:人像态势识别及其在智能视频监控中的应用

46150
来自专栏钱塘大数据

【AI的正面与侧面】披着光鲜的外衣的“数据民工”

像是一场明星演唱会,舞台上灯光华美,主角激情澎湃,粉丝呐喊欢呼,场面一片火爆,而幕后忙忙碌碌的那些人,who cares,人工智能行业大抵如此。繁荣光鲜的背后,...

42250
来自专栏DT数据侠

邬学宁:未来30年人工智能将影响人类命运

上海2018年“创客中国”高峰论坛上,数据科学50人成员、SAP硅谷创新中心首席数据科学家邬学宁以“大数据驱动人工智能的应用和展望”为主题发表了演讲。随着物联网...

10100
来自专栏IT派

图像 | 视频换脸技术,女神都下海了吗?

IT派 - {技术青年圈} 持续关注互联网、大数据、人工智能领域 最近,美国闲散人士论坛 Reddit 上有个神奇的 18 禁板块,专门分享女明星 PS 的裸...

849100
来自专栏腾讯云安全的专栏

腾讯云亮相 KDD2018,深度学习催化天御反欺诈系统高识别率

近日, KDD x TAIC 2018大会在英国伦敦举行。腾讯云金融风控业务研发负责人李超博士受邀出席大会,并在会上发表了题为《Cloud Security,...

7.9K60
来自专栏量子位

乔丹LeCun李开复隔空对话:我们对智能一无所知;AI研究的12大趋势

三位AI领域的标志性人物:乔丹(Michael I. Jordan)、杨立昆(Yann LeCun)、李开复,刚刚结束了一场隔空对话。

10020
来自专栏机器学习算法与Python学习

369亿估值的AI市场下,中国AI学习者的野心与实力

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 最近几天,在 2018 CES科技盛...

372100

扫码关注云+社区

领取腾讯云代金券