【动向】2018年深度学习的10大预测

我有种预感,2018年将会是发生巨大变化的一年。我们在2017年所看到的那些令人难忘的成就将在2018年以非常强大的方式延续。2017年的研究工作将进一步转化为日常的软件应用。

下面是我整理的一份关于2018年深度学习的预测清单:

1.大多数深度学习硬件初创公司将会失败

许多深度学习硬件初创企业将在2018年最终交付他们的芯片。也许这会导致破产,因为他们忘记提供好的软件来支持他们的新解决方案。这些公司让硬件作为他们的DNA。但不幸的是,在DL领域,软件同样重要。这些初创公司大多不懂软件,也不了解开发软件的成本。这些公司可能会提供芯片,但没有任何系统可以支持软件运行。

采用收缩阵列解决方案的低成果已经被采用,所以我们不会在2017年发现大规模的10倍性能升级。研究人员将开始使用这些张量核,不仅用于推理,还可以加速训练。

令人感到失望的是英特尔的解决方案将继续被推迟。目前谁也无法猜测该公司何时能推出。

随着TPU的发展,Google将继续给世界带来惊喜。也许Google通过将其IP授权给其他半导体厂商来进入硬件行业。如果它是除了Nvidia以外唯一真正的玩家,这将会很有意义的。

2.元学习将是新的SGD

2017年出现了很多有关元学习的强大研究。随着研究群体对元学习的理解越来越深入,随机梯度下降(SGD)的旧方式将会落到实处,取而代之的是一种更有效的方法,既可以利用开发性的搜索方法,也可以采用探索性的搜索方法。

无监督学习的进展将是渐进的,但主要是由元学习算法驱动。

3.生成一种新的建模

目前,大多数研究都是在生成图像和语音的过程中进行的。但是,我们应该将这些方法结合到建模复杂系统的工具中。您将会看到这个活动的一个领域就是应用深度学习来进行经济建模。

4.自我演奏是自动化的知识创造

AlphaGo Zero和AlphaZero从零开始学习和自我娱乐是一个巨大的飞跃。在我看来,它与深度学习的出现有着同样的影响。深度学习发现了通用相似函数。RL自我娱乐发现了普遍的知识创造。

期待看到更多与自我娱乐相关的进展。

5.直觉机器将弥合语义鸿沟

这是我最雄心勃勃的预测。我们将跨越直觉机器和理性机器之间的语义鸿沟。双过程理论(两种认知机器的概念,一种是无模型的,另一种是基于模型的) 将是如何构建新AI的更流行的概念。2018年,人为直觉的概念将不再是一种附带的概念,更多的是被普遍接受的概念。

6.解释能力是无法实现的—我们只能假装

解释能力有两个问题:第一个问题,这种解释对人类来说有太多的规则,让人难以理解;第二个问题,是机器将会产生完全陌生且无法解释的概念。我们已经在AlphaGo Zero和Alpha Zero的战略中看到了这一点。

简而言之,解释性机器的目的是要理解人类能够直观地理解或能够理解的种类的解释。然而,在大多数情况下,人类将无法获得完整的解释。

我们必须通过创造“虚假的解释”来在深度学习中取得进展。

7.深入学习的研究信息会下降

对于深度学习研究的人们来说,2017年已经很困难了。ICLR 2018年会议提交的论文数量约为4000份。研究人员每天只能阅读10篇论文,仅仅是为了赶上这个会议。

在这个领域,问题越来越严重,因为理论框架都在进行中。为了在理论空间上取得进步,我们需要寻找更高级的数学,这能给我们更好的认识。这将成为一个难题,因为大多数深度学习的研究人员不具备正确的数学理论来理解这类系统的复杂性。深度学习需要来自复杂性理论的研究人员,但这类研究人员非常少。

2018年,深度学习研究论文可能会翻三番或四翻。

8.工业化是通过教学环境来实现的

通过对具体教学环境的开发,可以实现对深度学习系统可预测和可控制的开发。如果你想找到最原始的教学方法,你只需要看看深度学习网络是如何训练的。在这方面我们将会看到更多的进展。

期待看到更多的公司透露他们的内部基础设施,解释他们如何部署深度学习。

9.会话认知的出现

我们衡量进展的方式已经过时了。现在,提出了一种解决现实世界动态(即非平稳)复杂性的新方式。我们应该在新的一年里看到更多关于这个新领域的报道。

10.我们将要求在道德上使用AI

道德上使用AI的需求将会增加。现在,人们越来越意识到自动化失控所带来的灾难性后果。我们今天在Facebook、Twitter、谷歌、Amazon等网站上发现的过于简单的自动化也许将来会对社会造成不良影响。

我们需要了解部署能够预测人类行为的机器的道德规范。面部识别是我们掌握的危险功能之一。能够产生与现实难以区分的媒体的算法将成为一个主要问题。理论上,我们需要知道,自己只是为了整个社会的利益而使用AI,而不是增加不平等的武器。

准备冲击!

2018年将是重要的一年,我们要做好充分的准备,迎接新机遇!

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-01-03

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏互联网数据官iCDO

如何使用预测分析方法提高营销效果?

随着大数据,人工智能和数据分析等技术的兴起,营销一直在不断变化。现在,营销活动可以基于对过去活动的测量和洞察来规划,其中一种策略是使用预测分析来获得更好的营销表...

982
来自专栏镁客网

发展至今的机器学习到底对我们的就业和社会产生了哪些影响?

1330
来自专栏AI科技评论

对话LSTM之父Jürgen Schmidhuber:为什么我觉得“AI奴役人类”的说法很愚蠢?

AI科技评论按:9月12日上午,南京金秋洽谈会“2017中国人工智能峰会(CAIS 2017)”在南京国际博览会议中心盛大开幕。本次峰会以“创新、变革、突破”为...

1954
来自专栏量子位

机器学习产品宝典:这是谷歌内部总结的七大要点

李林 若朴 编译整理 量子位 报道 | 公众号 QbitAI 产品经理新入机器学习坑,应该注意什么? Google的用户体验设计团队总结了7点,量子位编译如下:...

3304
来自专栏PPV课数据科学社区

重磅 | Facebook机器学习应用负责人J.Candela:如何将人工智能技术应用于产品

Joaquin Quiñonero Candela是Facebook 机器学习应用团队的负责人。他曾在微软剑桥研究院工作,还是微软Bing团队的一员。Joaq...

3355
来自专栏新智元

Facebook AI 野心与LeCun的小目标:拥有类人智能的对话助理

【新智元导读】 不同于以往的“深度好文”,这篇描写 Facebook AI发展的文章不仅仅聚焦在机器学习技术,更多地强调各种先进的机器学习模型与Faceboo...

2686
来自专栏人工智能头条

专访CMU邢波教授:机器学习与医疗大数据,及大规模机器学习系统的开发

1036
来自专栏达观数据

达观研讨会:深度学习在语义分析处理的最新发展|复旦邱锡鹏教授

近日,复旦大学计算机科学技术学院副教授邱锡鹏在达观数据主办的人工智能研讨会中发表主题演讲,就深度学习在语义分析处理中的应用做了深度剖析,细致地讲解了表示学习的研...

41210
来自专栏AI研习社

普通程序员想投身 AI 行业?知乎大 V 阿萨姆分享开发者转型的机遇与挑战

据 LinkedIn 发布的「全球 AI 领域人才报告」显示,2011 年深度学习技术爆发,人工智能领域有了飞跃式的发展,但核心人才资源的短缺限制了国内人工智...

31710
来自专栏PPV课数据科学社区

浅谈数据挖掘与数据分析?

浅谈数据分析与数据挖掘?   数据分析和数据挖掘都可以做为“玩数据”的方法论,两者有很多的共性,也有显著的差异。 ?   从分析的目的来看,数据分析一般是对历史...

42511

扫描关注云+社区