【动向】2018年深度学习的10大预测

我有种预感,2018年将会是发生巨大变化的一年。我们在2017年所看到的那些令人难忘的成就将在2018年以非常强大的方式延续。2017年的研究工作将进一步转化为日常的软件应用。

下面是我整理的一份关于2018年深度学习的预测清单:

1.大多数深度学习硬件初创公司将会失败

许多深度学习硬件初创企业将在2018年最终交付他们的芯片。也许这会导致破产,因为他们忘记提供好的软件来支持他们的新解决方案。这些公司让硬件作为他们的DNA。但不幸的是,在DL领域,软件同样重要。这些初创公司大多不懂软件,也不了解开发软件的成本。这些公司可能会提供芯片,但没有任何系统可以支持软件运行。

采用收缩阵列解决方案的低成果已经被采用,所以我们不会在2017年发现大规模的10倍性能升级。研究人员将开始使用这些张量核,不仅用于推理,还可以加速训练。

令人感到失望的是英特尔的解决方案将继续被推迟。目前谁也无法猜测该公司何时能推出。

随着TPU的发展,Google将继续给世界带来惊喜。也许Google通过将其IP授权给其他半导体厂商来进入硬件行业。如果它是除了Nvidia以外唯一真正的玩家,这将会很有意义的。

2.元学习将是新的SGD

2017年出现了很多有关元学习的强大研究。随着研究群体对元学习的理解越来越深入,随机梯度下降(SGD)的旧方式将会落到实处,取而代之的是一种更有效的方法,既可以利用开发性的搜索方法,也可以采用探索性的搜索方法。

无监督学习的进展将是渐进的,但主要是由元学习算法驱动。

3.生成一种新的建模

目前,大多数研究都是在生成图像和语音的过程中进行的。但是,我们应该将这些方法结合到建模复杂系统的工具中。您将会看到这个活动的一个领域就是应用深度学习来进行经济建模。

4.自我演奏是自动化的知识创造

AlphaGo Zero和AlphaZero从零开始学习和自我娱乐是一个巨大的飞跃。在我看来,它与深度学习的出现有着同样的影响。深度学习发现了通用相似函数。RL自我娱乐发现了普遍的知识创造。

期待看到更多与自我娱乐相关的进展。

5.直觉机器将弥合语义鸿沟

这是我最雄心勃勃的预测。我们将跨越直觉机器和理性机器之间的语义鸿沟。双过程理论(两种认知机器的概念,一种是无模型的,另一种是基于模型的) 将是如何构建新AI的更流行的概念。2018年,人为直觉的概念将不再是一种附带的概念,更多的是被普遍接受的概念。

6.解释能力是无法实现的—我们只能假装

解释能力有两个问题:第一个问题,这种解释对人类来说有太多的规则,让人难以理解;第二个问题,是机器将会产生完全陌生且无法解释的概念。我们已经在AlphaGo Zero和Alpha Zero的战略中看到了这一点。

简而言之,解释性机器的目的是要理解人类能够直观地理解或能够理解的种类的解释。然而,在大多数情况下,人类将无法获得完整的解释。

我们必须通过创造“虚假的解释”来在深度学习中取得进展。

7.深入学习的研究信息会下降

对于深度学习研究的人们来说,2017年已经很困难了。ICLR 2018年会议提交的论文数量约为4000份。研究人员每天只能阅读10篇论文,仅仅是为了赶上这个会议。

在这个领域,问题越来越严重,因为理论框架都在进行中。为了在理论空间上取得进步,我们需要寻找更高级的数学,这能给我们更好的认识。这将成为一个难题,因为大多数深度学习的研究人员不具备正确的数学理论来理解这类系统的复杂性。深度学习需要来自复杂性理论的研究人员,但这类研究人员非常少。

2018年,深度学习研究论文可能会翻三番或四翻。

8.工业化是通过教学环境来实现的

通过对具体教学环境的开发,可以实现对深度学习系统可预测和可控制的开发。如果你想找到最原始的教学方法,你只需要看看深度学习网络是如何训练的。在这方面我们将会看到更多的进展。

期待看到更多的公司透露他们的内部基础设施,解释他们如何部署深度学习。

9.会话认知的出现

我们衡量进展的方式已经过时了。现在,提出了一种解决现实世界动态(即非平稳)复杂性的新方式。我们应该在新的一年里看到更多关于这个新领域的报道。

10.我们将要求在道德上使用AI

道德上使用AI的需求将会增加。现在,人们越来越意识到自动化失控所带来的灾难性后果。我们今天在Facebook、Twitter、谷歌、Amazon等网站上发现的过于简单的自动化也许将来会对社会造成不良影响。

我们需要了解部署能够预测人类行为的机器的道德规范。面部识别是我们掌握的危险功能之一。能够产生与现实难以区分的媒体的算法将成为一个主要问题。理论上,我们需要知道,自己只是为了整个社会的利益而使用AI,而不是增加不平等的武器。

准备冲击!

2018年将是重要的一年,我们要做好充分的准备,迎接新机遇!

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-01-03

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

最强AlphaGo怎样炼成?刚刚,DeepMind团队进行了全面解读

安妮 李林 发自 凹非寺 量子位 出品 | 公众号 QbitAI 昨天AlphaGo再次震惊所有人。 刚刚,这个史上最强围棋AI的两位主要开发者,David S...

40812
来自专栏数据猿

氪信联合创始人杨玢玢:AI应用在金融领域,如何能够在商业上有所突破?

数据猿导读 AI应用在金融领域,想要有所突破,需要几个必要因素,一个是要有数据,毕竟AI归根究底还是数据的技术;另外要有处理数据的能力,其次还要有商业变现的场景...

2738
来自专栏AI科技评论

现场 | 英特尔中国研究院认知计算实验室主任陈玉荣博士:如何“享用”视觉识别技术的低廉化大潮

英特尔中国研究院认知计算实验室: 致力于视觉认知和机器学习前沿领域的科技创新,开发视觉内容理解和视觉内容创建的领先技术,从而在英特尔平台上实现视觉数据的智能处理...

2709
来自专栏企鹅号快讯

AI与机器人有关部分的科技研究领域是什么?

理解自然语言 自然语言处理是人工智能早期研究领域之一。已经编写出能够从内部数据可问答用英语提出问题的程序,这些程序通过阅读文本材料和建立内部数据库,能够把句子从...

3615
来自专栏新智元

当无人机学会人工智能,它将是世界上最恐怖的武器

外媒称,五角大楼将提供资金,以研发一种小型芯片。这种芯片不仅有着类似人类大脑的人工智能,而且它很小,可以安装到大量移动设备上。 英国网站2月8日发表题为《会像...

2043
来自专栏数据的力量

京东DNN Lab首席科学家:用深度学习搞定80%的客服工作

1293
来自专栏人工智能快报

OpenAI研究所制定四大研究目标

OpenAI是一家非营利人工智能研究公司,其使命是构建安全的人工智能,并尽可能广泛推广人工智能。OpenAI正在努力发展人工智能,并乐于与其他机构共享其方案及成...

26510
来自专栏新智元

AutoML将深度学习最难一环自动化,AGI技术基础已开始铺设

【新智元导读】谷歌在 I/O 大会上新发布的 AutoML 旨在自动化设计深度学习软件最难的部分之一——为神经网络选择正确的架构。包括 Facebook 的 A...

3835
来自专栏人工智能快报

英拟资助类人计算可行性研究

英国工程与物理科学研究理事会(EPSRC)宣布投资200万英镑资助6项类人计算可行性研究,项目将延续18个月,每个项目将获得高达30万英镑的资助。英国经济与社会...

2725
来自专栏人工智能头条

Yann LeCun高端私享会纪实:预测学习才是AI的未来

1503

扫码关注云+社区