抱歉,你查看的文章不存在

图深度学习(GraphDL),下一个人工智能算法热点?一文了解最新GDL相关文章

【导读】最近,DeepMind、Google大脑、MIT等各大研究机构相继发表了一系列的关于图深度学习的论文,包括关系性RNN、关系性深度强化学习、图卷积神经网络等, 这是否预示这是下一个AI算法热点。专知整理了最近图深度学习相关的热点论文,一文看晓。

1. Relational inductive biases, deep learning, and graph networks (图网络深度学习综述文章)

首先就是这篇由DeepMind、Google大脑、MIT、爱丁堡大学27个作者发表的37页关于关系归纳偏置、典型深度学习构件和图网络的综述文章,探讨了如何在深度学习架构中使用关系归纳偏置,有助于学习实体、关系及其组合规则,来有效解决传统“人工构造学习”和“端到端学习”的弊端,以增强学习的可解释性。

对此,一些知名的AI学者也对此做了点评。康纳尔大学数学博士/MIT博士后Seth Stafford说图神经网络(Graph NNs) 可能解决之前Judea Pearl提出的人工智能因果推断问题,贝叶斯网络之父Judea Pearl:要建立真正的人工智能,少不了因果推理

论文地址:https://arxiv.org/abs/1806.01261

2. Relational Deep Reinforcement Learning(关系性深度强化学习)

近日,DeepMind 提出了一种「关系性深度强化学习」方法,并在星际争霸 2 中进行了测试,取得了最优水平。

论文链接:https://arxiv.org/abs/1806.01830

摘要:在本文中,我们介绍了一种深度强化学习方法,它可以通过结构化感知和关系推理提高常规方法的效率、泛化能力和可解释性。该方法使用自注意力来迭代地推理场景中实体之间的关系并指导 model-free 策略。实验结果表明,在一项名为「方块世界」的导航、规划新任务中,智能体找到了可解释的解决方案,并且在样本复杂性、泛化至比训练期间更复杂场景的能力方面提高了基线水平。在星际争霸 II 学习环境中,智能体在六个小游戏中达到了当前最优水平——在四个游戏中的表现超越了大师级人类玩家。通过考虑架构化归纳偏置,我们的研究为解决深度强化学习中的重要、棘手的问题开辟了新的方向。

更多解读,请看hardmaru的论文笔记:

https://yobibyte.github.io/files/paper_notes/rdrl.pdf

3. Relational recurrent neural networks(关系性循环神经网络)

DeepMind和伦敦大学学院的这篇论文提出关系推理模块RMC,能够在序列信息中执行关系推理,在WikiText-103, Project Gutenberg 和 GigaWord 数据集上达到了当前最佳性能。

摘要:基于记忆的神经网络通过利用长时间记忆信息的能力来建模时序数据。然而,目前还不清楚它们是否有能力利用它们记得的信息进行复杂的关系推理。在这篇论文中,DeepMind和伦敦大学学院的研究人员首先证实一种直觉想法,即标准的记忆架构在一些涉及关系推理的任务上很困难。然后,研究者通过使用一个新的记忆模块——Relational Memory Core(RMC)——来改进这种缺陷,该模块采用multi-head dot product attention来允许记忆交互。最后,研究者在一系列任务上测试RMC,这些任务可以从跨序列信息的更强大的关系推理中获益,并且在RL领域(例如Mini PacMan)、程序评估和语言建模中显示出巨大的受益,在WikiText-103、Project Gutenberg和GigaWord数据集上获得state-of-the-art的结果。

论文地址:https://arxiv.org/abs/1806.01822

4. Neural Relational Inference for Interacting Systems

这篇由阿姆斯特丹大学的Thomas Kipf提出发表的ICML2018论文,神经关系推理(NRI)模型——交互系统神经网络关系推理,潜在交互图推断。

Thomas Kipf准备加入 Google DeepMind实习,在图深度学习方面有着深厚研究,之前他有一份结构化深度学习的教程,非常值得一看,教程地址:

http://tkipf.github.io/misc/SlidesCambridge.pdf

Graph Convolutional Neural Networks教程:https://tkipf.github.io/graph-convolutional-networks/

5. Videos as Space-Time Region Graphs

这篇由卡耐基梅隆大学(CMU)的王小龙发表的,把video表达成为一个roi proposal组成的graph,在上面定义local和nonlocal edges,做graph convolution。

论文地址:https://arxiv.org/abs/1806.01810

-END-

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-06-10

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

编辑于

专知

880 篇文章344 人订阅

相关文章

来自专栏大数据文摘

让你上瘾的网易云音乐推荐算法,用Word2vec就可以实现

15440
来自专栏悦思悦读

让AI自动翻译“媲美人类”的“对偶学习”是怎么回事?

突破 性进展 ---- 2018年3月14日,微软研究院宣布,他们研发的中英机器翻译系统在newstest2017测试集上,达到了可与人类翻译媲美的水平。 ne...

52790
来自专栏新智元

8张图看苹果公开的第一篇 AI 论文

【新智元导读】 苹果终于发表了AI方面的第一篇论文。12月22日,苹果题为《Learning from Simulated and Unsupervised I...

44660
来自专栏数据派THU

【独家】深扒Yann LeCun清华演讲中提到的深度学习与人工智能技术(PPT+视频)

本文长度为3000字,建议阅读10分钟 本文为Yann LeCun在清华大学做的关于深度学习与人工智能技术的演讲梗概。 姚期智先生引言: 非常荣幸来给大家介...

23970
来自专栏新智元

自然语言处理终极方向:深度学习用于自然语言处理的5大优势

【新智元导读】在自然语言处理领域,深度学习的承诺是:给新模型带来更好的性能,这些新模型可能需要更多数据,但不再需要那么多的语言学专业知识。 在自然语言处理领域,...

39460
来自专栏新智元

DeepMind高赞课程:24小时看完深度强化学习最新进展(视频)

今天,DeepMind 官推贴出一则告示,将 DeepMind 研究人员今年在 UCL 教授的深度强化学习课程“Advanced Deep Learning a...

11920
来自专栏AI科技评论

干货 | 2 分钟论文:神经网络开始自我学习,说是用了架构搜索新算法

来源 / Two Minute Papers 翻译 / 严谨文 校对 / 凡江 整理 / 雷锋字幕组 本期论文:结合分层表示的高级架构搜索 Hierarchic...

32770
来自专栏AI科技评论

Uber 论文5连发宣告神经演化新时代,深度强化学习训练胜过 SGD 和策略梯度

AI 科技评论按:一直低调的 Uber AI 研究院近日连发 5 篇论文,介绍了他们在基因算法(genetic algorithm)、突变方法(mutation...

38360
来自专栏CreateAMind

深度学习下一步如何发展?

来源:https://www.zhihu.com/question/47602063/answer/150845355

13110
来自专栏机器之心

学界 | 复现深度强化学习结果所面临的挑战与建议

选自arXiv 机器之心编译 参与:蒋思源、路雪 本论文对强化学习顶尖试验结果的复现性进行了详细的探讨,并讨论了超参数和随机种子等变量对强化学习模型复现性的重要...

30280

扫码关注云+社区

领取腾讯云代金券