【业界】Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

还记得击败世界围棋大师的阿尔法狗 AlphaGo 吗?

它来自谷歌 DeepMind 团队,现在这个人工智能实验室又推出了一项重磅研究——可微分神经计算机的神经网络模型(Differentiable Neural Computer,简称 DNC)。这种新型模型将神经网络与可读写的外部存储器结合,既能像神经网络那样通过试错和样本训练进行深度学习,又能像传统计算机一样处理数据。

深度学习作为一种神经网络人工智能算法,能够通过一些“深”层计算,对海量的数据进行更新学习。这种类似大脑结构的神经网络层由节点组成(也被称为神经元)。许多科技巨头如谷歌、Facebook、亚马逊和微软都一直在训练神经网络来学习如何更好地处理工作任务,包括识别狗的图像以及做出更好的翻译软件。这些 AI 功能已经让数百万人在使用谷歌翻译等在线服务中受益。

但是,神经网络面临着巨大的挑战:常规计算机可以处理复杂形式的数据,但是需要手动编程来执行这些任务。虽然人工神经网络可以像大脑一样进行学习,从数据中识别模式,但是它缺少存储器架构,无法对结构化数据进行符号处理。

DNC 简易模型,图源:FT

为了提高深度学习的能力,谷歌的 DeepMind 团队创造了这种新型机器学习算法“ 可微分神经计算机”DNC,它将“神经网络”计算系统与传统计算机存储器结合在一起。

神经网络是一个互联的系统,它模仿生物神经网络运行,比如大脑的工作模式。在最近取得的各项人工智能成就中,神经网络扮演了关键角色。例如,在数字助手,如 Google Voice、Siri 中增强语音识别能力。在之前的研究中,神经网络只能连接自有网络所包含的数据。而最近,DeepMind 团队宣布,在 DNC 的支持下,神经网络可以接入之前不相容的外部数据,比如以传统数字模式编码的文本。这也就是说,我们离会思考的计算机更近了一步。

从数学上讲,DNC 类似一个可微分的函数,这或许是研究人员称它为可微分的原因。而数字计算机不可微分,因此也无法做到像神经网络一样从数据中学习。DNC 可以成功地理解图形结构,如家谱或传输网络,它甚至可以根据一张家谱来判断一个人的家族关系。此外,DNC 还能在没有先验知识的情况下规划在伦敦地铁上的最佳路线,解决涉及用符号语言描述目标的移动拼图谜题。

美国HBO连续剧《西部世界》剧照

推理是灵长类动物才具备的能力,DeepMind 这种或许能够“唤醒”机器的人工智能算法与最近大火的神剧《西部世界》中的设想一致——也许有一天,我们真的能看到会自主推理的机器人,以及能思考的计算机。

DNC 包含了若干个模块,所有的这些模块都完全不是符号化的,彼此之间通过纯粹的模拟激活模型来交换信息流(streams),正如从生物大脑中记录的那样。

推理的一个关键前提,是记忆。在计算机中,记忆的角色由随机访问内存 RAM 承担。当计算机进行推理,也就是运行程序时,所有的信息都被捆绑在工作的内存中,并且结合的方式数不胜数。把人类的推理过程拿来与计算机程序相比,其实并不牵强。事实上,在现代可编程计算机(图灵机)和亚里士多德的三段论存在严肃的历史联系。

DNC 项目主管 Alex Graves 表示,“神经网络的记忆受到计算本身的约束,我们决定通过分离存储器的方式让它变得更强大,这样一来,不影响处理器就可以扩充规模。”

一些独立计算机科学家认为通用 DNC 应用范围广阔,例如,它可以用来生成视频注释,从文本中提取有意义的内容。甚至在未来,它还能够应用在包含问答、像真实世界一样的对话,这种需要一定的推理能力任务。

这个新项目被 Google 发表在《自然》杂志上。在文章里 Google 举了若干个应用实例,比如,集成后的深度学习技术能够自动发现两个地铁站之间最短的路线,它会自己进行“推理”,说出你想要到达的目的地。正确率高达 90% 以上。

英国《金融时报》援引斯坦福大学心智、大脑和计算中心主任 Jay McClelland 称,这项研究将成为人工智能领域“有趣且重要的里程碑”。

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2016-10-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏社区的朋友们

个性化资讯推荐算法 ( 下 )

头条为何能取得成功?很多人会说是头条的个性化推荐技术做得好,个人认为其实不尽然。本文罗列了相关的个性化推荐技术,特别是资讯推荐常用的算法,带大家从“内行”的角度...

1.9K0
来自专栏PPV课数据科学社区

基于客户行为事件的跨领域统一推荐模型探讨

跨领域深度学习模型一直是近几年推荐系统主要研究方向之一, 本文探讨一种个人客户画像构建的新思路, 并讨论对应的基于个人行为事件的跨领域统一推荐模型。 1、基于个...

36914
来自专栏机器学习算法工程师

就怕你迷路!力荐!论文资源获取和AI论文阅读指导

本文译自:https://towardsdatascience.com/getting-started-with-reading-deep-learning-r...

1563
来自专栏AI研习社

DeepMind 弹性权重巩固算法让 AI 拥有“记忆” ,将成机器高效学习的敲门砖

一直以来,计算机程序都是个“左耳进,右耳出”的“傻小子”,它们很快就会忘掉所做过的任务。DeepMind 决定改变传统的学习法则,让程序在学习新任务时也不忘掉旧...

3315
来自专栏新智元

Quora 精选:现代深度学习方法中,数据重要还是算法重要?

【新智元导读】你可能都认为数据更重要,但这个问题实际上非常复杂,不是简单的“是”或“不是”就能一言以概之。对于这个问题的理解,能够反映出对理论和实际应用问题把握...

4219
来自专栏机器之心

伯克利提出DeepMimic:使用强化学习练就18般武艺

选自BAIR Blog 作者:Xue Bin (Jason) Peng 机器之心编译 运动控制问题已经成为强化学习的标准基准,深度强化学习方法被证明适用于包括操...

3525
来自专栏AI科技大本营的专栏

量子计算+人工智能——这才是未来科技的最大热门!

编译 | AI科技大本营 参与 | shawn 编辑 | 明明 90年代初,当卫奇塔州立大学(Wichita State University)的物理学教授El...

4187
来自专栏AI科技评论

李飞飞:在物体识别之后,计算机视觉还要多久才能理解这个世界?

AI科技评论按:9 月 26 日,机器人领域的顶级学术会议 IROS 2017 进入第二日。上午,著名华人计算机视觉专家、斯坦福副教授李飞飞,在温哥华会议中心面...

3636
来自专栏AI科技大本营的专栏

别瞎搞!对自己定位不准,看再多机器学习资料也是白搭(附资源)

找资料也是门学问,别抓着机器学习就一拥而上。 作者 | Jason Brownlee 编译 | AI100(ID:rgznai100) 来看个小故事:机器学习火...

3228
来自专栏AI科技大本营的专栏

必读 | 六月份不容错过的十大重磅好文,机器学习和数据科学的小伙伴拿走不谢

作者 | Flavian Hautbois 翻译 | AI科技大本营(rgznai100) 参与 | JeyZhang,波波 上个月,我们发了很多文章。但是,机...

2806

扫码关注云+社区

领取腾讯云代金券