全球顶尖人工智能科学家回答网友提问

2016年1月20日,全球最顶尖的人工智能科学家之一、加拿大蒙特利尔大学教授Yoshua Bengio在知名问答社区Quora针对网友的提问给出了自己的一些见解,涉及人工智能的多个方面,其中重要的包括:

网友:深度学习研究的发展方向是什么?

YoshuaBengio:我只能告诉你我的一些内心直觉,包括:

(1)无监督学习是非常重要的,而我们现在做的并不好。

(2)对深度学习的研究有可能继续扩展,从传统的模式识别工作到全面的人工智能任务,包括符号的操作、记忆、规划以及推理。这对于达到完全的自然语言理解及与自然人的对话(即通过图灵测试)是非常重要的。同样地,我们看到深度学习正在渗透到强化学习领域、控制领域和机器人领域,而且这只是开始。

(3)对于人工智能,可能仍然需要我们从人的大脑获得更多更好的理解,并使用机器学习理论对大脑的某些活动给出解释。

(4)最大似然法可能需要改进。对复杂的高维领域学习来说,这不一定是最好的目标(如在无监督学习和结构化输出的场景中)。

(5)对基于深度学习的人工智能的探索(不仅是消费产品)将大大受益于计算能力的大幅增长,尽管这种增长可能意味着需要专门的硬件。这是因为人工智能需要大量关于真实世界的知识(以及与这些知识相关的推理),这需要经过非常大的数据集训练的大型模型,而这些都需要比目前更多的计算能力。

网友:你如何评价OpenAI(一个由多家公司资助的非营利性人工智能研究所)?

Yoshua Bengio:我认为在人工智能领域里有另一个玩家是很好的事情,因为他可以借助自身对研究者市场和文化的影响来进一步推动工业实验室朝着长期目标发展,从而使基础研究不仅仅发生在学术界。我坚信,在未来几十年,如果我们不是太专注于短期目标,不是那么贪婪(总是想快速赚钱)的话,我们会在迈向人工智能的征程上走地更远。

网友:对人脑的理解对于深度学习有多重要?反过来呢?

Yoshua Bengio:像那些早期的神经网络研究者一样,我相信如果我们能够充分利用已经获得的关于大脑的知识,我们会有一个非常好的机会来学习一些对构建人工智能有用的东西。而且随着神经科学家收集到越来越多关于大脑的数据,这个结论将变得越来越正确。这种信念与反向观念相关联,即为了能够真正理解大脑让我们拥有智能的原因,我们需要用“机器学习”理论给出一个关于大脑活动的解释,也就是一个基于计算理论和数学理论的解释,来说明我们的大脑如何学习如此复杂的东西,并进行如此成功的信用分配。为了证实这种解释,我们应该能够运行一个基于相同基本原则的机器学习算法,在其中通过抽象去除对理解这些基本原则不必要的生物学元素(但也许在大脑中必须实现它们,或者必须利用我们与生俱来的天生的额外知识)。据我所知,关于大脑如何完成BP算法(反向传播算法)能够胜任的一些事情,我们还没有一个令人信服的机器学习解释,即发现内部神经元突触是如何改变的,从而使大脑作为一个整体来更好地理解世界,并产生更好的行为。这是这段时间我大脑中思考最多的问题之一。

网友:你如何看待强化学习?

Yoshua Bengio:如果我们只使用强化信号来引导训练,我觉得那只能算是锦上添花。更糟糕的是,对能够利用该信号进行训练的隐藏单元(或动作维数)的数量来说,如果使用一个全局性的但并非已知陈述的可微函数(通常情况是这样的)的增强信号,就会产生一个严重的缩放问题。动作的例子、随机样本或实验都可能至少以样本单元增长速度的线性速度增长,这是为了向许多单元提供与通过BP算法获得的质量相当的信用分配额度。如果行动空间很大,就会出现问题。

网友:深度学习有哪些开放性研究领域?

Yoshua Bengio:对这个问题,每位研究者都有自己的看法,我认为有以下几个:

(1)真正了不起的无监督学习包括:能够从大范围自然图片和声音中生成清晰图像和声音的生成性算法;在有标签的数据集不干净时能够发挥作用的半监督学习;学习从数据到空间独立变量的双向变换;把(迭代)推理反过来用于深度学习,以处理潜在变量的非因子化后验数据。

(2)为我们的模型引入更多的推理能力。

(3)大范围的资源语言理解与知识表示。

(4)真正长期依赖序列数据并拥有在多个时间尺度上发现一个层次性表示的学习者的模型。

(5)更好地理解(并解决)不时出现的优化问题(例如在无监督学习或具有长期依赖性的回归网络中)。

(6)能够将计划(能够执行what-if情景,或许是通过一个生成部件随机性地实现)纳入学习过程的训练模型(并能够做实际决策)。

(7)将强化学习的规模提升到很大的行为空间。

(8)最大似然法有一些缺点(例如存在训练和测试条件错误匹配的问题),需要我们解决(甚至可能完全抛弃最大似然法)。

(9)加强深度学习与生物学之间的联系。

(10)提升我们对深度学习问题的理论理解 (优化问题是一个方面,但表达与统计方面也需要更多的理论)。

(11)制造特殊的硬件,要能够帮助我们不仅可以通过离线训练模型制造用户产品,而且从更重要的科学观点来看,要能够训练更大的、可以容纳更多信息的模型,从而为构建人类水平的人工智能铺平道路。

(12)有许多应用正在探索中。我特别想看到的是健康领域的更多工作。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-04-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

从背景介绍到未来挑战,一文综述移动和无线网络深度学习研究

选自arXiv 作者:Chaoyun Zhang等 机器之心编译 近来移动通信和 5G 网络等快速发展,它们的调控与配置因为充满了多样性和动态变化而面临非常多的...

2975
来自专栏AI科技评论

谷歌大脑撰文解析 AutoML:神经网络如何自行设计神经架构? | Google I/O 2017

在 Google I/O 大会上,谷歌公布了最新的机器学习算法——AutoML,随即,Quoc Le 与 Barret Aoph 大神在 Google Rese...

32110
来自专栏DT数据侠

哪些苹果用户还会购买下一代产品?让机器学习带你精准定位

人工智能是当前社会的显学之一,但如果没有了机器学习和算法的支撑,人工智能就无从谈起。到底什么是机器学习?机器学习跟统计学又有何关系?在1月11日的数据侠线上实验...

750
来自专栏机器之心

学界 | 基于概率隐层模型的购物搭配推送:阿里巴巴提出新型用户偏好预测模型

3776
来自专栏数据科学与人工智能

【应用】信用评分:第6部分 - 分割和拒绝推断

多少个评分卡? 标准是什么? 最佳做法是什么? - 是我们试图在评分卡开发早期回答的常见问题,从识别和证明评分卡数量的过程开始 - 称为分割。

1730
来自专栏机器之心

业界 | 让机器人学会理解语义概念:谷歌提出深度视觉新技术

选自Google Research Blog 作者:Sergey Levine 机器之心编译 参与:黄小天、路雪 近日,谷歌官方博客上发表了一篇题为《Teach...

3547
来自专栏机器之心

观点 | 深度学习虽好,但也有深度的烦恼

选自SIAM 作者:Michael Elad 机器之心编译 参与:微胖、李泽南 本文作者 Michael Elad 是以色列理工学院的计算机科学教授,他也是学术...

2756
来自专栏专知

35页自然语言处理深度学习综述,带你纵览NLP知识全貌

【导读】随着深度学习技术的蓬勃发展,自然语言处理领域也是日新月异,本文为大家带来了最新的基于深度学习的自然语言处理综述,希望能够帮助大家了解NLP领域中的最新进...

842
来自专栏CDA数据分析师

避免五大误区丨数据科学家新手进阶之路

你为成为数据科学家做好了充分的准备。你参加Kaggle比赛,看了大量的Coursera课程。你感觉已经准备好了,但数据科学家的实际工作将与你的预期大不相同。

1240
来自专栏AI科技评论

UC Berkeley 讲座教授王强:Deep Learning 及 AlphaGo Zero(上)

AI 科技评论按:北京时间 10 月 19 日凌晨,DeepMind 在 Nature 上发布论文《Mastering the game of Go witho...

3567

扫码关注云+社区