强化学习之父Sutton访谈:创造AI,就是创造一种新的人类

编译:Cecilia 弗格森

【新智元导读】在Machine Learning and the Market for Intelligence 2017大会上,“强化学习之父”Richard S. Sutton与美国企业家、风险投资人士Steve Jurvetson进行了关于“为何目标对于智能至关重要”的对谈。Sutton表示,创造人工智能就是在创造一种新的人类。我们应对此感到欢欣鼓舞。

在Machine Learning and the Market for Intelligence 2017大会上,艾伯塔大学计算机科学教授Richard S. Sutton与美国企业家、风险投资人士Steve Jurvetson进行了关于“为何目标对于智能至关重要”的对谈。

Richard S. Sutton是艾伯塔大学计算科学系的教授兼iCORE主席。在2003年加入艾伯塔大学之前,他曾在美国AT&T公司和GTE实验室以及马萨诸塞大学工作。他于1984年获得马萨诸塞大学计算机科学博士学位,并于1978年获得斯坦福大学心理学学士学位。2016年他当选为加拿大皇家学会会员。在艾伯塔大学,Sutton领导了强化学习和人工智能实验室,是艾伯塔机器情报研究所的首席研究员。他的研究兴趣集中在决策者与环境相互作用所面临的学习问题上,他认为这是人工智能的核心。他还对动物学习心理学,连接网络以及不断改进世界的表征和模型的系统感兴趣。Richard Sutton 被认为是强化学习之父。今年6月,Demis Hassabis宣布Richard Sutton将联合领导一个位于加拿大的DeepMind办公室,同时在艾伯塔大学保留他的教授职位。

Q: AI以人类为中心?或是一个完全不同的物种(对人类生存具有攻击性和毁灭性)?(human-centric or alien AI)

A: 我想提出一种观点,AI比我们想的更加以人类为中心。通常的观点都是认为AI与人类相对立,机器会淘汰人类。但这仅是一家之言,因此我提出另一种观点来平衡上述观点。先从“人工智能”这个名字说起。这个名字暗示着这是一种和人类智能不同的智能,是人造的智能。但首先我们要定义这是一种与人类相似的智能。所以从定义来看,AI是以人类为中心的。因此,也许我们不该把它叫做“人工智能”,我们应该直接叫它“智能”。现在人们都把AI看作是一种工程上的存在,不是一种类人的存在。但我认为,在当今很多领域,AI都是以人类为中心的。比如机器翻译就是关于人的沟通。因此,AI实际上是在增强 (enhancing) 人类,这也是AI具有重要商业意义的原因。AI不是在完虐人类,而是在增强人类。

Q: 这听起来很像是人类的感知,视觉、触觉、听觉乃至嗅觉都已经通过模拟的方式被使用了。这意味,我们可以了解经过刻意训练的输入输出。但我们真的了解内在原理吗?

A: 这同样涉及到人类。人类也有神经网络,用来形成反射、反应、直觉等。我们不了解人类是如何做到这些的,但我们就是相信。人们为什么相信司机、飞机驾驶员?为什么相信那些做重要商业决策的人?这个道理同样适用于机器。从宇宙范围来看,人类就是一种地球上能够发明工具的动物。历史上,人类通过发明工具、创造技术来增强自身。比如,铅笔、眼镜这些都是异常强大的工具。而且语言本身就是最重要的工具。我们用眼镜增强自己。我们通过语言来更好地交流合作。所以,人类通过创造工具来过得更好。这和AI没什么差别。无法将人类与技术割裂开来。

Q: 你是否相信,有一天自主代理机器人情感系统将成为通往通用人工智能的一步?

A: 我认为预测是一个很微妙复杂的事情。作为普通人,预测能使人作出更好的决策。但AI超越了这一点。AI将决策、目标和预测整合在一起。就像养育孩子一样,孩子是自主的,他们的目标并不在家长的掌控之下。我的专长是建立一个类似的情感系统,有绝对的自主权和决策权。

Q:你提到了好几次“目标”。看起来这是一个关键因素。你认为这是一个通向更高智力水平的路径吗?

A: 是的。我们要有更多、更抽象的目标。但不能光有目标,而没有实现目标的系统。

“目标”是一个简单的词,但你很可能会被误导。处理方法是去找一些更长的词组,例如“寻找目标”、“目标性”等。“目标”对于智能来说是至关重要的。假设有一个非常聪明的存在能够进行预测,它有一个想达成的目标。它就能根据目标采取行动。

另外,我还想谈一下人们对AI的担忧。有很多报道都将AI和人类对立起来,认为我们终将被淘汰。这种想法是错误的。在我看来,AI将增强人类,它将淘汰的是人类的“旧我”(former selves)。但我承认的确存在这种将AI与人类对立起来的趋势。我认为这都是“人工智能”这个名字惹的祸。这让AI听起来很像外星人。

我想说的是,我们正在设计创造一种全新的人类。我们将要创造一种新的存在,可能和人类的肤色、宗教略有不同。人类对此感到恐惧,这是正常的。人们总是对与自己不同的事物心生恐惧。Alpha Go是一个很好的例子。在西方,很多人认为它是与人类相对的机器。但在围棋社区里,有人认为它是一个神奇的机器,能够很好地去理解围棋,与人们一道加入对于围棋这项优雅游戏的无限探索之中。因此,我认为我们需要学会来欢迎AI这种不同类型的“人”。它具有如此多的多样性,我们为何不欢呼庆祝?

Q:我们想听听您评价AlphaGo Zero。问题是,扔掉人类的训练数据集似乎是创造更好的产品的一个方式,这如何适用于这种框架?

A:我们需要可扩展的方法。现在没有人这么做,这让我很吃惊,没有人展示计算机计算能力的指数级增长。你知道,现在这有一点mundane,但是这是一个复杂的效果,我们很难去意识到,我们需要可以扩展的方法和强大的计算力。我的意思是不仅要扩展问题的大小,还有随着计算力一起扩展,你的计算能力越强,你的系统效果就越好。所以,如果你是从人类的数据库中进行学习,那么很快,训练数据集很快就会成为你的瓶颈。

Q:早期在计算机国际象棋上的研究发现,最高段的棋手+计算机的组合,并没有直接使计算机能力更强?最新的AlphaGo Zero,如果我没有理解错,也是没有进入人类训练这一循环,只需要与其他的计算机进行对抗学习。从哲学上说,这跟您刚才所提到的以人类为中心(huaman centric approach)似乎是完全相反的?

A: 其实不是的。作为人类,我们并不只是在学校才会学习。我们从很小的时候就开始学习,甚至在还没开始说话前,我们就开始学习。我们通过试错进行学习。

接下来我要谈一谈强化学习,这是我所擅长的专业领域,也是我最喜欢的一种“学习”。强化学习就是在试错中进行学习,这种试错中使用的是“自学习”的方法,你需要在很多很多的对局中进行尝试。所以,这并不是从人身上进行学习,而是以人类学习的方式进行学习。这和人类很像,就是从不断的尝试中进行学习。

确实,在游戏的对弈中,你可以进行无数次的尝试,这一方法(AlphaGo Zero)确实利用了这一点。但是,试错这一想法本身并不要求有模拟。

我还要补充一点,博弈是很特殊的,因为我们知道游戏的规则,我们可以分解它让后知道其运行的规则是什么。我们知道桌上的花瓶可能会掉到地上,因为我们知道物理理论,知道物体移动的方式,所以我们需要制定计划。

正如AlphaGo要用到现实世界,你需要用现实世界的规则来替代围棋的规则,比如,物理定律是什么、很重要的是,物理定律很多都是直觉性的,比如,我打了我朋友一拳,他可能会还回来。这可能不是物理定理,比如如果我尖叫,那么我的保镖可能会过来提供帮助。

所以,我们需要了解世界的运行方式,我们需要制定计划。在象棋、围棋和扑克中,我们可能不能计划得那么好。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2017-11-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

【评论】高冷的苹果,能在人工智能上有所作为吗?

【新智元导读】苹果最近邀请科技记者Steven Levy到总部走了一圈,希望向外界介绍其机器学习技术,一反过去低调的姿态。其实以机器学习为代表的人工智能技术在苹...

2733
来自专栏前沿技墅

颜值女数据科学家妙解年薪10w刀北美热门职业

5683
来自专栏钱塘大数据

吴军:数学为人生之题解出漂亮的答案

如果用当下比较流行的说法来概括吴军的身份,他便是会摄影、会写作的计算机科学家中最爱发微博的投资人——几乎很难用一句话涵盖“吴军博士”(吴军的微博昵称)会做什么、...

1215
来自专栏腾讯技术工程官方号的专栏

科技文背后的脑白金——FPGA团队专访

前言 在本年度的科技文投稿中,小编发现一个团队作战投稿的文章《给AI换个大动力小心脏》,作者署名为FPGA团队。该文章一经推出在短短一天内就突破了科技文以往的阅...

2208
来自专栏大数据挖掘DT机器学习

刘德寰:不关注人性的大数据已成大忽悠

2014年夏季腾讯思享会“中国说”在北京举办。本次思享会的两个主题演讲“大数据开启时代转型”和“基因技术把人类带向何方”,分别邀请了北大传播学系教授刘德寰、华大...

4455
来自专栏人工智能头条

专访阿里研究员袁全:从 AI 玩《星际争霸》谈认知智能的现状与趋势

1173
来自专栏数据猿

数据猿探访最“Cool”大数据公司—— 百分点:让数据变得有想象力

<数据猿导读> 百分点作为Gartner近期发布的 “Gartner 2016 Cool Vendors in China”报告中唯一当选的大数据技术与应用服务...

3019
来自专栏量子位

调参的手艺也该失传了:看各路AI专家怎样教AI设计AI

来源 | MIT科技评论 编译 | 量子位 李林 随着人工智能领域的进步,有些人开始担心机器会从人类手中抢走卡车司机等类型的工作。现在,顶尖的科研人员发现,他...

2336
来自专栏人工智能头条

大数据的机遇与挑战:清华、复旦、中科院、春雨移动及考拉征信专家的观点

1544
来自专栏java达人

人工智能全局概览:通用智能的当前困境和未来可能

来源:机器之心 作者:Mike Loukides、Ben Lorica 链接:http://www.jiqizhixin.com/article/1336(点...

1817

扫码关注云+社区

领取腾讯云代金券