前沿 | 当 AI 掌握「读心术」:DeepMind AI 已经学会相互理解

选自Science

作者:Matthew Hutson

机器之心编译

参与:张倩、路

「心智理论」一直被认为是人工智能无法掌握的能力,然而在 DeepMind 发表的论文《Machine Theory of Mind》中,研究人员提出了一种新型神经网络 ToMnet,具备理解自己以及周围智能体心理状态的能力。该论文已被 ICML 2018 接收为 Oral 论文。近日,这一研究又引起了《Science》的注意。

有时候,我们会觉得 Siri 或 Alexa 等数字助理非常令人失望,因为它们根本不懂我们人类。它们需要懂点被心理学家称为「心智理论」(theory of mind)的东西,搞清楚别人的信念和意图。最近,计算机科学家开发出了一种新的 AI,这种 AI 可以探测到其他计算机的「想法」,并预测它们的行动,这是机器之间以及机器与人之间灵活协作的第一步。

加州大学伯克利分校的发展心理学家 Alison Gopnik 表示,显然,要探索一个充满各种想法的世界,「掌握心智理论非常重要。」人在大约 4 岁的时候会了解到,他人的信念可能与现实不符,然后根据这个人的信念推断其接下来的行动。当前的计算机可以区分「开心」、「生气」等面部表情,这是一种与「心智理论」相关的技能,但是它们对人类的情绪、动机知之甚少。

这一新项目的初衷是尝试让人理解计算机。AI 使用的许多算法并不是完全由程序员完成的,而是依赖于机器在解决问题的过程中不断「学习」。计算机生成的解决方案通常是黑箱,由于算法过于复杂,人类往往难以理解。因此,DeepMind 研究科学家 Neil Rabinowitz 和他的同事创建了一个名为「ToMnet」的心智理论 AI,并使其观察其他 AI,看看它能否了解其他 AI 智能体的工作原理。

ToMnet 由三个神经网络组成,每个网络包含一些小的计算单元和从经验中学到的连接,与人类大脑类似。第一个网络根据其他 AI 过去的行动学习它们的倾向。第二个网络理解其他 AI 的当前「信念」;第三个网络接收前两个网络的输出,并根据情况推测其他 AI 的后续行动。

研究中涉及的 AI 智能体是在虚拟房间中到处移动收集彩色箱子以获取得分的简单「角色」。ToMnet 从上方观察整个房间。一次测试中有三种「角色」:一种看不到周围环境,一种记不住最近的步伐,一种可以看到也可以记住。看不到的智能体可能会沿着墙走,「失忆」智能体会移动到离它最近的物体处,而第三种能够构建子目标,以特定顺序有策略地抓取物体,得到更多分。DeepMind 研究人员在本月于瑞典斯德哥尔摩举办的 ICML 大会上报告称:经过一番训练,ToMnet 不仅能够在几步之后识别「角色」的种类,还能够准确预测它们的未来行为。

最终测试证明,ToMnet 甚至可以理解持有错误信念的「角色」,这是训练它们掌握心智理论(人类和其他动物具备的心智理论)的关键阶段。在该测试中,一种「角色」被编程设定为近视,那么当计算机在游戏中途改变道路(超出上述「角色」的视力范围)时,ToMnet 可以准确预测到,近视的「角色」更可能坚持原来的路径,而视力好的「角色」则更倾向于调整路径,适应新的情况。

Gopnik 称,该研究以及 ICML 会议上证明 AI 可以根据它们对自己的了解预测其他 AI 智能体行为的另一研究,都是神经网络「惊人」自主学习能力的例证。但是这仍然无法使人工智能体达到人类儿童的同等水平,Gopnik 说道,AI 智能体很可能以接近完美的准确率完成错误信念任务,即使它们之前从未遇到过。

MIT 心理学家、计算机科学家 Josh Tenenbaum 也研究心智理论的计算模型。他认为 ToMnet 在推断信念方面比他团队研发出的系统更高效,后者基于更抽象的概率推论,而不是神经网络。但是 ToMnet 的理解能力与训练所用语境相关性更强,因此它在全新环境中预测行为的能力欠佳,而 Josh Tenenbaum 的系统甚至儿童在这方面做得更好。Josh 称,未来两种方法结合或许会给该领域带来「真正有趣的方向」。

Gopnik 注意到这种具备社交能力的计算机不仅将改善人机合作,还会影响到人机之间的相互「欺骗」。如果一台计算机能够理解错误信念,那它就可能知道如何诱导人类相信它。希望未来的扑克机器人能够掌握 bluff(使诈)的艺术。

论文:Machine Theory of Mind

论文链接:https://arxiv.org/abs/1802.07740

摘要:心智理论(ToM; Premack & Woodruff, 1978)广义上指个体有能力理解他人的心理状态,包括期望、信念和意图。我们提出对机器进行训练,使之也具备这项能力。我们设计了一种心智理论神经网络 ToMnet,它使用元学习通过观察智能体的行为而对它们进行建模。通过该过程,该网络得到一个对智能体行为具备强大先验知识的模型,同时能够利用少量行为观测对智能体特征和心理状态进行更丰富的预测。我们将 ToMnet 应用于在 gridworld 环境中采取行动的智能体,结果表明该网络学会对来自不同群体的智能体进行建模,包括随机、规则系统和深度强化学习智能体等,该网络通过了经典的 ToM 任务,如"Sally-Anne"测试,即意识到他人持有的错误信念。我们认为该系统(自动学习如何对出现在其世界中的其他智能体进行建模)是开发多智能体 AI 系统的重要步骤,可以帮助构建人机交互的中介技术,推进可解释性 AI 的发展。

原文链接:http://www.sciencemag.org/news/2018/07/computer-programs-can-learn-what-other-programs-are-thinking

原文发布于微信公众号 - 机器之心(almosthuman2014)

原文发表时间:2018-07-28

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能头条

资讯 | 讯飞百度阿里360深度学习大神论道DL与HPC

1323
来自专栏AI科技评论

动态 | 微软亚洲研究院CVPR圆桌:机器学习火成这样,如何让计算机视觉“独立”发展?

「微软亚洲研究院创研论坛——CVPR 2017 论文分享会」于上周顺利举行。由微软亚洲研究院主办,清华大学媒体与网络技术教育部-微软重点实验室承办,中国图象图形...

3387
来自专栏新智元

腾讯优图杰出科学家贾佳亚:视觉AI的新认识,揭秘“卸妆”算法

【新智元导读】新智元AI WORLD2017 世界人工智能大会上,腾讯优图实验室杰出科学家、计算机视觉专家贾佳亚教授从前端、后端的视觉AI说起,分享了腾讯优图在...

41211
来自专栏AI科技大本营的专栏

专访王威廉:NLP哪些研究方向更容易取得突破?

自然语言处理(NLP)是一门集语言学、计算机科学、人工智能于一体的科学,解决的是“让机器可以理解自然语言”——这一到目前为止都还只是人类独有的特权,因此被誉为人...

1933
来自专栏AI研习社

面试官如何判断面试者的机器学习水平?

面试官如何判断面试者的机器学习水平? 首先这个问题问的很广。做机器学习方向很多,有些公司更偏重于数据挖掘,而有些更倾向于深度学习。同理,相对应的岗位有些偏重理论...

38511
来自专栏新智元

【大师观】机器学习和人工智能:2016 重大进展和 2017 主要趋势

【新智元导读】“2016年机器学习及人工智能领域的最大亮点和 2017年的重要趋势是什么?”Kdnuggets 网站汇集了十几位专家的看法,AlphaGo 无疑...

3458
来自专栏AI科技评论

哈工大秦兵:机器智能中的文本情感计算 | CCF-GAIR 2018

AI 科技评论按:2018 全球人工智能与机器人峰会(CCF-GAIR)在深圳召开,峰会由中国计算机学会(CCF)主办,雷锋网、香港中文大学(深圳)承办,得到了...

1322
来自专栏新智元

18岁天才华裔少年用一个经典算法,推翻量子加速神话!

【新智元导读】一位年仅18岁的华裔少年提出了一种传统计算机AI算法,其运算速度可以与量子计算比肩,相对之前的传统算法实现了运算速度的指数级增长。这一发现不仅推翻...

822
来自专栏PPV课数据科学社区

4月14日对话吴恩达(Andrew Ng):超级大咖深度解析人工智能的发展现状与未来沙龙实录

2016年4月14日(周四)21:00 - 22:30 嘉宾: - 吴恩达(Andrew Ng):百度首席科学家,“百度大脑”、“谷歌大脑”负责人,斯坦福大学计...

3536
来自专栏人工智能头条

人工智能大牛的新年启示:未来要看无监督学习、自然语言处理

1566

扫码关注云+社区