专栏首页机器之心解读 | 替代图灵测试?让人工智能参加数学和科学考试

解读 | 替代图灵测试?让人工智能参加数学和科学考试

SyncedReview

作者:Shixin Gu

参与:Joshua Chou、Chain Zhang、熊猫

图灵测试在过去很长一段时间里都被认为是一种衡量人工智能的好方法,但随着人工智能技术的发展,我们发现这种方法也有一些缺陷或不足的地方。今年五月,印度理工学院的 Arindam Bhattacharya 发表了一篇题为《A Survey of Question Answering for Math and Science Problem》的论文,介绍了研究者在制造能通过标准化考试(standardized test)的机器上所取得的进展。机器之心技术分析师 Shixin Gu 对这篇论文进行了分析解读。

论文原文请访问:https://arxiv.org/abs/1705.04530

这篇论文提供了一个思考人工智能的新视角。在衡量人工智能上,图灵测试(Turing test)已经被证明是一种不足实用的方法。所以现在标准化的数学和科学考试(standardized math and science tests)已经被视为了一种可用于衡量人工智能的方法。该论文的目的是概述能通过标准化数学和科学考试的机器的制作方法。

1. 引言

该论文的作者首先指出,对于人类,我们可以通过我们给出的相关问题的答案来进行评价。但我们不能使用同样的标准来评价机器。由阿兰·图灵在 1950 年提出的图灵测试 [1] 的评价方式是看机器能否表现出与人类无法区分的对话行为。而在今天,Clark 和 Etzioni [2] 提出可使用数学和科学的标准化考试作为评价机器智能的适当方法。这篇论文给出了一个简要介绍,让我们可以了解可如何训练机器来解决数学和科学问题。

2. 问答和数学/科学领域

问答(QA)是一种需要机器为问题生成答案的任务,其中问题和答案都是自然语言。现代问答系统主要基于两种范式。

一种是基于文本的问答(text-based QA),其依赖于大量文本。首先,它会通过信息检索方法来检索包含了答案的文档,然后其会从文本中提取出候选答案并对这些答案进行排名。

另一种是基于知识的问答(knowledge based QA),这种方法会创建问题的语义表征(semantic representation),然后将其用于查询事实数据库(databases of facts)。

在科学和数学问题上的问答还面临着额外的独特难题,因为解决这些问题既需要对问题有很好的理解,还需要将问题的内在表征包含进来。此外,它往往需要执行符号计算 [2]。通过信息检索或基于知识的方法,这个问题无法得到轻松的解决。

3. 用于科学的问答

标准化考试中的科学问题主要包含三类:基本事实检索、推理和世界知识、图表。这个问答任务所用的数据集是 New York Regents Science Exams (NYSED) [3]。

3.1 数据集

该论文提供了一些测试和答案的示例。

  • 基本问题

1. 下面哪种物体是最优良的电导体?

(A)蜡笔(B)塑料勺子(C)橡皮擦(D)铁钉

2. 风或水所导致的土壤运动被称为:

(A)冷凝(B)蒸发(C)侵蚀(D)摩擦

这些问题可以通过基于信息检索的问答系统解决。

  • 简单推理

1. 下面哪个例子描述了生物在获取养分?

A)一只狗在掩埋骨头(B)一个女孩在吃苹果(C)一只昆虫在树叶上爬行(D)一个男孩在花园里种植番茄

通过基于已知事实的简单推理可以得到这个问题的答案。机器应当知道「吃」涉及到「获取养分」,而苹果包含养分。

  • 更复杂的世界知识

1. 一个骑自行车的学生观察到在平滑的道路上比在不平整的道路上骑得快,这是因为平滑的道路有

(A)更小的重力(B)更大的重力(C)更小的摩擦力(D)更大的摩擦力

对于这个问题,机器应该具备更深度的知识和更好的语言能力。比如,「骑自行车」意味着在移动,然后按路径推理。

  • 图表

1. 图 1 中哪个字母指示的植物结构可以吸收水和养分?

3.2 模型

人们采用了多种方法来解决这个问题。这篇论文展示了两种方法。

参考文献 [4] 提出了一种使用整数线性规划(ILP/ Integer Linear Programming)的方法。其中,问答问题基于半结构化的知识(structured knowledge)而被形式化所需的支持图(Support Graph),这最终会变成 ILP。这个系统如图 2 所示。

图 2:TableILP 会搜索将问题和答案连接起来的最佳的支持图(推理链)。这个例子的问题是:纽约州的哪个月白天持续时间最长?答案是:六月。

参考文献 [5] 使用了一个解算器集合(ensemble of solvers)来在不同的层解决问题。这些层如图 3 所示,该系统包含了信息检索解算器、点互信息解算器(Pointwise Mutual Information solver)、支持向量机解算器、RULE 解算器(其中包含人工编码的规则)和整数线性规划。这个系统被称为 ARISTO,并且实现了当前最佳。

图 3:Aristo 使用了五个解算器来回答多选问题,其中每一个都使用了不同类型的知识

4. 用于数学的问答

信息检索系统不能解决数学问题。为了解决数学问题(尤其是算术问题),系统需要理解该问题,并且构造一个等式来进行计算。几何问题由于依赖图表而有所困难。

4.1 数据集

与 3.1 部分类似,本论文提供了标准化考试中的样本并给出了相应的解答。其中几何使用了来自 SAT 的问题,其它问题则来自 NYSED。

  • 代数问题

1.Molly 拥有 Wafting Pie 公司。今天早上,她的员工使用了 816 个鸡蛋来烤南瓜饼。如果她的员工今天总共使用了 1339 个鸡蛋,那么他们下午使用了多少个鸡蛋?

2.Sara 的高中今年赢了 5 场篮球赛,输了 3 场。他们今年总共比赛了几场?

3.John 有 8 个橙色气球,但是丢掉了 2 个。John 现在有多少个橙色气球?

语言处理是必需的,而且后两者还需要世界建模(world modeling)。

  • 几何问题

在图 4 中,机器应该理解算术和图表推理(diagrammatic reasoning)。

图 4:如图所示,AB 与圆 O 相交于 D,AC 与圆 O 相交于 E,AE=4,AC=24,AB=16。求 AD。

4.2 模型

论文中给出了四种方法。一是简单的动词分类(verb categorization),旨在解决代数词问题。该模型如图 6 所示,我们可以看到该模型会提取出问题中的动词,然后基于动词类别来构建等式。

图 6:动词分类

另一个系统被称为 ALGES,使用了整数线性规划(ILP)来将词问题映射到一个等式树中,而且更加复杂。如图 5 所示。

图 5:用于词问题及其 Qsets 的学习过程的概览

第三个模型则试图解决几何图表问题。它是在参考文献 [6] 中提出的。它使用了三个步骤来将文本和几何图表对齐:

1)选取最大化像素覆盖(pixel coverage)的元素并识别图中的图元(primitive);

2)使用图元和文本元素之间的协议;

3)最大化元素的一致性(coherence)。

在图 7 中,对齐(alignment)是由系统实现的。

图 7:图表理解:识别图中的视觉元素,并将它们与提及的文本对齐。视觉元素和它们对应的文本提及按不同颜色编码。这幅图加了颜色最好看。

最后一个模型被用于解决几何图表问题,其是在参考文献 [7] 中提出的。其遵循两个步骤:1)使用了第三个模型和语言处理来将图表和问题转换成逻辑表达式;2)使用了可满足性解算器(satisfiability solver)来推导答案。这些步骤可见图 8.

图 8:我们用于求解几何问题的方法概述

5. 结论

当前最佳的方法还不能很好地解决标准化考试。未来将会有更多方法完成标准化的数学和科学问题。即使机器通过了这些测试,我们仍然不能说它是智能的(intelligent)。但是人工智能通过数学和科学标准化考试将会成为人工智能历史上的一个里程碑事件。

6. 参考文献

[1] Turing, Alan M.「Computing machinery and intelligence.」Mind 59.236 (1950): 433-460.

[2] Clark, Peter, and Oren Etzioni.「My Computer Is an Honor Student-but How Intelligent Is It? Standardized Tests as a Measure of AI.」AI Magazine 37.1 (2016): 5-12.

[3] NYSED. 2014. New York Regents Science Exams. http://www.nysedregents.org/.

[4] Koncel-Kedziorski, Rik, et al.「Parsing Algebraic Word Problems into Equations.」TACL 3 (2015): 585-597.

[5] Schoenick, Carissa, et al.「Moving Beyond the Turing Test with the Allen AI Science Challenge.」arXiv preprint arXiv:1604.04315 (2016).

[6] Seo, Min Joon, et al.「Diagram Understanding in Geometry Questions.」AAAI. 2014.

[7] Seo, Min Joon, et al.「Solving Geometry Problems: Combining Text and Diagram Interpretation.」EMNLP. 2015.

本文为机器之心原创,转载请联系本公众号获得授权。

本文分享自微信公众号 - 机器之心(almosthuman2014),作者:Shixin Gu

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-07-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • FAIR何恺明等人提出组归一化:替代批归一化,不受批量大小限制

    选自arXiv 作者:吴育昕、何恺明 机器之心编译 自 Facebook 在 2017 年 6 月发布 1 小时训练 ImageNet 论文以来,很多研究者都在...

    机器之心
  • 赠V100算力卡 | 百度首次公开PaddlePaddle全景图,11项模块新发布

    4 月 23 日,首届 WAVE SUMMIT 2019 深度学习开发者峰会在北京举办,现场超千位开发者与来自百度、英特尔、清华大学等的科学家,就框架与深度学习...

    机器之心
  • 携Science封面、NIPS最佳论文,CMU大神Noam博士毕业,论文已公开

    当地时间 9 月 21 日,FAIR 研究科学家 Noam Brown 在推特宣布其顺利完成了 CMU 博士论文答辩,并公开了长达 230 页的超硬核博士论文《...

    机器之心
  • 一文道尽软件架构及前端架构演进

    人人都在说软件架构,但人们并不能给出一个准确的定义,就像Martin Folwer在《Making Architecture Matter》上分享说的,Arch...

    童欧巴
  • selenium截取具体元素图片(python版)

    element = driver.find_element_by_id("xx")

    流柯
  • ikbc G87&104 双子座 使用说明书

    黒之染
  • 视频H5Video标签在微信里的坑和技巧(转)

    随着 4G 的普遍以及 WiFi 的广泛使用,手机上的网速已经足够稳定和高速,以视频为主的 HTML5 也越来越普遍了,相比帧动画,视频的表现更加丰富,前段时间...

    山河木马
  • Android webview转PDF的方法示例

    1.网上找了好多没有显示出来效果不错,后来看到调用手机打印预览,看了效果还不错,就打算使用系统打印服务预览下载

    砸漏
  • M4安装

    执行./configure时出现下面错误:  checking for GNU M4 that supports accurate traces... conf...

    似水的流年
  • 深入理解JavaScript系列(28):设计模式之工厂模式

    与创建型模式类似,工厂模式创建对象(视为工厂里的产品)时无需指定创建对象的具体类。

    用户4962466

扫码关注云+社区

领取腾讯云代金券