打破“黑匣子”!MIT开发了透明的AI系统,推理思路与人相似

MIT林肯实验室智能和决策技术小组,研究开发了一个神经网络,可以执行类似人类推理思路的步骤,回答关于图像内容的问题。该模型被命名为透明设计网络(TbD-net),在解决问题时直观地呈现其思维过程,使人类分析师能够解释其决策过程。该模型比当今最好的视觉推理神经网络表现更好。

了解神经网络如何做出决策,是AI研究人员面临的一项长期挑战。神经网络是受人类大脑启发的AI系统,旨在复制人类学习的方式。它们由输入层、输出层,以及介于两者之间的隐藏层组成,将输入转换为正确的输出。

一些深度神经网络变得越来越复杂,即使构建它们的工程师也不清楚内部发生了什么,它们也因此被称为“黑匣子”。

MIT研究人员开发TbD-net的目的是使神经网络的内部工作透明化,这样人们就能解释AI产生的结果。TbD-net利用一种AI技术来解释人类语言问题,并将这些问题分解为子任务,然后利用多种AI技术来处理这些任务。

经过测试,TbD-net的成绩超过了目前性能最佳的视觉推理模型。研究人员使用一个由70,000张训练图片和700,000个问题组成的视觉问答数据集,以及15,000张图片和150,000个问题的测试和验证集,来评估TbD-net模型。TbD-net初始模型在数据集上的准确度高达98.7%,据研究人员称,这远远强于其他神经网络模型。

研究人员称,这个结果可以更高,因为他们的模型有一个优势——透明度。研究人员可以看到模型出现问题的地方并进行改进,最终测试的准确度为99.1%。

论文链接:

https://pan.baidu.com/s/1pSHXLCUZRExps_zEXyFE4w

参考:

http://news.mit.edu/2018/mit-lincoln-laboratory-ai-system-solves-problems-through-human-reasoning-0911

—完—

想知道AI加教育领域有哪些最新研究成果?

想要AI领域更多的干货?

想了解更多专家的“智能观”?

请前往:www.智能观.com。

转载智能观原创文章,请联系

智能观小艾(微信号:zng2017618)!

关于我们

我们关注AI+教育。致力于提供高附加值的知识,以帮助每一位老师和我们的读者不断学习并提高技能。

我们努力让发表的每一篇文章都具有最佳质量,以满足读者的需求。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180913A1OEI500?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注腾讯云开发者

领取腾讯云代金券