麻省理工学院林肯实验室开发人工智能并展示其决策过程

人工智能(AI)解释是它像人类一样的决定?这并不像你想象的那么牵强。

在麻省理工学院林肯实验室情报和决策技术小组发表的一篇论文中(“ 设计的透明度:在视觉推理中弥合性能和可解释性之间的差距 ”)今年夏天在计算机视觉和模式识别会议(CVPR)上发表,研究人员描述了执行“人类”推理以回答有关世界的问题的系统 - 即图像的内容。

神经网络 - 被称为透明度设计网络(TbD-net) - 用热图描绘其视觉分析。在对照片进行解读时,它会以明亮,易于识别的颜色(用于研究人员的说法中的“注意力掩模”)突出显示感兴趣的项目,这些颜色代表模块的输出,或专门用于执行特定任务的小型神经网络。

麻省理工学院新闻报道称,“就像工人下线一样,每个模块都会在模块出现之前建立最终产生最终正确答案的模块。” “作为一个整体,TbD-net利用一种AI技术来解释人类语言问题并将这些句子分解为子任务,然后是多种计算机视觉AI技术来解释图像。”

那么它怎么能回答像“大金属立方体是什么颜色”这样的问题呢?首先,模块会隔离大对象。然后第二个模块将识别哪些对象是金属。第三个将查找符合先前标准的立方体,最后,第四个将确定对象的颜色。

在涉及85,000个训练图像和850,000个问题的测试中,TbD-net的准确度为98.7%,优于其他基于神经模块网络的方法。更重要的是,它实现了最先进的性能 - 99.1%的准确度 - 部分归功于它产生的热图插图,这使得研究人员可以非常精确地调整它以进行后续测试。

这篇论文的作者认为,对神经网络推理的这种洞察力可能对建立用户信任大有帮助。

最近几个月,许多公司,政府机构和独立研究人员试图解决人工智能中所谓的“黑匣子”问题 - 一些人工智能系统的不透明性 - 取得了不同程度的成功。

2017年,美国国防高级研究计划局推出了DARPA XAI,该计划旨在生产“玻璃盒”模型,在不牺牲性能的情况下易于理解。今年8月,IBM的科学家们提出了一份人工智能的“情况说明书”,它将提供有关模型漏洞,偏见,对抗性攻击易感性和其他特征的信息。微软,IBM,埃森哲和Facebook开发了自动化工具来检测和减轻AI算法中的偏差。

“人工智能系统具有改变我们生活和工作方式的巨大潜力...... 但这些[透明度]问题必须得到解决才能让人工智能服务得到信任,”IBM研究院人工智能基金会负责人,AI Science for Social Good计划的联合主席亚历山德拉·莫伊西洛维奇在八月份的一次采访中告诉VentureBeat。

  • 发表于:
  • 原文链接https://venturebeat.com/2018/09/11/mit-lincoln-laboratory-develops-ai-that-shows-its-decision-making-process/
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券