再见AI黑匣子:研究人员教会AI进行自我解释


新智元编译

来源:thenextweb

作者:艾霄葆

【新智元导读】AI决策过程的黑匣子问题一直是AI领域最大的担忧之一,但近期黑匣子决策问题似乎被破解。来自加州大学伯克利分校、阿姆斯特丹大学、Facebook AI Research团队的研究人员创建出一个AI自我解释模型,该模型可使AI在回答问题时指出问题对应的证据,在回答相关图像问题时,其能够为其决策提供自然语言理由并指出图像显示证据。

来自加州大学伯克利分校、阿姆斯特丹大学、Facebook AI Research团队的研究人员创建出一个AI自我解释模型,该模型可使AI在回答问题时指出问题对应的证据,在回答相关图像问题时,其能够为其决策提供自然语言理由并指出图像显示证据。

“黑匣子”变得透明,这是一件大事。

在许多环境中,深度模型既有效又可解释;先前可解释的模型是单峰模型,提供了基于图像的注意权重的可视化或基于文本的事后理由的生成。

这次的研究提出了一种多模式的解释方法,并且认为这两种模式提供了互补的说明性优势。

团队收集两个新的数据集来定义和评估这个任务,并提出一个新的模型,可以提供联合文本理性和可视化生成。我们的数据集定义了活动识别任务(ACT-X)和视觉问题解答任务(VQA-X)的分类决策的视觉和文本理由。

在数量上表明,使用文本解释进行培训不仅可以产生更好的文本理由模型,还可以更好地定位支持决策的证据。我们还定性地展示了视觉解释比文本解释更具洞察力的情况,反之亦然,支持我们的论点:多模式解释模型提供了超越单峰方法的显着优势。

VQA-X定性结果:对于每个图像,PJ-X模型提供了答案和理由,并指出了该理由的证据。

弄清楚为什么一个神经网络做出它所做的决定是人工智能领域最大的担忧之一。正如它所称的那样,黑盒问题实际上使我们不能相信AI系统。

像人类一样,它可以“指出”它用来回答问题的证据,并且通过文本可以描述它如何解释证据。它的开发旨在回答那些需要九岁小孩平均智力的问题。

这是人们第一次创建了一个可以用两种不同方式解释自己的系统:

我们的模型是第一个能够为决策提供自然语言理由并指向图像中的证据的人。

研究人员开发了AI来回答关于图像的简单语言查询。它可以回答关于给定场景中的对象和动作的问题。它通过描述它看到的内容并突出显示图像的相关部分来解释它的答案。

它并不总是让事情正确。在实验过程中,人工智能感到困惑,无法确定一个人是否在微笑,也无法分辨出一个人在使用吸尘器的人和一个正在使用吸尘器的人之间的区别。

但是,这是一个重点:当电脑出现问题时,我们需要知道原因。

为了达到任何可衡量的成熟度,AI的领域需要调试,错误检查和理解机器决策过程的方法。神经网络发展并成为我们数据分析的主要来源时尤其如此。

为人工智能展示其工作并以外行人员的角度解释自己,这是一个巨大的飞跃,可以避免每个人似乎都很担心的机器人启示。

论文地址:https://arxiv.org/pdf/1802.08129.pd

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-03-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

普通码农入门机器学习,必须掌握这些数据技能

王瀚宸 编译自 InfoWorld 作者 Ted Dunning MapR首席应用架构师 量子位 出品 | 公众号 QbitAI ? 其实,机器学习一直在解决着...

3045
来自专栏专知

【下载】 TensorFlow:实战Google深度学习框架

【导读】“深度学习”这个词在过去的一年之中已经轰炸了媒体、技术博客甚至到朋友圈。这也许正是你会读到本书的原因之一。数十年来,人工智能技术虽不断发展,但像深度学习...

53114
来自专栏镁客网

Facebook推出人工智能引擎DeepText,让机器更好的理解语言和内容

1544
来自专栏镁客网

为了「理解」什么是对,人工智能还必须「理解」什么是不对

1373
来自专栏BestSDK

“钢铁侠”马斯克又放新技能:发起OpenAI新算法,让机器人通过VR学习新技能

之前,我们报道了MIT的科学家用机器人“教育”其他机器人,这种方法简便快捷,无需编程,大大降低了训练门槛。现在,马斯克牵头投资的非盈利公司Ope...

2698
来自专栏AI科技大本营的专栏

YC 孵化器新兴技术系列(一):如何进入自然语言处理领域

【AI100 导读】本系列的每一篇文章都会为大家介绍一种新兴的技术,并且教大家如何入门相关的技术领域。本篇文章是为想进入 NLP 领域的人准备的。 我们很高兴能...

2675
来自专栏机器学习算法与Python学习

AI这么火,要不要追赶AI的热潮?

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 12月14日,吴恩达成立landin...

3355
来自专栏机器之心

Yoshua Bengio TED演讲谈人工智能的崛起:无监督学习是深度学习突破的关键

选自TEDx 机器之心编译 参与:李亚洲、吴攀 在 2016 年 9 月 24 日举办的 TEDxMontreal 2016 上,深度学习领域的著名学者 Yos...

2835
来自专栏Y大宽

3 教学设计之ADDIE模型

这个也是整理自培训的内容,题目是面向未来的教学设计,主要讲了ADDIE模型。 我在网上收集了些资料。

572
来自专栏AI科技评论

深度学习理论研究已进入瓶颈期?看看李飞飞们怎么说

AI圈推特红人,Keras框架的作者François Chollet又搞大新闻了!近日François Chollet在推特上发推称:“深度学习研究已经进入了瓶...

32611

扫码关注云+社区