DARPA拟解开机器学习的黑匣子

美国《MIT技术评论》杂志发表了Will Knight的文章,名为:美国军方要求自动化机器能够解释自身机制。文章表示:最新的机器学习技术本质上是一个黑匣子。美国国防部高级研究计划局(DARPA)正在资助一些旨在打开机器学习黑匣子的工作。

情报人员和军事人员可能会严重依赖机器学习来解析大量数据,并用于控制不断增长的自主式系统武器库。但是,美国军方想确保这不会导致对任何算法的盲目信任。

美国国防部高级研究计划局是隶属于国防部的新技术研发部门。该局正在资助一些旨在促使人工智能做出自我解释的项目。这些方法五花八门,既包括增加提供解释功能的高级机器学习系统,也包括了开发出通过设计实现解释功能的新机器学习的方法。

“我们正在经历真实的人工智能爆炸。其主要原因是机器学习,尤其是深度学习。”该局项目经理说,他正在资助一项人工智能技术开发,旨在向推理过程添加解释。

深度学习和其他机器学习技术已经在硅谷掀起了巨浪,因为它们大幅提高了语音识别和图像分类,并被广泛应用于越来越多的领域,如执法和医学等。在这些领域,出错的后果可能很严重。但是,尽管深度学习很擅长从数据中发现模式,却无法了解其是如何得出结论的。学习过程在数学上非常复杂,通常没有办法将其翻译成人类能够理解的东西。

深度学习特别难以解释,而解释其他机器学习技术也颇具挑战性。国防部高级研究计划局的项目经理表示,“这些模型非常不透明,让人很难理解。如果不是人工智能专家的人,理解起来就更加困难。”

深度学习极为神秘,因为它复杂得令人难以置信。它主要受到了大脑神经元学习响应输入过程的启发。多层模拟神经元和突触都是被标记的数据,它们的行为会得到不断的调整,直到它们学会如何识别,比如照片中的猫。但是,该系统学习的模型是根据数百万个神经元的权重编码的,因此检查起来很有挑战性。深度学习网络识别出一只猫时,目前还不清楚系统的注意力是在图像中的胡须、耳朵、甚至是猫的毯子上。

通常情况下,机器学习模型是不是透明的,这并没有这么重要,但对于试图识别潜在目标的情报员来说,情况就不同了。“有一些关键的应用程序就需要这种解释。”国防部高级研究计划局的项目经理指出。

他补充说,军方正在开发无数的自主式系统,无疑将严重依赖深度学习等机器学习技术。自动驾驶汽车以及空中无人机在未来几年将会得到越来越多的使用,它们的能力也会越来越强。

解释的重要性不仅仅在于可以帮助做出正确决定,它还有助于防止出错。如果一个图像分类系统已经学会只针对猫的花纹进行分类,那么它就可能会被毛茸茸的地毯所迷惑。因此,提供解释可以帮助研究人员使系统更加可靠,有助于防止那些依赖这些系统的人犯错。

美国国防部高级研究计划局正在资助13个不同的研究小组,探索多种方法使人工智能变得更具可解释性。

其中一个资助团队来自于查尔斯河分析公司(Charles River Analytics)。该公司为包括美国军方在内的各种客户开发高科技工具。这个团队正在探索新的深度学习系统。这些系统包含一些解释,例如突出显示某些与分类最相关的图像区域。研究人员还在测试利用计算机接口使机器学习系统的运作更加明确,包括数据、可视化,甚至自然语言解释。

美国德州农工大学(Texas A&M University)夏虎(音译)教授领导的团队是另一个资助对象。他指出,这个问题在机器学习的其他应用领域,如医学、法律和教育领域,也很重要。缺少某种解释或推理的支持,“领域专家不会相信结果。”他说,“这是许多领域专家拒绝采用机器学习或深度学习的主要原因。”

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2017-04-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ATYUN订阅号

东京大学研究人员使用人工智能来预测放射性碎片的扩散

在像2011年福岛那样的核熔毁之后,风和水流将放射性碎片广泛传播,使这些范围内的暴露风险。现有的大气建模工具非常不可靠,因此灾难应对小组很难确定人群撤离的优先顺...

1002
来自专栏新智元

图灵奖得主、贝叶斯之父 Judea Pearl 谈深度学习局限,想造自由意志机器人

【新智元导读】人工智能领域最高荣誉图灵奖的获得者,贝叶斯之父 Judea Pearl 日前接受 Edge 的采访。他谈到自己发明贝叶斯理论的过程,谈到了当下火热...

4229
来自专栏AI科技评论

专访数据挖掘领头人韩家炜教授:不要迷信权威,做学问要秉承「三个真实」

由中国人工智能协会、深圳罗湖区人民政府主办的「CCAI 2018 中国人工智能大会」于 7 月 28-29 日在深圳召开。

1153
来自专栏华章科技

图灵奖得主、贝叶斯之父谈深度学习局限,想造自由意志机器人

编译来源:https://www.edge.org/conversation/judea_pearl-engines-of-evidence

832
来自专栏CDA数据分析师

吴恩达再次刷屏,推出深度学习课程deeplearning.ai

? 吴恩达离职百度后的动向一直受到各方关注。在他 3 月的一篇博客文章中,这位斯坦福大学教授宣布他将离开中国搜索引擎百度,这一举动给百度造成了超过 10 亿美...

2155
来自专栏新智元

【Nature重磅】中国造世界首台光量子计算机,两项重大突破超越经典计算机

【新智元导读】 5月3日,科技界迎来了一则重磅消息:世界上第一台超越早期经典计算机的光量子计算机诞生。这个“世界首台”是货真价实的“中国造”,属中国科学技术大学...

3437
来自专栏大数据文摘

脑洞 | AI之间有一场“搏击赛”,邪恶 AI 能否被战胜?

1863
来自专栏人工智能头条

深度学习:生成艺术的新范式与版权的烦恼

1031
来自专栏全栈数据化营销

详解RFM客户价值模型,送你20个企业战略和竞争分析模型

不会模型,做不了分析! 最近在做一个比较大型公司的案子,涉及到营销、销售、架构、财务等各方面的分析和研究,不得不说,在信息量很大、分析维度很多的时候,有准确的分...

44413
来自专栏AI科技大本营的专栏

开工了!三位大咖给你指路:未来 3~5 年内,哪个方向的机器学习人才最紧缺?

十一长假结束,收心归来,重新投入工作。如何能克服假期综合症呢?如何快速收心?今天营长就携三位大咖来为你打打鸡血,指引指引未来的路。他们将从自身的工作经历和学习经...

40312

扫码关注云+社区