DARPA拟解开机器学习的黑匣子

美国《MIT技术评论》杂志发表了Will Knight的文章,名为:美国军方要求自动化机器能够解释自身机制。文章表示:最新的机器学习技术本质上是一个黑匣子。美国国防部高级研究计划局(DARPA)正在资助一些旨在打开机器学习黑匣子的工作。

情报人员和军事人员可能会严重依赖机器学习来解析大量数据,并用于控制不断增长的自主式系统武器库。但是,美国军方想确保这不会导致对任何算法的盲目信任。

美国国防部高级研究计划局是隶属于国防部的新技术研发部门。该局正在资助一些旨在促使人工智能做出自我解释的项目。这些方法五花八门,既包括增加提供解释功能的高级机器学习系统,也包括了开发出通过设计实现解释功能的新机器学习的方法。

“我们正在经历真实的人工智能爆炸。其主要原因是机器学习,尤其是深度学习。”该局项目经理说,他正在资助一项人工智能技术开发,旨在向推理过程添加解释。

深度学习和其他机器学习技术已经在硅谷掀起了巨浪,因为它们大幅提高了语音识别和图像分类,并被广泛应用于越来越多的领域,如执法和医学等。在这些领域,出错的后果可能很严重。但是,尽管深度学习很擅长从数据中发现模式,却无法了解其是如何得出结论的。学习过程在数学上非常复杂,通常没有办法将其翻译成人类能够理解的东西。

深度学习特别难以解释,而解释其他机器学习技术也颇具挑战性。国防部高级研究计划局的项目经理表示,“这些模型非常不透明,让人很难理解。如果不是人工智能专家的人,理解起来就更加困难。”

深度学习极为神秘,因为它复杂得令人难以置信。它主要受到了大脑神经元学习响应输入过程的启发。多层模拟神经元和突触都是被标记的数据,它们的行为会得到不断的调整,直到它们学会如何识别,比如照片中的猫。但是,该系统学习的模型是根据数百万个神经元的权重编码的,因此检查起来很有挑战性。深度学习网络识别出一只猫时,目前还不清楚系统的注意力是在图像中的胡须、耳朵、甚至是猫的毯子上。

通常情况下,机器学习模型是不是透明的,这并没有这么重要,但对于试图识别潜在目标的情报员来说,情况就不同了。“有一些关键的应用程序就需要这种解释。”国防部高级研究计划局的项目经理指出。

他补充说,军方正在开发无数的自主式系统,无疑将严重依赖深度学习等机器学习技术。自动驾驶汽车以及空中无人机在未来几年将会得到越来越多的使用,它们的能力也会越来越强。

解释的重要性不仅仅在于可以帮助做出正确决定,它还有助于防止出错。如果一个图像分类系统已经学会只针对猫的花纹进行分类,那么它就可能会被毛茸茸的地毯所迷惑。因此,提供解释可以帮助研究人员使系统更加可靠,有助于防止那些依赖这些系统的人犯错。

美国国防部高级研究计划局正在资助13个不同的研究小组,探索多种方法使人工智能变得更具可解释性。

其中一个资助团队来自于查尔斯河分析公司(Charles River Analytics)。该公司为包括美国军方在内的各种客户开发高科技工具。这个团队正在探索新的深度学习系统。这些系统包含一些解释,例如突出显示某些与分类最相关的图像区域。研究人员还在测试利用计算机接口使机器学习系统的运作更加明确,包括数据、可视化,甚至自然语言解释。

美国德州农工大学(Texas A&M University)夏虎(音译)教授领导的团队是另一个资助对象。他指出,这个问题在机器学习的其他应用领域,如医学、法律和教育领域,也很重要。缺少某种解释或推理的支持,“领域专家不会相信结果。”他说,“这是许多领域专家拒绝采用机器学习或深度学习的主要原因。”

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2017-04-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

吴恩达再次刷屏,推出深度学习课程deeplearning.ai

? 吴恩达离职百度后的动向一直受到各方关注。在他 3 月的一篇博客文章中,这位斯坦福大学教授宣布他将离开中国搜索引擎百度,这一举动给百度造成了超过 10 亿美...

2055
来自专栏机器之心

访谈 | 跳槽、行业前景、模型等创业者想问的,邓力这样说

机器之心原创 作者:邱陆陆 5 月 25 日晚,刚刚宣布加入 Citadel 的前微软人工智能首席科学家、IEEE Fellow 邓力参加了由中国科大百人会和阿...

3738
来自专栏新智元

【Nature重磅】中国造世界首台光量子计算机,两项重大突破超越经典计算机

【新智元导读】 5月3日,科技界迎来了一则重磅消息:世界上第一台超越早期经典计算机的光量子计算机诞生。这个“世界首台”是货真价实的“中国造”,属中国科学技术大学...

3367
来自专栏AI科技评论

CVPR 2016:这些黑科技在悄悄爆红

GAIR 今年夏天,雷锋网将在深圳举办一场盛况空前的“全球人工智能与机器人创新大会”(简称GAIR)。大会现场,谷歌,DeepMind,Uber,微软等巨头的人...

36112
来自专栏人工智能快报

斯坦福大学研制的人工突触有助开发类脑计算机

据斯坦福大学报道,尽管这些年来人类在计算机技术领域取得了不少进展,但是在再现大脑低能耗、简洁的信息处理过程这方面,研究人员仍步履维艰。现在,美国斯坦福大学(St...

2854
来自专栏AI科技评论

动态 | 来围观 UC 伯克利和CMU的「踩高跷走梅花桩」机器人

AI 科技评论按:就像人类和大多数陆地动物一样,步行机器人需要具备在崎岖地面行走的能力。它们会被用于灾害应对和搜救工作。然而,设计一个控制算法让机器人能够适应不...

772
来自专栏大数据文摘

AI测谎仪:通过微表情在法庭检测谎言,性能已优于人类

1202
来自专栏新智元

简单的智慧算法存在吗?一篇机器翻译的文章试图求解

【新智元导读】简单的智慧算法存在吗?物理学家兼畅销书作者、Y Combinator Research的Michael Nielsen就此写了一篇文章。网易有道C...

3876
来自专栏ATYUN订阅号

东京大学研究人员使用人工智能来预测放射性碎片的扩散

在像2011年福岛那样的核熔毁之后,风和水流将放射性碎片广泛传播,使这些范围内的暴露风险。现有的大气建模工具非常不可靠,因此灾难应对小组很难确定人群撤离的优先顺...

932
来自专栏人工智能头条

深度学习:生成艺术的新范式与版权的烦恼

951

扫码关注云+社区