DARPA拟解开机器学习的黑匣子

美国《MIT技术评论》杂志发表了Will Knight的文章,名为:美国军方要求自动化机器能够解释自身机制。文章表示:最新的机器学习技术本质上是一个黑匣子。美国国防部高级研究计划局(DARPA)正在资助一些旨在打开机器学习黑匣子的工作。

情报人员和军事人员可能会严重依赖机器学习来解析大量数据,并用于控制不断增长的自主式系统武器库。但是,美国军方想确保这不会导致对任何算法的盲目信任。

美国国防部高级研究计划局是隶属于国防部的新技术研发部门。该局正在资助一些旨在促使人工智能做出自我解释的项目。这些方法五花八门,既包括增加提供解释功能的高级机器学习系统,也包括了开发出通过设计实现解释功能的新机器学习的方法。

“我们正在经历真实的人工智能爆炸。其主要原因是机器学习,尤其是深度学习。”该局项目经理说,他正在资助一项人工智能技术开发,旨在向推理过程添加解释。

深度学习和其他机器学习技术已经在硅谷掀起了巨浪,因为它们大幅提高了语音识别和图像分类,并被广泛应用于越来越多的领域,如执法和医学等。在这些领域,出错的后果可能很严重。但是,尽管深度学习很擅长从数据中发现模式,却无法了解其是如何得出结论的。学习过程在数学上非常复杂,通常没有办法将其翻译成人类能够理解的东西。

深度学习特别难以解释,而解释其他机器学习技术也颇具挑战性。国防部高级研究计划局的项目经理表示,“这些模型非常不透明,让人很难理解。如果不是人工智能专家的人,理解起来就更加困难。”

深度学习极为神秘,因为它复杂得令人难以置信。它主要受到了大脑神经元学习响应输入过程的启发。多层模拟神经元和突触都是被标记的数据,它们的行为会得到不断的调整,直到它们学会如何识别,比如照片中的猫。但是,该系统学习的模型是根据数百万个神经元的权重编码的,因此检查起来很有挑战性。深度学习网络识别出一只猫时,目前还不清楚系统的注意力是在图像中的胡须、耳朵、甚至是猫的毯子上。

通常情况下,机器学习模型是不是透明的,这并没有这么重要,但对于试图识别潜在目标的情报员来说,情况就不同了。“有一些关键的应用程序就需要这种解释。”国防部高级研究计划局的项目经理指出。

他补充说,军方正在开发无数的自主式系统,无疑将严重依赖深度学习等机器学习技术。自动驾驶汽车以及空中无人机在未来几年将会得到越来越多的使用,它们的能力也会越来越强。

解释的重要性不仅仅在于可以帮助做出正确决定,它还有助于防止出错。如果一个图像分类系统已经学会只针对猫的花纹进行分类,那么它就可能会被毛茸茸的地毯所迷惑。因此,提供解释可以帮助研究人员使系统更加可靠,有助于防止那些依赖这些系统的人犯错。

美国国防部高级研究计划局正在资助13个不同的研究小组,探索多种方法使人工智能变得更具可解释性。

其中一个资助团队来自于查尔斯河分析公司(Charles River Analytics)。该公司为包括美国军方在内的各种客户开发高科技工具。这个团队正在探索新的深度学习系统。这些系统包含一些解释,例如突出显示某些与分类最相关的图像区域。研究人员还在测试利用计算机接口使机器学习系统的运作更加明确,包括数据、可视化,甚至自然语言解释。

美国德州农工大学(Texas A&M University)夏虎(音译)教授领导的团队是另一个资助对象。他指出,这个问题在机器学习的其他应用领域,如医学、法律和教育领域,也很重要。缺少某种解释或推理的支持,“领域专家不会相信结果。”他说,“这是许多领域专家拒绝采用机器学习或深度学习的主要原因。”

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2017-04-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据挖掘DT机器学习

LSTM模型预测效果惊人的好,深度学习做股票预测靠谱吗?

给你讲个段子!真实的! 我去一家量化交易公司实习,一次meeting中,我和老总还有一个资深大佬谈机器学习在股票和期货里面的应用。 我:LSTM在时间...

3958
来自专栏新智元

【重磅】Yann LeCun 带你一文看懂人工智能:原理、技术和未来

【新智元导读】Facebook 官方博客更新,FAIR 主管、深度学习代表人物 Yann LeCun 与同事撰文,深入浅出解释什么是人工智能、人工智能如何影响我...

4137
来自专栏新智元

成为未来几年最炙手可热的机器学习人才,基本功、秘密武器和弹药补给

【新智元导读】工业界未来几年需要什么样的机器学习人才?哪些热点值得追?作者认为,巩固基础、寻找自己擅长的领域和机器学习交叉点可以帮助你在未来的就业市场变得炙手可...

2934
来自专栏钱塘大数据

【推荐阅读】人工智能的原理,技术和未来

星期二早上8:00。你已经醒了,扫了一眼手机上的标题,回复了一个在线帖子,为你妈妈订购了一件假日毛衣,锁上屋子开车上班,路上听一些好听的曲子。 在这个过程中,...

3337
来自专栏钱塘大数据

【周末漫谈】人工智能的原理,技术和未来

? 星期二早上8:00。你已经醒了,扫了一眼手机上的标题,回复了一个在线帖子,为你妈妈订购了一件假日毛衣,锁上屋子开车上班,路上听一些好听的曲子。 在这个过...

3287
来自专栏新智元

【复现谷歌论文,成为共同作者】Facebook AI Lab负责人发起ICLR可重复性竞赛

【新智元导读】如今机器学习论文可复现性低成了研究界愈发关注的问题。为此,Facebook蒙特利尔AI Lab负责人联合全球5所大学,发起了机器学习可复现挑战赛,...

35815
来自专栏专知

【专知AI日报0929】一文了解最新AI业界动态

【导读】《专知AI日报》,每天精选AI业界发生的最新最具有影响力的动态事件,为你简文速读了解。 1. 【DeepMind发布《星际争霸 II》深度学习环境】上个...

2947
来自专栏AI科技评论

清华大学黄民烈博士:如何让聊天机器人理解人类情感?

AI 科技评论按:以微软小冰为代表的聊天机器人已经渗透到我们的日常生活中,虽然小冰会卖萌懂幽默,但距离真正的共情、理解人类的情绪还是有一定的距离。清华大学计算机...

3019
来自专栏数据派THU

谷歌大脑2017技术研究总结 | Jeff Dean执笔(附论文、 数据集)

本文经AI新媒体量子位(公众号ID:qbitai)授权转载,转载请联系出处 本文长度为8311字,建议阅读10分钟 Jeff Dean回顾了谷歌大脑团队过去一年...

2625
来自专栏大数据文摘

智能房屋+大数据,将改变房地产经济学

1927

扫描关注云+社区