学界 | MIT CSAIL最新研究:Network Dissection可全自动内窥神经网络活动过程

AI科技评论按:据外媒TechCrunch最新报道,MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)发明了一种可以全自动内窥神经网络活动的系统Network Dissection。相关的论文会在今年的CVPR(计算机视觉与模式识别大会)发表,AI科技评论届时也会对大会进行全程报道,敬请关注。

MIT计算机科学与人工智能实验室之前发明过一种内窥神经网络,用来揭示它们是如何做决策的。该方法最近又有了新改进,相比研究团队两年前提出的方案,这次升级为全自动版本的系统,效果可以和之前人工观察得到的相媲美。

通过研究全自动内窥神经网络做决策的过程可以帮助人们理解为什么神经网络能表现和人工观察一样的效果。目前深度学习技术围绕“系统是如何做到他们想要的结果”还有很多问题,比如,对于网络利用连续信号处理层对目标分类,文本翻译,或其他的一些功能,几乎没有办法深入了解网络的每一层是如何进行实际决策的。

MIT利用了医学神经网络的原理,通过每一个单独的节点对给定的一个输入图像的力度反馈报告,将反馈力度大的图片挑选出来再进行分析。这项分析之前是工作人员来做的,他们根据图像中的特殊视觉概念来归类。但是现在这项工作已经自动化了,分类也是机器完成的。

这项研究正在提供一些神经网络是如何运作的有趣见解,例如展示了训练一个神经网络对黑白图片填充颜色的过程,会发现它会集中大部分节点在识别图像纹理上。训练神经网络对视频中的物体识别,它会把很多节点集中在场景识别上。训练神经网络对场景识别则正好相反,它将很多节点集中在物体的身份证明上。

文中最后表明:因为目前还不能完全理解人类是如何思考,如何分类和识别信息,神经网络只是基于假设的人类思考模型提出来的。 MIT CSAIL的这项研究最终也可能会揭示神经科学的一些问题。相关论文将会发表在今年的CVPR,应该会引起人工智能研究界的极大兴趣。

论文地址:http://netdissect.csail.mit.edu/final-network-dissection.pdf

via TechCrunch;AI 科技评论编译

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-07-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

技术大牛带你走向机器学习“正道”:小朋友才迷信算法,大人们更重视工程实践

AI科技评论按:“算法”这两字在人工智能圈已然成为“高大上”的代名词,由于不少在校生和职场新人对它过度迷恋,多名 AI 资深人士均对这一现象表示担忧。李开复曾这...

3203
来自专栏人工智能快报

Hinton取得新进展,以更少数据识别图像

谷歌人工智能先驱Geoffrey Hinton公布了AI技术进展,可提高电脑正确识别图像的速度和较少的数据依赖。 Google公司公布了关于其人工智能先驱Geo...

2996
来自专栏机器之心

从背景介绍到未来挑战,一文综述移动和无线网络深度学习研究

选自arXiv 作者:Chaoyun Zhang等 机器之心编译 近来移动通信和 5G 网络等快速发展,它们的调控与配置因为充满了多样性和动态变化而面临非常多的...

3045
来自专栏奇点大数据

2018年度人工智能技术趋势

“人工智能”一词最初是在1956 年Dartmouth学会上提出的。人工智能(Artificial Intelligence),英文缩写为AI,是研究、开发用于...

892
来自专栏人工智能

每个人都应该知道的十个机器学习常识

当别人在高谈阔论机器学习时,你却插不上嘴,这是一种怎样的体验?不懂机器学习没有关系,但你一定要知道下面的十个机器学习基本常识。曾经在Endeca、谷歌和Link...

1875
来自专栏文智的专栏

【 文智背后的奥秘 】系列篇 :情感分类

情感分类是对带有感情色彩的主观性文本进行分析、推理的过程,即分析对说话人的态度,倾向正面,还是反面。它与传统的文本主题分类又不相同,传统主题分类是分析文本讨论的...

2.3K1
来自专栏marsggbo

通俗理解决策树中的熵&条件熵&信息增益

参考通俗理解决策树算法中的信息增益 说到决策树就要知道如下概念: 熵:表示一个随机变量的复杂性或者不确定性。 假如双十一我要剁手买一件衣服,但是我一直犹豫...

2087
来自专栏机器之心

机器学习中的数学,这是一份新鲜出炉的热门草稿

作者:Marc Peter Deisenroth、A Aldo Faisal、Cheng Soon Ong

1044
来自专栏专知

381页机器学习数学基础PDF下载

【导读】近期,由Marc Peter Deisenroth,A Aldo Faisal和Cheng Soon Ong撰写的《机器学习数学基础》“Mathemat...

3364
来自专栏应兆康的专栏

12. 小结:建立开发集和测试集

• 从分布中选择开发集和测试集 ,它需要反映你将来的数据情况,并且它的效果足够好,这可能与训练的数据不在同一分布。

29710

扫码关注云+社区