学界 | MIT CSAIL最新研究:Network Dissection可全自动内窥神经网络活动过程

AI科技评论按:据外媒TechCrunch最新报道,MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)发明了一种可以全自动内窥神经网络活动的系统Network Dissection。相关的论文会在今年的CVPR(计算机视觉与模式识别大会)发表,AI科技评论届时也会对大会进行全程报道,敬请关注。

MIT计算机科学与人工智能实验室之前发明过一种内窥神经网络,用来揭示它们是如何做决策的。该方法最近又有了新改进,相比研究团队两年前提出的方案,这次升级为全自动版本的系统,效果可以和之前人工观察得到的相媲美。

通过研究全自动内窥神经网络做决策的过程可以帮助人们理解为什么神经网络能表现和人工观察一样的效果。目前深度学习技术围绕“系统是如何做到他们想要的结果”还有很多问题,比如,对于网络利用连续信号处理层对目标分类,文本翻译,或其他的一些功能,几乎没有办法深入了解网络的每一层是如何进行实际决策的。

MIT利用了医学神经网络的原理,通过每一个单独的节点对给定的一个输入图像的力度反馈报告,将反馈力度大的图片挑选出来再进行分析。这项分析之前是工作人员来做的,他们根据图像中的特殊视觉概念来归类。但是现在这项工作已经自动化了,分类也是机器完成的。

这项研究正在提供一些神经网络是如何运作的有趣见解,例如展示了训练一个神经网络对黑白图片填充颜色的过程,会发现它会集中大部分节点在识别图像纹理上。训练神经网络对视频中的物体识别,它会把很多节点集中在场景识别上。训练神经网络对场景识别则正好相反,它将很多节点集中在物体的身份证明上。

文中最后表明:因为目前还不能完全理解人类是如何思考,如何分类和识别信息,神经网络只是基于假设的人类思考模型提出来的。 MIT CSAIL的这项研究最终也可能会揭示神经科学的一些问题。相关论文将会发表在今年的CVPR,应该会引起人工智能研究界的极大兴趣。

论文地址:http://netdissect.csail.mit.edu/final-network-dissection.pdf

via TechCrunch;AI 科技评论编译

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-07-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习算法全栈工程师

AI大行其道,你准备好了吗?—谨送给徘徊于转行AI的程序员

前言   近年来,随着 Google 的 AlphaGo 打败韩国围棋棋手李世乭之后,机器学习尤其是深度学习的热潮席卷了整个IT界。所有的互联网公司,尤其是 G...

3289
来自专栏计算机视觉战队

从零基础成为深度学习高手——Ⅰ

本文共9876字,阅读约需14分钟,有兴趣的朋友请耐心阅读,谢谢! 近期许良在公司内部做了一个关于人工智能/深度学习相关的主题分享讲座,为了准备这个演讲,花了1...

3258
来自专栏AI研习社

传统程序员要不要转行到AI?看完本文思路更清晰

前言 近年来,随着 Google 的 AlphaGo 打败韩国围棋棋手李世乭之后,机器学习尤其是深度学习的热潮席卷了整个 IT 界。所有的互联网公司,尤其是...

3164
来自专栏CSDN技术头条

神经系统和大数据,新降维算法让大脑变得简单

科学家现在已经可以检测和记录大脑中数百个神经元的活性,并不断进行技术开发承诺成倍增加这个数目。 然而,简单地记录神经元活动并不能让科学家自动理解大脑是如何工作的...

1865
来自专栏AI科技评论

干货 | AI 大行其道,你准备好了吗?—谨送给徘徊于是否转行 AI 的程序员

AI 科技评论按:本文作者章华燕, 金桥智慧科技算法工程师。本文原载于个人博客,AI 科技评论获得授权转载。 前言 近年来,随着 Google 的 AlphaG...

2463
来自专栏新智元

拥抱深度学习还是数学的优雅?神经网络对图像处理、数学和人类的影响

【新智元导读】本文作者 Michael Elad 是以色列理工学院计算机科学系教授,也是成像科学期刊 SIAM 的主编。他对当前图像领域使用深度学习的矛盾做了深...

54117
来自专栏AI科技大本营的专栏

CCAI 2017 | 病人是否有生命危险?机器学习来告诉你——专访南加州大学终身教授刘燕

CCAI大会前夕,CSDN专访了南加州大学计算机系终身教授、机器学习中心主任刘燕,她的主要研究项目是时间序列和时空序列数据的分析与学习,我们就机器学习在医疗中的...

3146
来自专栏数据科学与人工智能

【统计学习】为什么同一问题统计专家、机器学习专家解决方法差别那么大?

乍一看,机器学习和统计似乎是非常相似的,大家几乎不强调这两个学科之间的差异。机器学习和统计有着相同的目标 ——它们都关注数据建模,但他们的使用方法却因为它们文化...

2266
来自专栏新智元

DeepMind用深度学习模仿大脑推理,预测编码智能推进一大步!

【新智元导读】预测编码理论认为,大脑的感知、运动控制、记忆及其他高级功能,取决于真实经历和大脑对未来的预测之间的差异。DeepMind新推出的“生成查询网络”模...

641
来自专栏AI科技大本营的专栏

AI大行其道,你准备好了吗?——谨送给徘徊于转行AI的程序员

作者 | 章华燕(金桥智慧科技) 前言 近年来,随着 Google 的 AlphaGo 打败韩国围棋棋手李世乭之后,机器学习尤其是深度学习的热潮席卷了整个IT...

3135

扫描关注云+社区