学界 | MIT CSAIL最新研究:Network Dissection可全自动内窥神经网络活动过程

AI科技评论按:据外媒TechCrunch最新报道,MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)发明了一种可以全自动内窥神经网络活动的系统Network Dissection。相关的论文会在今年的CVPR(计算机视觉与模式识别大会)发表,AI科技评论届时也会对大会进行全程报道,敬请关注。

MIT计算机科学与人工智能实验室之前发明过一种内窥神经网络,用来揭示它们是如何做决策的。该方法最近又有了新改进,相比研究团队两年前提出的方案,这次升级为全自动版本的系统,效果可以和之前人工观察得到的相媲美。

通过研究全自动内窥神经网络做决策的过程可以帮助人们理解为什么神经网络能表现和人工观察一样的效果。目前深度学习技术围绕“系统是如何做到他们想要的结果”还有很多问题,比如,对于网络利用连续信号处理层对目标分类,文本翻译,或其他的一些功能,几乎没有办法深入了解网络的每一层是如何进行实际决策的。

MIT利用了医学神经网络的原理,通过每一个单独的节点对给定的一个输入图像的力度反馈报告,将反馈力度大的图片挑选出来再进行分析。这项分析之前是工作人员来做的,他们根据图像中的特殊视觉概念来归类。但是现在这项工作已经自动化了,分类也是机器完成的。

这项研究正在提供一些神经网络是如何运作的有趣见解,例如展示了训练一个神经网络对黑白图片填充颜色的过程,会发现它会集中大部分节点在识别图像纹理上。训练神经网络对视频中的物体识别,它会把很多节点集中在场景识别上。训练神经网络对场景识别则正好相反,它将很多节点集中在物体的身份证明上。

文中最后表明:因为目前还不能完全理解人类是如何思考,如何分类和识别信息,神经网络只是基于假设的人类思考模型提出来的。 MIT CSAIL的这项研究最终也可能会揭示神经科学的一些问题。相关论文将会发表在今年的CVPR,应该会引起人工智能研究界的极大兴趣。

论文地址:http://netdissect.csail.mit.edu/final-network-dissection.pdf

via TechCrunch;AI 科技评论编译

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-07-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

专栏|深度学习在人脸识别中的应用 ——优图祖母模型的“进化”

说到人工智能(Artificial Intelligence, AI)人们总是很容易和全知、全能这样的词联系起来。大量关于AI的科幻电影更给人工智能蒙上一层神秘...

3724
来自专栏机器学习算法与Python学习

一篇文章讲清楚人工智能、机器学习和深度学习的区别与联系

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 人工智能的浪潮正在席卷全球,诸多词汇...

4307
来自专栏人工智能

每个人都应该知道的十个机器学习常识

当别人在高谈阔论机器学习时,你却插不上嘴,这是一种怎样的体验?不懂机器学习没有关系,但你一定要知道下面的十个机器学习基本常识。曾经在Endeca、谷歌和Link...

1765
来自专栏腾讯开源的专栏

腾讯将添 AI 开源项目! 腾讯 AI Lab 开源业内最大规模多标签图像数据集

2018年9月10日,深圳 - 今日,腾讯AI Lab宣布将于9月底开源“Tencent ML-Images”项目,该项目由多标签图像数据集ML-Images...

792
来自专栏互联网数据官iCDO

评估归因模型供应商的6个问题

译者:互联网数据官志愿者 王全鹏 前言:如何选择正确的归因模型来进行营销效果评估?如何评估你的归因模型供应商?专栏作家 Alison Lohse 给出了6个问题...

33414
来自专栏AI科技评论

ICML 2016精选论文 | AI科技评论周刊

上一周,ICML 2016在纽约画上了完美的句号。这个会议(International Conference on Machine Learning)已经逐渐发...

3116
来自专栏企鹅号快讯

人工智能、机器学习、深度学习、数据挖掘、数据分析都是什么意思

在开始学习python大数据之前,我们先要搞清楚人工智能、机器学习、深度学习、数据挖掘、数据分析都是什么意思。 会用30多堂课的内容带大家学习python、数据...

3309
来自专栏数据魔术师

周志华最新演讲:深度学习为什么深?有多好的人才,才可能有多好的人工智能

2017
来自专栏新智元

【可解释AI重大突破】DeepMind 构建心智理论神经网络让机器互相理解

DeepMind近日发表的最新研究提出“机器心智理论”(Machine Theory of Mind),启发自心理学中的“心智理论”,研究者构建了一个心智...

3239
来自专栏AI科技评论

全文|旷视科技孙剑:如何在大公司和创业公司做好计算机视觉的研究?

孙剑,博士,旷视科技(Face++)首席科学家、研究负责人。2003年毕业于西安交通大学人工智能与机器人研究所,毕业后加入微软亚洲研究院(Microsoft R...

4098

扫码关注云+社区