学界 | MIT CSAIL最新研究:Network Dissection可全自动内窥神经网络活动过程

AI科技评论按:据外媒TechCrunch最新报道,MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)发明了一种可以全自动内窥神经网络活动的系统Network Dissection。相关的论文会在今年的CVPR(计算机视觉与模式识别大会)发表,AI科技评论届时也会对大会进行全程报道,敬请关注。

MIT计算机科学与人工智能实验室之前发明过一种内窥神经网络,用来揭示它们是如何做决策的。该方法最近又有了新改进,相比研究团队两年前提出的方案,这次升级为全自动版本的系统,效果可以和之前人工观察得到的相媲美。

通过研究全自动内窥神经网络做决策的过程可以帮助人们理解为什么神经网络能表现和人工观察一样的效果。目前深度学习技术围绕“系统是如何做到他们想要的结果”还有很多问题,比如,对于网络利用连续信号处理层对目标分类,文本翻译,或其他的一些功能,几乎没有办法深入了解网络的每一层是如何进行实际决策的。

MIT利用了医学神经网络的原理,通过每一个单独的节点对给定的一个输入图像的力度反馈报告,将反馈力度大的图片挑选出来再进行分析。这项分析之前是工作人员来做的,他们根据图像中的特殊视觉概念来归类。但是现在这项工作已经自动化了,分类也是机器完成的。

这项研究正在提供一些神经网络是如何运作的有趣见解,例如展示了训练一个神经网络对黑白图片填充颜色的过程,会发现它会集中大部分节点在识别图像纹理上。训练神经网络对视频中的物体识别,它会把很多节点集中在场景识别上。训练神经网络对场景识别则正好相反,它将很多节点集中在物体的身份证明上。

文中最后表明:因为目前还不能完全理解人类是如何思考,如何分类和识别信息,神经网络只是基于假设的人类思考模型提出来的。 MIT CSAIL的这项研究最终也可能会揭示神经科学的一些问题。相关论文将会发表在今年的CVPR,应该会引起人工智能研究界的极大兴趣。

论文地址:http://netdissect.csail.mit.edu/final-network-dissection.pdf

via TechCrunch;AI 科技评论编译

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-07-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

学界 | 定量研究:当前机器学习领域十大研究主题

选自arXiv 作者:Patrick Glauner等 机器之心编译 参与:韩小西、李泽南 机器学习的发展日新月异,目前最热门的研究方向是什么?近日,来自卢森堡...

27330
来自专栏AI派

近邻推荐之 Slope One 算法

使用 Slope One 算法可以避免上面的问题,Slope One 算法专门针对评分矩阵进行计算,不适用于行为矩阵。它不是计算物品之间的相似度,而是计算物品之...

48290
来自专栏应兆康的专栏

12. 小结:建立开发集和测试集

13410
来自专栏应兆康的专栏

12. 小结:建立开发集和测试集

• 从分布中选择开发集和测试集 ,它需要反映你将来的数据情况,并且它的效果足够好,这可能与训练的数据不在同一分布。

317100
来自专栏应兆康的专栏

开发集和测试集应该多大?

13710
来自专栏奇点大数据

2018年度人工智能技术趋势

“人工智能”一词最初是在1956 年Dartmouth学会上提出的。人工智能(Artificial Intelligence),英文缩写为AI,是研究、开发用于...

13520
来自专栏文智的专栏

【 文智背后的奥秘 】系列篇 :情感分类

情感分类是对带有感情色彩的主观性文本进行分析、推理的过程,即分析对说话人的态度,倾向正面,还是反面。它与传统的文本主题分类又不相同,传统主题分类是分析文本讨论的...

2.5K10
来自专栏人工智能快报

Hinton取得新进展,以更少数据识别图像

谷歌人工智能先驱Geoffrey Hinton公布了AI技术进展,可提高电脑正确识别图像的速度和较少的数据依赖。 Google公司公布了关于其人工智能先驱Geo...

32560
来自专栏marsggbo

通俗理解决策树中的熵&条件熵&信息增益

参考通俗理解决策树算法中的信息增益 说到决策树就要知道如下概念: 熵:表示一个随机变量的复杂性或者不确定性。 假如双十一我要剁手买一件衣服,但是我一直犹豫...

25170
来自专栏CVer

381页机器学习数学基础PDF下载

【导读】近期,由Marc Peter Deisenroth,A Aldo Faisal和Cheng Soon Ong撰写的《机器学习数学基础》“Mathemat...

31530

扫码关注云+社区

领取腾讯云代金券