学界 | MIT CSAIL最新研究：Network Dissection可全自动内窥神经网络活动过程

AI科技评论按：据外媒TechCrunch最新报道，MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）发明了一种可以全自动内窥神经网络活动的系统Network Dissection。相关的论文会在今年的CVPR（计算机视觉与模式识别大会）发表，AI科技评论届时也会对大会进行全程报道，敬请关注。

MIT计算机科学与人工智能实验室之前发明过一种内窥神经网络，用来揭示它们是如何做决策的。该方法最近又有了新改进，相比研究团队两年前提出的方案，这次升级为全自动版本的系统，效果可以和之前人工观察得到的相媲美。

通过研究全自动内窥神经网络做决策的过程可以帮助人们理解为什么神经网络能表现和人工观察一样的效果。目前深度学习技术围绕“系统是如何做到他们想要的结果”还有很多问题，比如，对于网络利用连续信号处理层对目标分类，文本翻译，或其他的一些功能，几乎没有办法深入了解网络的每一层是如何进行实际决策的。

MIT利用了医学神经网络的原理，通过每一个单独的节点对给定的一个输入图像的力度反馈报告，将反馈力度大的图片挑选出来再进行分析。这项分析之前是工作人员来做的，他们根据图像中的特殊视觉概念来归类。但是现在这项工作已经自动化了，分类也是机器完成的。

这项研究正在提供一些神经网络是如何运作的有趣见解，例如展示了训练一个神经网络对黑白图片填充颜色的过程，会发现它会集中大部分节点在识别图像纹理上。训练神经网络对视频中的物体识别，它会把很多节点集中在场景识别上。训练神经网络对场景识别则正好相反，它将很多节点集中在物体的身份证明上。

文中最后表明：因为目前还不能完全理解人类是如何思考，如何分类和识别信息，神经网络只是基于假设的人类思考模型提出来的。 MIT CSAIL的这项研究最终也可能会揭示神经科学的一些问题。相关论文将会发表在今年的CVPR，应该会引起人工智能研究界的极大兴趣。

论文地址：http://netdissect.csail.mit.edu/final-network-dissection.pdf

via TechCrunch；AI 科技评论编译