近年来, 深度学习在图像分类、目标检测及场景识别等任务上取得了突破性进展, 这些任务多以卷积神经网络为基础搭建识别模型, 训练后的模型拥有优异的自动特征提取和预测性能, 能够为用户提供“输入–输出”形式的端到端解决方案. 然而, 由于分布式的特征编码和越来越复杂的模型结构, 人们始终无法准确理解卷积神经网络模型内部知识表示, 以及促使其做出特定决策的潜在原因. 另一方面, 卷积神经网络模型在一些高风险领域的应用, 也要求对其决策原因进行充分了解, 方能获取用户信任. 因此, 卷积神经网络的可解释性问题逐渐受到关注. 研究人员针对性地提出了一系列用于理解和解释卷积神经网络的方法, 包括事后解释方法和构建自解释的模型等, 这些方法各有侧重和优势, 从多方面对卷积神经网络进行特征分析和决策解释. 表征可视化是其中一种重要的卷积神经网络可解释性方法, 能够对卷积神经网络所学特征及输入–输出之间的相关关系以视觉的方式呈现, 从而快速获取对卷积神经网络内部特征和决策的理解, 具有过程简单和效果直观的特点. 对近年来卷积神经网络表征可视化领域的相关文献进行了综合性回顾, 按照以下几个方面组织内容: 表征可视化研究的提起、相关概念及内容、可视化方法、可视化的效果评估及可视化的应用, 重点关注了表征可视化方法的分类及算法的具体过程. 最后是总结和对该领域仍存在的难点及未来研究趋势进行了展望.
本文针对 AlexNet 网络非凡效果，主要分析它为什么好，怎么改进。为此引入了一个 CNN网络的可视化技术，借此技术分析CNN网络中间各层都学习到什么样的特征，并提出怎么改进 AlexNet 网络。
通过上面的案例，我们可以知道只可视化显著性信息，现在关键问题是要解释网络中的大部分信息(例如70%-90%信息)。
选自arXiv 作者：张拳石、朱松纯 机器之心编译 参与：乾树、李泽南 在本篇论文中，来自 UCLA 的研究人员就目前有关理解神经网络表征和用可解释/分离式表征学习神经网络的研究进行了一次调查。 本文将研究范围圈定到以下六个研究方向： 网络中间层的 CNN 特征可视化。这些方法主要是合成图像，使预训练的 CNN 中的给定神经元的得分最大化，或者用卷积层的 feature maps 反推出输入图。详细内容请看第二节。 CNN 表征的诊断。相关的研究涉及为不同的物体类别诊断 CNN 的特征空间，或揭露卷积层的潜
今天要为大家推荐一套超酷炫的，用于构建神经网络 3D 可视化应用的框架——TensorSpace。
【导读】本文利用非参数化方法来可视化CNN模型，希望帮助理解CNN。 专知公众号转载已获知乎作者余俊授权。 原文地址： https://zhuanlan.zhihu.com/p/24833574 一.前言 CNN作为一个著名的深度学习领域的“黑盒”模型，已经在计算机视觉的诸多领域取得了极大的成功，但是，至今没有人能够“打开”这个“黑盒”，从数学原理上予以解释。这对理论研究者，尤其是数学家来说当然是不可接受的，但换一个角度来说，我们终于创造出了无法完全解释的事物，这也未尝不是一种进步了！ 当然，虽然无法完全“
【导读】边缘检测是计算机视觉中的一个基本问题。近年来，卷积神经网络(CNNs)的出现极大地推动了这一领域的发展。现有的方法采用特定的深层CNN，但由于尺度和纵横比的变化，可能无法捕捉到复杂的数据结构。今天分享的paper提出了一种利用更丰富的卷积特征(RCF)来精确的边缘检测方法。
你是否想知道LSTM层学到了什么？有没有想过是否有可能看到每个单元如何对最终输出做出贡献。我很好奇，试图将其可视化。在满足我好奇的神经元的同时，我偶然发现了Andrej Karpathy的博客，名为“循环神经网络的不合理有效性”。如果你想获得更深入的解释，建议你浏览他的博客。
反向传播（back propagation）是深度神经网络的一个必要环节，令人好奇的是：反向传播的张量到底是什么样子呢?我们能从中获得哪些信息，从而更好的理解神经网络？ 今天介绍的论文是《A Theo
边缘检测是计算机视觉中的一个基本问题。近年来，卷积神经网络(CNNs)的出现极大地推动了这一领域的发展。现有的方法采用特定的深层CNN，但由于尺度和纵横比的变化，可能无法捕捉到复杂的数据结构。今天分享的paper提出了一种利用更丰富的卷积特征(RCF)来精确的边缘检测方法。
图像风格化是一个有趣且实用的课题，它可以使用参考的风格图像来呈现内容图像，多年以来在学术界被广泛研究，并已在包括短视频领域在内的业界得到大规模的落地应用。例如，移动互联网用户可以通过快手主站、极速版、一甜相机和快影等一系列 APP，体验包括手绘、水彩、油画和 Q 版萌系风格在内的各种人像风格化特效。
【新智元导读】研究人员开发出以人脑为模型的深度学习算法，来破解人类大脑。相关研究发表在最新一期Cerebral Cortex，研究人员构建了一个大脑如何解码信息的模型，根据参与者的大脑活动，该模型能够以50%的精确度预测她所看到的东西。 人工智能让我们离科幻小说里的“读脑机器”更近了一步。现在，研究人员开发出以人脑为模型的深度学习算法，来破解人类大脑。首先，他们建立了一个大脑如何解码信息的模型。三名女性花费了数小时观看几百条短视频，功能性核磁共振机器测量了视觉皮层和其他地方的活动信号。一个用于图像处理的人工
机器之心专栏 作者：快手Y-tech 本文提出了一种基于 Transformer 的图像风格迁移方法，我们希望该方法能推进图像风格化的前沿研究以及 Transformer 在视觉尤其是图像生成领域的应用。 论文链接：https://arxiv.org/abs/2105.14576 代码地址：https://github.com/diyiiyiii/StyTR-2 图像风格化是一个有趣且实用的课题，它可以使用参考的风格图像来呈现内容图像，多年以来在学术界被广泛研究，并已在包括短视频领域在内的业界得到大规模的
来源：机器之心本文约1800字，建议阅读5分钟本文提出了一种基于 Transformer 的图像风格迁移方法。 本文提出了一种基于 Transformer 的图像风格迁移方法，我们希望该方法能推进图像风格化的前沿研究以及 Transformer 在视觉尤其是图像生成领域的应用。 论文链接：https://arxiv.org/abs/2105.14576 代码地址：https://github.com/diyiiyiii/StyTR-2 图像风格化是一个有趣且实用的课题，它可以使用参考的风格图像来呈现内容图
目前已经提出了几种理解和可视化卷积神经网络的方法，作为对于神经网络不可解释性的一种回应。接下来我们将简单介绍一些方法和相关工作。
传统的CNN模型具有层次结构，利用最后一层的特征映射来获得预测输出。然而，很难确定最优网络深度，并使中间层学习显著的特征。
选自Medium 机器之心编译 参与：侯韵楚、李泽南 神经网络在图像处理中应用广泛，但经常面临难以调整参数的问题。最近，来自 Merantix 的 Ryan Henderson（博士毕业于康奈尔大学）等人发布了一个免费开源的卷积神经网络可视化工具，让我们可以方便地观察神经网络在图像中的焦点，为模型优化提供了帮助。 Github（运行环境-Python3.5 或以上）：https://github.com/merantix/picasso arXiv-Picasso：https://arxiv.org/abs
Convolutional Neural Networks for Sentence Classification (EMNLP 2014)
Visualizing and understandingConvolutional Networks 本文是Matthew D.Zeiler 和Rob Fergus于（纽约大学）13年撰写的论文，主要通过Deconvnet（反卷积）来可视化卷积网络，来理解卷积网络，并调整卷积网络；本文通过Deconvnet技术，可视化Alex-net，并指出了Alex-net的一些不足，最后修改网络结构，使得分类结果提升。 摘要： CNN已经获得很好的结果，但是并没有明确的理解为什么CNN会表现的这么好，或者CNN应该怎
【新智元导读】深度学习目前已成为发展最快、最令人兴奋的机器学习领域之一。本文以计算机视觉的重要概念为线索，介绍深度学习在计算机视觉任务中的应用，包括网络压缩、细粒度图像分类、看图说话、视觉问答、图像理解、纹理生成和风格迁移、人脸识别、图像检索、目标跟踪等。 网络压缩(network compression) 尽管深度神经网络取得了优异的性能，但巨大的计算和存储开销成为其部署在实际应用中的挑战。有研究表明，神经网络中的参数存在大量的冗余。因此，有许多工作致力于在保证准确率的同时降低网路复杂度。 低秩近似
新智元专栏 作者：张皓（南京大学） 【新智元导读】深度学习目前已成为发展最快、最令人兴奋的机器学习领域之一。本文以计算机视觉的重要概念为线索，介绍深度学习在计算机视觉任务中的应用，包括网络压缩、细粒度图像分类、看图说话、视觉问答、图像理解、纹理生成和风格迁移、人脸识别、图像检索、目标跟踪等。 网络压缩(network compression) 尽管深度神经网络取得了优异的性能，但巨大的计算和存储开销成为其部署在实际应用中的挑战。有研究表明，神经网络中的参数存在大量的冗余。因此，有许多工作致力于在保
作者 | 张皓（南京大学） 引言 深度学习目前已成为发展最快、最令人兴奋的机器学习领域之一，许多卓有建树的论文已经发表，而且已有很多高质量的开源深度学习框架可供使用。然而，论文通常非常简明扼要并假设读
最近有很多小伙伴想了解深度学习在文本分类的发展，因此，笔者整理最近几年比较经典的深度文本分类方法，希望帮助小伙伴们了解深度学习在文本分类中的应用。
在本教程中，我们将学习如何使用深度学习来创作另一种（毕加索或梵高式）风格的图像，这就是所谓的神经类型迁移！这是列昂·盖茨的论文中概述的一种技术：一种艺术风格的神经算法，非常值得一读。
通过 1989 年 LeCun 处理网格状拓扑数据（图像和时间系列数据）的研究，CNN 首次受到关注。CNN 被视为理解图像内容的最好技术之一，并且在图像识别、分割、检测和检索相关任务上表现出了当前最佳性能。CNN 的成功引起了学界外的注意。在产业界，如谷歌、微软、AT&T、NEC 和 Facebook 这样的公司都设立了研究团队来探索 CNN 的新架构。目前，图像处理竞赛中的大多数领跑者都会采用基于深度 CNN 的模型。
深度卷积神经网络（CNN）是一种特殊类型的神经网络，在各种竞赛基准上表现出了当前最优结果。深度 CNN 架构在挑战性基准任务比赛中实现的高性能表明，创新的架构理念以及参数优化可以提高 CNN 在各种视觉相关任务上的性能。本综述将最近的 CNN 架构创新分为七个不同的类别，分别基于空间利用、深度、多路径、宽度、特征图利用、通道提升和注意力。
上世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，神经认知机将一个视觉模式分解成许多子模式（特征），然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。
AI 科技评论按：近日，美图云视觉技术部门与中科院自动化所共同合作研发，提出一种基于类脑智能的无监督的视频特征学习和行为识别的方法 NOASSOM (Hierarchical Nonlinear Orthogonal Adaptive-Subspace Self-Organizing Map based Feature Extraction for Human Action Recognition)，该方法不依赖于标签信息，可以自适应地、无监督地学到视频的特征表示，相关成果已发表在 AAAI 2018 上，
来源：Paperweekly本文约3300字，建议阅读9分钟本次文章介绍我们于 ICME-2022 发表的一项通过定位语义块来加速图像分类的工作。 论文标题： Localizing Semantic Patches for Accelerating Image Classification 论文链接： https://arxiv.org/pdf/2206.03367.pdf 代码链接： https://github.com/winycg/AnchorNet 01. 引言 本文的动机在于输入图片中通常存在大
您想构建一个没有太多训练数据的机器学习模型吗？众所周知，机器学习需要大量数据，而收集和注释数据需要时间且成本高昂。
本系列为 斯坦福CS231n 《深度学习与计算机视觉(Deep Learning for Computer Vision)》的全套学习笔记，对应的课程视频可以在 这里 查看。更多资料获取方式见文末。
暑假的“尾巴”很多人都抓不住了，因为不知不觉，新的学期要开始了，几家欢喜几家愁，但是会想起学生时代的我，还是特征憧憬新的学期到来，那种激动的心情无法用美丽的辞藻去形容，在此，也祝大家新学期新“形象”，都能通过自己的努力去实现心里设定的小目标，加油~
从立体图像或视频帧中进行遮挡物的检测，对许多计算机视觉应用而言都是非常重要的。先前的研究重点主要是将其与视差或光流的计算捆绑在一起，这导致了严重的 chicken-and-egg 问题。在本文中，我们利用卷积神经网络来解决传统交错的计算框架中遮挡物检测问题。
选自tryolabs 作者：Matt Simon 机器之心编译 本文详细解释了 Faster R-CNN 的网络架构和工作流，一步步带领读者理解目标检测的工作原理，作者本人也提供了 Luminoth 实现，供大家参考。 Luminoth 实现：https://github.com/tryolabs/luminoth/tree/master/luminoth/models/fasterrcnn 在阅读本文之前，若想了解 R-CNN 网络家族的发展，可以参看机器之心的文章： 深度 | 用于图像分割的卷积神
本篇博文主要讲解2015年深度学习领域非常棒的一篇文献：《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》，这个算法目前已经被大量的应用，最新的文献算法很多都会引用这个算法，进行网络训练，可见其强大之处非同一般啊，采用这个方法网络的训练速度快到惊人啊，感觉训练速度是以前的十倍以上，再也不用担心自己这破电脑每次运行一下，训练一下都要跑个两三天的时间。另外这篇文献跟空间变换网络《Spatial Transformer Networks》的思想神似啊，都是一个变换网络层。
作者：Matt Simon 机器之心编译 本文详细解释了 Faster R-CNN 的网络架构和工作流，一步步带领读者理解目标检测的工作原理，作者本人也提供了 Luminoth 实现，供大家参考。 Luminoth 实现：https://github.com/tryolabs/luminoth/tree/master/luminoth/models/fasterrcnn 在阅读本文之前，若想了解 R-CNN 网络家族的发展，可以参看机器之心的文章： 深度 | 用于图像分割的卷积神经网络：从R-CNN到
点击上方“Deephub Imba”,关注公众号,好文章不错过 ! 近年来，Vision Transformer (ViT) 势头强劲。本文将解释论文《Do Vision Transformers S
脑机接口(BCI)利用神经活动作为控制信号，可以与计算机直接通信。这种神经信号通常从各种研究充分的脑电图(EEG)信号中选择。对于给定的脑机接口(BCI)范式，特征提取器和分类器是针对其所期望的脑电图控制信号的不同特征而定制的，这限制了其对特定信号的应用。卷积神经网络(Convolutional neural networks， CNNs)已被用于计算机视觉和语音识别中进行自动特征提取和分类，并成功地应用于脑电信号识别中；然而，它们主要应用于单个BCI范例，因此尚不清楚这些架构如何推广到其他范例。在这里，我们想问的是，我们是否可以设计一个单一的CNN架构来准确地分类来自不同BCI范式的脑电图信号，同时尽可能小型的方法。在这项工作中，我们介绍了EEGNet，一个小型的卷积神经网络为基于脑电图的BCI。我们介绍了深度卷积和可分离卷积的使用来构建脑电图特定模型，该模型封装了众所周知的脑机接口脑电图特征提取概念。我们比较了EEGNet，包括被试内和跨被试分类，以及目前最先进的四种BCI范式：P300视觉诱发电位、错误相关负波(ERN)、运动相关皮层电位(MRCP)和感觉运动节律(SMR)。我们表明，当在所有测试范例中只有有限的训练数据可用时，EEGNet比参考算法更好地泛化，并取得了相当高的性能。此外，我们还演示了三种不同的方法来可视化训练过的EEGNet模型的内容，以支持对学习到的特征的解释。意义：我们的结果表明，EEGNet足够鲁棒，可以在一系列BCI任务中学习各种各样的可解释特征。本文发表在Journal of Neural Engineering杂志。
人脸特征点定位是一个非常具有挑战性的研究课题。由于纹理和形状的不同，不同人脸特征点的定位精度差异很大。但大多数现有的方法不能考虑特征点的部分位置。 为了解决这个问题，文章提出一个新颖的用深度卷积神经网络（CNN）端到端的回归框架。深度结构首先通过所有特征点编码图像到特征图上；然后这些特征被送到两个单独子网络模型中去回归轮廓特征点和内部特征点。最后在300-W基准数据集上评估，并证明所提出的深度框架实现了最先进的结果。 ---- 主要一些贡献： 提出一个新颖的端到端回归CNN模型用于人脸特征点定位，其通过组合
batch norm也可以当做调参的一部分，对于有些实验是有效果的，有些实验是几乎没啥效果，但是它的收敛速度还是很客观的，所以我们还是有必要要了解下哒！
人脸特征点定位是一个非常具有挑战性的研究课题。由于纹理和形状的不同，不同人脸特征点的定位精度差异很大。但大多数现有的方法不能考虑特征点的部分位置。 为了解决这个问题，文章提出一个新颖的用深度卷积神经网络（CNN）端到端的回归框架。深度结构首先通过所有特征点编码图像到特征图上；然后这些特征被送到两个单独子网络模型中去回归轮廓特征点和内部特征点。最后在300-W基准数据集上评估，并证明所提出的深度框架实现了最先进的结果。 主要一些贡献： 提出一个新颖的端到端回归CNN模型用于人脸特征点定位，其通过组合一个轮廓子
【新智元导读】本文介绍 Bengio 和他的学生 Guillaume Alain 的最新论文，这篇论文也被即将于 12 月举行的著名会议 NIPS 接收。本文中，作者引入了一叫做“线性分类探测器”的概念，用于理解一个神经网络模型中各个中间层的作用。使用这种方法，他们顺利地诊断出模型中的一些问题，增进了对深度神经网络的理解，在设计和诊断深度学习模型时都有帮助。 本文中，作者引入了“线性分类探测器”的概念，从熵（Shannon entropy）——描述随机变量所含信息状态的经典方法——的概念讲起，然后试着将这一
随着数字化时代的来临，企业面临的数据处理与分析问题越来越多，近几年冒出了众多的BI工具，都着重强调其数据可视化效果有多好。诚然，数据可视化效果是很重要，清晰亮丽的各类图表，狂拽酷炫的动态大屏展示，看起来真的很爽。但是，可视化只是BI工具的最终呈现效果，企业做数据分析不是仅仅把表做好看，真正的数据分析需要数据的获取、清洗、形成报表、得出结论等一系列工序，最终为企业管理者提供决策支持。
迁移学习作为一种旨在利用已有知识解决新问题的机器学习技术，在面临小样本问题时展现出强大的适应力和有效性。本文将深入剖析迁移学习在小样本问题中的应用场景、核心策略、实战技巧，并通过Python代码示例详细展示如何在实际项目中运用迁移学习。同时，我们将探讨最佳实践和注意事项，以确保迁移学习在数据匮乏环境下的高效应用。
原文地址：http://blog.csdn.net/hjimce/article/details/50866313
本篇博文主要讲解2015年深度学习领域，非常值得学习的一篇文献：《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》，这个算法目前已经被大量的应用，最新的文献算法很多都会引用这个算法，进行网络训练，可见其强大之处非同一般啊。
作者是来自于法国Inria机构的Ganesh Jawahar，Benoît Sagot和Djamé Seddah。探索BERT深层次的表征学习是一个非常有必要的事情，一是这可以帮助我们更加清晰地认识BERT的局限性，从而改进BERT或者搞清楚它的应用范围；二是这有助于探索BERT的可解释性，自从各国政府人工智能战略的相继发布，神经网络的可解释性问题成为了一个不可忽略的问题。
【AI科技大本营导读】深度学习一直被看做是一个难以解释的“黑匣子”。一方面在于其缺乏数学上的优雅，缺乏基础理论的支撑，另一方面在工程上缺乏解释性，其潜在的安全隐患一直为人们所诟病。因此，如何更好地对 CNN 进行可视化理解一直是学术界和工业界关注的重点。本文为 CNN 可视化理解的最新综述，AI科技大本营将重点内容摘选如下。
深度学习目前在图像处理领域有着非常好的应用和研究，在医学领域可以用它在极早期判断癌症；在安防领域，可以用它来快速检索目标任务，进行可疑或危险人物的检测与抓捕；在金融领域，可以较好的分析风险风控等。 但
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
