AiTechYun 编辑：yuxiangyu 深度学习中最深入讨论的话题之一是如何解释和理解一个训练完成的模型，尤其是在医疗保健等高风险行业的背景下。“黑盒”这个词经常与深度学习算法联系在一起。如果我们不能解释它是如何工作的，我们如何相信模型的结果呢？ 以一个为了检测癌症肿瘤而训练的深度学习模型为例。该模型告诉你它99％确定它检测到了癌症，但它并没有告诉你为什么或怎么确定的。 它是在MRI扫描（磁共振）中找到了一条重要线索，还是仅仅是扫描中的一个污点被错误地检测为肿瘤？这对患者来说是生死攸关的问题，医生经不
人工智能（AI）不再仅限于研究论文和学术界。业内不同领域的企业和组织正在构建由AI支持的大规模应用程序。这里要考虑的问题是，“我们是否相信AI模型做出的决策？”和“机器学习或深度学习模型如何做出决策？”。解释机器学习或深度学习模型一直是整个数据科学生命周期中经常被忽视的任务，因为数据科学家或机器学习工程师会更多地参与实际推动生产或建立和运行模型。
源 | 全球人工智能 文 | 小象 摘要： 本文简单说明了CNN模型可视化的重要性，以及介绍了一些可视化CNN网络模型的方法，希望对读者有所帮助，使其能够在后续深度学习应用中构建更好的模型。 对于深度学习这种端到端模型来说，如何说明和理解其中的训练过程是大多数研究者关注热点之一，这个问题对于那种高风险行业显得尤为重视，比如医疗、军事等。在深度学习中，这个问题被称作“黑匣子（Black Box）”。如果不能解释模型的工作过程，我们怎么能够就轻易相信模型的输出结果呢？ 以深度学习模型检测癌症肿瘤为例，该模
链接: https://adamj.eu/tech/2020/03/10/django-check-constraints-sum-percentage-fields/
这是众多卷积神经网络可视化方法之一，方法来自于论文《Learning Deep Features for Discriminative Localization》，论文译文在[翻译]Learning Deep Features for Discriminative Localization。
以下是我与同事和学生就如何优化深度模型进行的对话、消息和辩论的摘要。如果你发现了有影响力的技巧，请分享。
本文介绍了几个深度学习模型的简单优化技巧，包括迁移学习、dropout、学习率调整等，并展示了如何用 Keras 实现。
PPMA（Paddle Model Analysis）是一个基于飞桨实现的一个模型分析小工具，它以极简主义为特色，高度封装了飞桨代码以便让大家用最少的代码来完成模型的分析，目前所支持的功能有ImageNet精度验证、可视化图片Top5预测类别、测试模型Params、Throughput、类激活图可视化（CAM）、测试时数据增强（TTA）等，在这里你可以用最少三行代码来实现想要的功能。
本文是根据自身构建深度学习模型总结而来，可能读起来比较干巴，但干货确实不少。闲话少叙，直接进入相关内容。
深度学习领域，最常见的就是各种网络模型，那么在写论文或者文章，介绍网络模型的时候，最好的办法当然就是展示代码画图，今天介绍的 Github 项目，就是整理了 22 个设计和可视化网络结构的工具，其地址如下：
类别激活图(CAM)是一种用于计算机视觉分类任务的强大技术。它允许研究人员检查被分类的图像，并了解图像的哪些部分/像素对模型的最终输出有更大的贡献。
数据增强是指在原始数据集的基础上生成新的、具有多样性的数据集，以扩充数据集的规模并增加数据集的多样性。这可以帮助模型更好地学习不同场景下的特征，并提高其泛化能力。例如，在图像分类任务中，可以对图像进行旋转、平移、缩放、翻转等操作来生成新的图像。
神经网络本身包含了一系列特征提取器，理想的feature map应该是稀疏的以及包含典型的局部信息，通过模型可视化能有一些直观的认识并帮助我们调试模型，比如：feature map与原图很接近，说明它没有学到什么特征；或者它几乎是一个纯色的图，说明它太过稀疏，可能是我们feature map数太多了。可视化有很多种，比如：feature map可视化、权重可视化等等，我以feature map可视化为例。
你是否想知道LSTM层学到了什么？有没有想过是否有可能看到每个单元如何对最终输出做出贡献。我很好奇，试图将其可视化。在满足我好奇的神经元的同时，我偶然发现了Andrej Karpathy的博客，名为“循环神经网络的不合理有效性”。如果你想获得更深入的解释，建议你浏览他的博客。
选自hackevolve 作者：Saideep Talari 机器之心编译 参与：乾树、思源 在我们使用 CNN 进行图片分类时，模型到底关注的是图像的哪个区域？Grad-CAM 利用卷积网络最后一个特征图的信息，并加权对应的梯度而构建模型分类的热力图，通过该热力图，我们可以清楚地了解哪一块区域对于类别是最重要的。 你在训练神经网络进行图片分类时，有没有想过网络是否就是像人类感知信息一样去理解图像？这个问题很难回答，因为多数情况下深度神经网络都被视作黑箱。我们喂给它输入数据进而得到输出。整个流程如果出现问题
前面几篇文章讲到了卷积神经网络CNN，但是对于它在每一层提取到的特征以及训练的过程可能还是不太明白，所以这节主要通过模型的可视化来神经网络在每一层中是如何训练的。我们知道，神经网络本身包含了一系列特征提取器，理想的feature map应该是稀疏的以及包含典型的局部信息。通过模型可视化能有一些直观的认识并帮助我们调试模型，比如：feature map与原图很接近，说明它没有学到什么特征；或者它几乎是一个纯色的图，说明它太过稀疏，可能是我们feature map数太多了（feature_map数太多也反映了
今天我们来说一下，如何使用自己训练出来的Mask_RCNN模型，或是官方自己的模型权重来进行预测：
AlexNet在ILSVRC-2012的比赛中获得top5错误率15.3%的突破（第二名为26.2%），其原理来源于2012年Alex的论文《ImageNet Classification with Deep Convolutional Neural Networks》，这篇论文是深度学习火爆发展的一个里程碑和分水岭，加上硬件技术的发展，深度学习还会继续火下去。
本项目的目的是为了给大家提供跟多的实战思路，抛砖引玉为大家提供一个案例，也希望读者可以根据该方法实现更多的思想与想法，也希望读者可以改进该项目种提到的方法，比如改进其中的行人检测器、跟踪方法、行为识别算法等等。
一个完整的神经网络由这两部分构成，Tensorflow 在保存时除了这两个文件还会在目录下自动生成 checkpoint， checkpoint的内容如下，它只记录了目录下有哪些网络。
在前面的文章里我们讲过，机器学习和深度学习在训练过程中，训练误差不断下降，但测试误差下降到一定程度后就会停止或者上升，出现过拟合现象，解决过拟合问题主要有2个方法，其中一个是正则化（机器学习和深度学习中的正则化方法），另一个方法就是数据增强了。
如今，几乎我们使用的每个应用程序中都有大量数据- 听音乐， 浏览朋友的图像，或者 观看新的预告片
【导读】这篇博文介绍了如何在深度学习框架Keras上实现文本摘要问题，探讨了如何使用编码器-解码器递归神经网络体系结构来解决文本摘要问题，如何实现文本摘要问题的不同的编码器和解码器，博文通俗易懂，专知内容组整理出来，希望大家喜欢。 Encoder-DecoderModels for Text Summarization in Keras 用Keras实现基于Encoder-Decoder的文本自动摘要 作者：Jason Brownlee 译者：专知内容组 ▌文本摘要概述 ---- 文本摘要是从一个源文档中
即使你不喜欢玩游戏，深度强化学习也很重要。只用看当前使用深度强化学习进行研究的各种功能就知道了：
简介：长短期记忆人工神经网络（Long-Short Term Memory, LSTM）是一种时间递归神经网络(RNN)，论文首次发表于1997年。由于独特的设计结构，LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。
介绍 目前，对于全球的科学家而言，“如何去学习一种新技能”已经成为最基本的研究课题之一。解决这个问题的意愿显而易见——如果能够解决这个问题，那么人类就有望做到某些从未想过的事情。换句话说，我们可以训练机器去做更多原本人类要做的工作，迎来真正的人工智能时代。 虽然，对于上述问题，目前我们还没有一个完整的回答，但有一些事情是十分明确的。不考虑技能方面的学习，我们首先的是在与环境的交互过程中进行学习。不管是学习开车，还是婴儿学习走路，学习的基础都是与环境的交互过程。在互动中学习是所有学习理论以及智力发展理论的
In machine learning, to improve something you often need to be able to measure it. TensorBoard is a tool for providing the measurements and visualizations needed during the machine learning workflow. It enables tracking experiment metrics like loss and accuracy, visualizing the model graph, projecting embeddings to a lower dimensional space, and much more.
可视化中间激活 是指对于给定输入，展示网络中各个卷积层和池化层输出的特征图，这让我们可以看到输入如何被分解为网络学到的不同过滤器。我们希望在三个维度对特征图进行可视化：宽度、高度和深度（通道）。每个通道都对应相对独立的特征，所以将这些特征图可视化的正确方法是将每个通道的内容分别绘制成二维图像
本文演示了训练一个简单的卷积神经网络 (CNN) 来对 CIFAR 图像进行分类。由于本教程使用 Keras Sequential API，因此创建和训练我们的模型只需几行代码。
上一章通过简单模型（一堆Conv2D和MaxPooling2D层）和一个简单的用例（二进制图像分类）为您介绍了计算机视觉的深度学习。但是，计算机视觉不仅仅是图像分类！本章将深入探讨更多不同应用和高级最佳实践。
残差网络在《Deep Residual Learning for Image Recognition》中被第一次提出，作者利用它在ILSVRC 2015的ImageNet 分类、检测、定位任务以及COCO 2015的检测、图像分割任务上均拿到第一名，也证明ResNet是比较通用的框架。
Keras是Python中以CNTK、Tensorflow或者Theano为计算后台的一个深度学习建模环境。
ANN Visualizer 是一个很不错的 Python 库，兼容 Keras，它使用 Python 的 graphviz 库来创建开发人员正在构建的神经网络的可视化图形。
当使用神经网络时，我们可以通过它的准确性来评估模型的性能，但是当涉及到计算机视觉问题时，不仅要有最好的准确性，还要有可解释性和对哪些特征/数据点有助于做出决策的理解。模型专注于正确的特征比模型的准确性更重要。
神经网络准确但不可解释，决策树是可解释的，但在计算机视觉中是不准确的。对于这种问题，我们在本文有一个解决办法。
通过观察神经网络和深度学习模型在训练期间的表现，你可以得知很多有用的信息。 Keras是Python中强大的库，为创建深度学习模型提供了一个简单的接口，并包装了更为技术性的TensorFlow和The
3、上述代码实现的是,将矩阵的每一列提取出来,然后单独进行操作,最后在拼在一起。可视化的图如下所示。
深度学习开源框架众多，对于开发者来说其中有一个很硬的需求，就是模型结构和权重的可视化。使用过Caffe的同学都因为强大的Netscope可以离线修改实时可视化网络结构而暗爽，那其他的框架怎么样呢？
CNN常用于图像识别，在深度学习中我们不可能直接将图片输入进去，向量是机器学习的通行证，我们将图片转换为像素矩阵再送进去，对于黑白的图片，每一个点只有一个像素值，若为彩色的，每一个点会有三个像素值（RGB）
在上一章中，我们讨论了文档分类以及文档分类的一种特殊情况，称为情感分类。 这样做时，我们不得不谈论很多关于向量化的知识。
第一个深度学习笔记吧，看书有一阵子了，对理论知识仍然稀里糊涂的，不过一边实操一边记笔记一边查资料，希望逐步再深入到理论里去，凡事开头难，也不怕他人笑话。一般深度学习都是从手写数字识别开始的。
深度学习模型的可解释性为其预测提供了人类可以理解的推理。如果不解释预测背后的原因，深度学习算法就像黑匣子，对于一些场景说是无法被信任的。不提供预测的原因也会阻止深度学习算法在涉及跨域公平、隐私和安全的关键应用程序中使用。
来源：DeepHub IMBA本文约3800字，建议阅读7分钟本文使用pytorch-geometric实现的GNNExplainer作为示例。 深度学习模型的可解释性为其预测提供了人类可以理解的推理。如果不解释预测背后的原因，深度学习算法就像黑匣子，对于一些场景说是无法被信任的。不提供预测的原因也会阻止深度学习算法在涉及跨域公平、隐私和安全的关键应用程序中使用。 深度学习模型的可解释性有助于增加对模型预测的信任， 提高模型对与公平、隐私和其他安全挑战相关的关键决策应用程序的透明度，并且可以让我们了解网络特
选自SoftwareMill 机器之心编译 作者：Krzysztof Grajek 参与：黄小天 在机器学习中，精确地计数给定图像或视频帧中的目标实例是很困难的一个问题。很多解决方案被发明出来用以计数行人、汽车和其他目标，但是无一堪称完美。当然，我们正在讨论的是图像处理，所以神经网络不失为解决这一问题的好办法。 下面，本文将对神经网络目标计数领域的不同方法、一般问题、挑战及最新解决方案的作一个总体描述。文末，现有的 Faster R-CNN 网络模型作为概念证明将被用于计数给定视频中街道上的目标。 挑战
准确地在给定的图像或视频帧中计算对象个数的实例是机器学习中很难解决的问题。尽管许多解决方案已经被开发出来，用来计算人、汽车和其他物体的数量，但是没有一个是完美的办法。当然，我们这里讨论的是图像处理，所
LSTM 01：理解LSTM网络及训练方法 LSTM 02：如何为LSTMs准备数据 LSTM 03：如何使用Keras编写LSTMs LSTM 04：4种序列预测模型及Keras实现 LSTM 05：Keras实现多层LSTM进行序列预测 LSTM 06：如何用Keras开发CNN-LSTM LSTM 07：如何用Keras开发 Encoder-Decoder LSTM LSTM 08：超详细LSTM调参指南
在训练神经网络的过程中，我们可能会希望可视化网络的性能和中间的结构，很多可视化代码的冗长复杂使得我们望而却步，有没有一行代码就能解决可视化的所有问题呢？
领取专属 10元无门槛券
手把手带您无忧上云
