CNN卷积特征的可视化

本文主要是实现了一个简单的卷积神经网络,并对卷积过程中的提取特征进行了可视化.

卷积神经网络最早是为了解决图像识别的问题,现在也用在时间序列数据和文本数据处理当中,卷积神经网络对于数据特征的提取不用额外进行,在对网络的训练的过程当中,网络会自动提取主要的特征.

  卷积神经网络直接用原始图像的全部像素作为输入,但是内部为非全连接结构.因为图像数据在空间上是有组织结构的,每一个像素在空间上和周围的像素是有关系的,和相距很远的像素基本上是没什么联系的,每个神经元只需要接受局部的像素作为输入,再将局部信息汇总就能得到全局信息.   权值共享和池化两个操作使网络模型的参数大幅的减少,提高了模型的训练效率. 权值共享:   在卷积层中可以有多个卷积核,每个卷积核与原始图像进行卷积运算后会映射出一个新的2D图像,新图像的每个像素都来自同一个卷积核.这就是权值共享.

池化: 降采样,对卷积(滤波)后,经过激活函数处理后的图像,保留像素块中灰度值最高的像素点(保留最主要的特征),比如进行 2X2的最大池化,把一个2x2的像素块降为1x1的像素块.

Padding

卷积核在提取特征时的动作成为padding,它有两种方式:SAME和VALID。卷积核的移动步长不一定能够整除图片像素的宽度,所以在有些图片的边框位置有些像素不能被卷积。这种不越过边缘的取样就叫做 valid padding,卷积后的图像面积小于原图像。为了让卷积核覆盖到所有的像素,可以对边缘位置进行0像素填充,然后在进行卷积。这种越过边缘的取样是 same padding。如过移动步长为1,那么得到和原图一样大小的图像。 如果步长很大,超过了卷积核长度,那么same padding,得到的特征图也会小于原来的图像。

训练交叉熵代价

训练数据中的一个样本

第一个卷积层提取的特征

2x2池化后的特征

第二层卷积提取特征

2x2池化后的特征

https://blog.csdn.net/u014281392/article/details/74316028

本文分享自微信公众号 - 机器学习AI算法工程(datayx)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-03-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习算法与Python学习

图像分割中的深度学习:U-Net 体系结构

原标题 | Deep Learning for Image Segmentation: U-Net Architecture

19910
来自专栏FreeBuf

卷积神经网络在Pentest截图分析中的应用

Eyeballer这款强大的工具基于卷积神经网络实现,可利用卷积神经网络来帮助研究人员对获取到的屏幕截图进行渗透测试与安全分析,并给研究人员提供目标截图的快速概...

9000
来自专栏机器视觉CV

【AI初识境】近20年深度学习在图像领域的重要进展节点

这是专栏《AI初识境》的第3篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。

11140
来自专栏AI科技大本营的专栏

分类、检测、分割任务均有SOTA表现,ACNet有多强?

本文提出了一种新的自适应连接神经网络(ACNet),从两个方面对传统的卷积神经网络(CNNs)进行了改进。首先,ACNet通过自适应地确定特征节点之间的连接状态...

11500
来自专栏AI研习社

EfficientNet 解析:卷积神经网络模型尺度变换的反思

原标题 | EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks

11120
来自专栏小小挖掘机

80页笔记看遍机器学习基本概念、算法、模型,帮新手少走弯路

本文要介绍的是一份长约 80 页的学习笔记,旨在总结机器学习的一系列基本概念(如梯度下降、反向传播等),不同的机器学习算法和流行模型,以及一些作者在实践中学到的...

10700
来自专栏机器视觉CV

【AI初识境】从头理解神经网络-内行与外行的分水岭

这是专栏《AI初识境》的第2篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。

6820
来自专栏ATYUN订阅号

图解十大CNN架构(上)

您是如何跟上不同的卷积神经网络(CNNs)的?近年来,我们见证了无数CNNs的诞生。这些网络已经变得如此之深奥,以至于很难将整个模型可视化。我们不再跟踪它们,而...

12650
来自专栏PaddlePaddle

超火的个性化推荐你再不会就OUT啦,让飞桨手把手来教你

导读:随着电子商务规模的不断扩大,电商平台的商品数量和种类呈爆发式增长,用户往往需要花费大量的时间才能找到自己想买的商品,这就是信息超载问题。为了解决这个难题,...

6510
来自专栏AI科技大本营的专栏

深度学习有哪些接地气又好玩的应用?

过去几年中,深度学习中的很多技术如计算机视觉、自然语言处理等被应用在很多实际问题中,而且相关成果也表明深度学习能让人们的工作效果比以前更好。

8100

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励