专栏首页探物及理卷积神经网络CNN(convolutional)

卷积神经网络CNN(convolutional)

卷积运算:原图像*卷积核=新图像,经常用来做边缘检测 人造核:手动指定权重,改善效果

指定核权重为变量,通过反向传播,学习卷积核的权重 补白和步幅决定了卷积后的

补白Padding

  • Valid convolution:p = 0 \(n\times n * f\times f -> (n-f+1)\times (n-f+1)\)
  • Same convolution:n = n \((n+2p)\times (n+2p) * f\times f -> n\times n\) 得到填充边缘宽度\(p = \frac{f-1}{2}\) 所以一般卷积核大小是奇数 ## 步幅strides s>1,图像也变小

三维卷积

对于RGB三通道图像,nc个滤波器,卷积叠加,得到深度为nc的图像

总结

趋势:缩减图片尺度,增加深度

CNN分类

卷积层Conv:

池化层Pool:减少图片宽度,用卷积核进行特征提取

采样(下采样),特征降维,压缩数据和参数,减小过拟合 只有超参数,没有参数 主要分类:

  • 最大池化
  • 平均池化

全连接层Fc:一般用来输出

总结

  • 优势
  • 参数共享:将卷积核的参数共享给每组被卷积对象运算
  • 稀疏性联系:输出的值只与小部分输入相关 ### 特点 CNN从前到后,维度缩减,参数增多

CNN案例

经典CNN

  • LeNet-5(sigmoid激活,softmax分类)
  • AlexNet
  • VGGNet

残差网络

传统的plain network存在梯度指数现象

为了改善深度网络的梯度爆炸(消失)现象,使深度神经网训练可能

  • Residual block

维数不一致的问题,可以通过构建权重矩阵,填充0元素或者其他方法进行适配

1x1 convolution

对image每个像素进行非线性函数映射,通过n个kernel,映射为n个特征,用于缩减图像特征深度

用法,生成中间量,减少运算量

直接5x5卷积

采用1x1卷积中间量,再用5x5卷积

Inception network

Main idea

Inception module

Inception network

  • Inception module 的串联
  • branches用于在中间预测结果,效果不差

Transfer learning

步骤

  1. 下载源码,模型,权重参数
  2. 修改末层结构,softmax分类或者
  3. 冻结前层参数
  4. 训练自己模型

Data Augmentation数据增强

可以预先处理, 也可以与训练并行处理

1、形状

  • 镜像Mirroring
  • 随机裁剪Random Cropping
  • 旋转Rotation
  • 倾斜Shearing
  • 扭曲Local warping

2、色彩Color shifting

  • 增减RGB通道值,改变量随机
  • PCA,干扰主要元素

目标检测

CV(computer vision)中,目标检测是并列与图像分类的一个重要应用

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • MNIST练习

    列夫托尔斯昊
  • 强化学习笔记8:整合学习和规划

    第7章节,讲了PG,从episode经验学习到 策略 policy 之前的章节,讲了从episode 经验学习到 价值函数

    列夫托尔斯昊
  • 强化学习笔记10:经典游戏示例 classic games

    对于石头剪刀布来说,最优策略,显然和对手agent策略相关,我们期望找到一种一致的策略策略,对所有对手都有效 什么是第i个玩家的最优策略\(\pi\)

    列夫托尔斯昊
  • CNN 常用网络结构解析 && 1x1 卷积运算 示意图

    VGG : conv3x3、conv5x5、conv7x7、conv9x9和conv11x11,在224x224x3的RGB图上(设置pad=1,stride...

    用户1148525
  • 一文了解各种卷积结构原理及优劣

    王小新 编译自 Medium 量子位 出品 | 公众号 QbitAI 卷积神经网络作为深度学习的典型网络,在图像处理和计算机视觉等多个领域都取得了很好的效果。 ...

    量子位
  • 图像处理论文详解 | Deformable Convolutional Networks | CVPR | 2017

    这个核心贡献在于,为什么卷积过程中卷积核一定要是正方形的?我的检测目标各种形状都有,为什么卷积核一定要是正方形的呢?

    机器学习炼丹术
  • 简谈卷积—幽默笑话谈卷积

    大侠好,欢迎来到FPGA技术江湖,江湖偌大,相见即是缘分。大侠可以关注FPGA技术江湖,在“闯荡江湖”、"行侠仗义"栏里获取其他感兴趣的资源,或者一起煮酒言欢。...

    FPGA技术江湖
  • 吃透空洞卷积(Dilated Convolutions)

    空洞卷积在图像分割需要增加感受野同时保持特征图的尺寸的需求中诞生,本文详细介绍了空洞卷积的诞生、原理、计算过程以及存在的两个潜在的问题,帮助大家将空洞卷积这一算...

    公众号机器学习与生成对抗网络
  • LRNNet:轻量级FCB& SVN实时语义分割

    语义分割可以看作是一种按像素分类的任务,它将特定的预定义类别分配给图像中的每个像素。该任务在自动驾驶和图像编辑等方面具有广泛的应用前景。近年来,轻量化神经网络的...

    3D视觉工坊
  • LRNNet:轻量级FCB& SVN实时语义分割

    语义分割可以看作是一种按像素分类的任务,它将特定的预定义类别分配给图像中的每个像素。该任务在自动驾驶和图像编辑等方面具有广泛的应用前景。近年来,轻量化神经网络的...

    计算机视觉

扫码关注云+社区

领取腾讯云代金券