专栏首页nginx遇上redis卷积神经网络之池化

卷积神经网络之池化

pooling层(池化层)的输入一般来源于上一个卷积层,主要有以下几个作用:

1.保留主要的特征,同时减少下一层的参数和计算量,防止过拟合;

2. 保持某种不变性,包括translation(平移),rotation(旋转),scale(尺度),常用的有mean-pooling和max-pooling。

mean-pooling(平均值)

对一块小区域取平均值,假设pooling的窗大小是2x2,

1.forward:就是在前面卷积层的输出的不重叠地进行2x2的取平均值降采样,就得到mean-pooling的值。

举例:

2x2区域取平均值:

不重叠的4个2x2区域分别mean-pooling。

2.backward:把一个值分成四等分放到前面2x2的格子区域里面就好了。

举例:

四等分(2/4= 1/2) 放到2x2的区域

四个值分别Backword

max-pooling(最大值)

即对一小块区域取最大值,假设pooling的窗大小是2x2,

1.forward:就是在前面卷积层的输出的不重叠地进行2x2的取最大值降采样,就得到max-pooling的值。

举例:

2x2区域取最大值

不重叠的4个2x2区域分别max-pooling

2.backward:在max-pooling前向传播时,只取最大值,其他值无作用。

因此反向传播时,只关注最大值,所以将残差传递到该最大值的位置,区域内其他2*2-1=3个位置置零。

四个值分别Backward。

本文分享自微信公众号 - nginx遇上redis(GGame_over_the_world)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-06-30

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 网络ddos和应用层ddos区别

    DDoS攻击是由DoS攻击发展而来的,根据攻击原理和方式的区别,可以把DDoS攻击分为两个阶段,即从传统的基于网络层的DDoS攻击和现阶段较为常见的基于应用...

    随心助手
  • 千防万防,黑客难防!获取远程桌面权限

    找到上传点,上传1.php文件失败,提示只允许上传jpg文件。于是传图马抓包改后缀

    随心助手
  • C语言中字节对齐问题分析2

    简单的说来就是为了提高cpu的性能,或者说是为了提高程序运行的效率。当然,在其背后更有简化cpu设计的功效。因此,我们写的c程序为了获得更高的运行效率就...

    随心助手
  • Packets larger than max_allowed_packet are not allowed(mysql数据查询提示:不允许超过允许的最大数据包)解决方案

    首先我的项目运用的时Mysql,在做一个数据更新操作的时候,提示异常:System.Exception:“ExecuteNonQuery:Packets la...

    追逐时光
  • 归一化与标准化详解

    归一化(Normalization) 1.把数据变为(0,1)之间的小数。主要是为了方便数据处理,因为将数据映射到0~1范围之内,可以使处理过程更加便捷、快速。...

    学到老
  • 归一化与标准化详解

    归一化(Normalization) 1.把数据变为(0,1)之间的小数。主要是为了方便数据处理,因为将数据映射到0~1范围之内,可以使处理过程更加便捷、快速。...

    学到老
  • Angular Schematics 三部曲之 Add

    因工作繁忙,差不多有三个月没有写过技术文章了,自八月份第一次编写 schematics 以来,我一直打算分享关于 schematics 的编写技巧,无奈还是拖到...

    叙帝利
  • VueJs开发笔记—IDE选择和优化、框架特性、数据调用、路由选项及使用

    一、IDE的选择:   VsCode和WebStorm都是不错的选择,说一下两者的优缺点,调试便捷性来说两者不相上下.   WebStorm缺点:性能方面VsC...

    Java中文社群_老王
  • 大数据安全分析的前世今生

    *本文原创作者:木千之,本文未经许可禁止转载 引言 截止到2012年,全球数据量已经从TB(1024GB=1TB)级别跃升到PB(1024TB=1PB)、EB(...

    FB客服
  • 小程序版博客——整体框架搭建

    在开发前,还是要稍微想下到底需要哪些功能,哪些页面,尽量有一些计划性(这对所有着手做的事都是一个道理)。

    Bug生活2048

扫码关注云+社区

领取腾讯云代金券