专栏首页大学生计算机视觉学习DeepLearning深度学习(一)神经网络中的池化与反池化原理

深度学习(一)神经网络中的池化与反池化原理

原文作者:aircraft

原文链接:https://www.cnblogs.com/DOMLX/p/9579108.html

参考博客:https://blog.csdn.net/chengqiuming/article/details/80300284

一.池化

大家学过神经网络的都知道,在神经网络中有一层是pooling层也就是池化层,通过池化对特征进行提取并且缩小数据

下图是maxpooling 也就是最大池化,举例以一个2*2的卷积核,步长为2,来遍历整个矩阵,每经过一个2*2的区域就将这块区域

中的最大值提取出来存放。具体如下图所示

同理avgpooling也就是平均池化层就是将2*2的区域的所有值加起来取得均值存放。

二.反池化

反池化是池化的逆操作,是无法通过池化的结果还原出全部的原始数据。因为池化的过程就只保留了主要信息,舍去部分信息。

如果想从池化后的这些主要信息恢复出全部信息,则存在信息缺失,这时只能通过补位来实现最大程度的信息完整。

池化有两种:最大池化和平均池化,其反池化也需要与其对应。

(1) 平均池化和反平均池化

  首先还原成原来的大小,然后将池化结果中的每个值都填入其对应原始数据区域中相应位置即可。

平均池化和反平均池化的过程如下:

(2) 最大池化和反最大池化

  要求在池化过程中记录最大激活值的坐标位置,然后在反池化时,只把池化过程中最大激活值所在位置坐标值激活,

其他的值设置为0.当然,这个过程只是一种近似。因为在池化过程中,除了最大值的位置,其他的值也是不为0的。

最大池化和反最大池化的过程如下:

最后我这是一列的学习笔记,有兴趣入门深度学习的可以看看在下后面的深度学习系列的笔记。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 程序员的走与留?

    初级开发人员在他们的职业生涯早期必须考虑的一个大问题就是,他是该离开还是留下。我在我职业生涯的早期发现,相对于我的同事我所得的报酬过低,而这仅仅是因为他们工作的...

    哲洛不闹
  • 面试想拿 25K,HR 却说只值 15K,技术人该如何反驳?

    知乎上看到这样一个问题:面试的时候想拿xx,HR却说我只值xx,这种情况下应该怎么办?

    养码场
  • 程序员的走与留?

    初级开发人员在他们的职业生涯早期必须考虑的一个大问题就是,他是该离开还是留下。我在我职业生涯的早期发现,相对于我的同事我所得的报酬过低,而这仅仅是因为他们工作的...

    哲洛不闹
  • “生于忧患,死于安乐”之程序员人生

    没错,大多人的经历都是如此!这样艰苦的奋斗,不断的努力,使我们在这个行业立足。正是这份兴趣、这份毅力、这份坚持支撑着我们,才让我们走到了现在。

    CrazyCodes
  • IT 已成为最疯狂的加班行业,没有之一

    夜幕降临,当IT大楼里依然灯火通明时,那一刻,我仿佛王进喜、石传翔等劳模灵魂附体,我知道我不是一个在加班,我不是一个人!连续9个通宵加班都不是事,一点不夸张,这...

    哲洛不闹
  • 为什么你应该学习编程

    很多人,从HR专业人员到市场营销专业人员,都在硅谷工作,但硅谷对编程专业人士的需求更多,也更重视这个行业。大多数人往往更偏爱一个收入更高的工作。

    哲洛不闹
  • 破窗效应

    宇相
  • 电车难题:妈和媳妇儿落水到底先救谁?

    宇相
  • 鸟笼逻辑

    宇相
  • 为什么跳槽加薪会比内部调薪要高?

    之后的若干年加薪都是遵循企业内部晋升通道,如果企业加薪幅度赶不上同岗位市场薪酬回报的上涨幅度,就会出现题主所说的现象。

    哲洛不闹

扫码关注云+社区

领取腾讯云代金券