有效感受野

Understanding the Effective Receptive Field in Deep Convolutional Neural Networks NIPS 2016

本文主要分析了 CNN 网络中的 Receptive Field,发现实际有效的感受野 和 理论上的感受野 差距比较大,实际有效的感受野是一个高斯分布。

We introduce the notion of an effective receptive field, and show that it both has a Gaussian distribution and only occupies a fraction of the full theoretical receptive field.

2.1 The simplest case: a stack of convolutional layers of weights all equal to one 先分析了一种特殊情况,所有滤波器的权值全部等于 1 。2D 变成两个 1D 相乘,所以可以首先分析 1D 的情况 首先我们从数学上证明了 Effective Receptive Fields 在 1D 是一个高斯分布,随后推出 2D ,大于2D的情况都是高斯分布

2.2 Random weights 接着证明了 当滤波器权值是随机值时, effective receptive field 的分布仍然是高斯分布

2.3 Non-uniform kernels 还是高斯分布

上图 理论感受野尺寸分别是 11*11, 21*21, 41*41, 81*81 有效感受野对应正方形中额白色区域,符合高斯分布

不同激活函数得到的有效感受野略有不同

Subsampling 和 dilated convolution 都可以增加 有效感受野范围

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 卷积网络基础知识---Depthwise Convolution && Pointwise Convolution && Separable Convolution

    https://yinguobing.com/separable-convolution/#fn2

    用户1148525
  • 快速目标检测--Object detection at 200 Frames Per Second

    Object detection at 200 Frames Per Second

    用户1148525
  • 语义分割--Attention to Scale: Scale-aware Semantic Image Segmentation

    版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.n...

    用户1148525
  • 【链安科技】游戏Fomo 3D合约漏洞

    自7月8日,一款运行在以太坊上的带有明显博弈性质的区块链游戏火了,这是继EOS-RAM之后,又一个用惊人收益刷新着我们认知的“新物种”,它就是Fomo 3D。

    辉哥
  • 六个诀窍帮你抵御DDoS攻击

    随着黑客们隐藏自己的手段愈发高明、攻击招式更为凶狠,各行各业的安全领导者们需要尽快做好准备。如果向全国各大主要银行的CSO们询问近几个月来所遭遇过的分布式拒绝服...

    小小科
  • 微信小程序版博客——小程序授权登陆的一点优化

    通常授权登陆在第一次登陆小程序时提示,但很多用户会拒绝,接下来的流程就比较尴尬了。

    Bug生活2048
  • Js微信公众号引JS-SDK调起微信支付

    任我行RQ
  • DDOS和CC攻击该如何有效防御

    一、常见的网站攻击有两种: 1.CC攻击:也是流量攻击的一种,CC就是模拟多个用户(多少线程就是多少用户)不停地进行访问那些 需要大量数据操作(就是需要大量CP...

    余初掌柜
  • python-thread & thre

    参考:http://blog.csdn.net/eastmount/article/details/50155353

    py3study
  • 浅析某针对乌克兰国防和经济部门的大规模钓鱼事件

    石楠花开前,小河西村检测到多起针对乌克兰国防和经济部门的攻击事件。在短暂的分析之后,我们惊讶地发现这是一起持续且大规模的网络间谍活动,乌克兰是主要的受害国。

    FB客服

扫码关注云+社区

领取腾讯云代金券