专栏首页CNNer【模型优化】开源 |CVPR2020|ECA-Net深度卷积神经网络的有效通道注意,在图像分类、目标检测和实例分割方面更高效

【模型优化】开源 |CVPR2020|ECA-Net深度卷积神经网络的有效通道注意,在图像分类、目标检测和实例分割方面更高效

论文地址:http://arxiv.org/pdf/1910.03151v4.pdf 代码:https://github.com/bangguwu/ecanet 来源:天津大学智能与计算学院 天津机器学习重点实验室 论文名称:ECA-Net: Efficient Channel Attention for Deep Convolutional NeuralNetworks 原文作者:Qilong Wang

最近,通道注意力机制在改善深度卷积神经网络(CNNs)性能方面具有巨大的潜力。然而,大多数现有的方法致力于开发更复杂的注意力模块,以获得更好的性能,这不可避免地增加了模型的复杂性,加重了计算负担。为了克服性能和复杂性权衡的悖论,本文提出了一种有效的信道关注(ECA)模块,该模块只涉及少量参数k (k <= 9),但是能带来明显的性能增益。通过对SENet中的通道注意模块进行剖析,证明了避免降维和适当的跨通道交互对于学习有效的通道注意是非常重要的,可以显著的降低模型复杂度。因此,本文提出了一种无降维的局部跨通道交互策略,该策略可以通过一维卷积有效地实现。在此基础上,我们提出了一种自适应选择一维卷积核大小的方法,以确定局部跨信道相互作用的覆盖范围。本文提出的ECA模块非常高效,例如,我们的模块与ResNet50中的参数和计算量相比分别为80 vs. 24.37M和4.7e-4 GFLOPs vs. 3.86 GFLOPs,与目前Top-1的准确度相比性能提升超过2%。将ECA模块整合到现有的CNN架构中,命名为ECA-Net。以ResNets和MobileNetV2为背景,在图像分类、目标检测和实例分割方面对ECA-Net架构进行了广泛的评估。实验结果表明,与同类网络相比,ECA-Net具有更高的效率。

下面是论文具体框架结构以及实验结果:

声明:文章来自于网络,仅用于学习分享,版权归原作者所有,侵权请加上文微信联系删除。

本文分享自微信公众号 - CNNer(CNNer654723069),作者:赛蜗牛

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-05-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 开源 | CVPR2020 Deep Snake在32.3 fps 速度下512×512具有较高的实时应用效率

    论文地址:http://arxiv.org/pdf/2001.01629v3.pdf

    CNNer
  • 【综述】【点云分割】汇总199篇文献。北大—深入分析3D点云分割算法,以评估数据饥饿效应

    3D LiDAR语义分割是一项至关重要的任务,广泛应用于自动驾驶和机器人技术等领域。近年来,3DLiDAR语义分割的研究取得了长足的发展,特别是在深度学习策略方...

    CNNer
  • 开源 | CVPR2020 | 实时目标检测TTFNet采取高斯核的方式,提高了训练的学习率,减少了模型训练时间

    现有的目标检测很少能同时达到训练时间短、推理速度快、精度高等目的。为了在两者之间取得平衡,本文提出了训练时间友好网络(Training-Time-Friendl...

    CNNer
  • 添加百度Ping加快百度收录

    更新网站,然后等待搜索引擎来收录,这种被动式的方法现在已经过时了。现在很多博客系统都加入了Ping 服务功能,所谓Ping 服务,实际上是一种更新通知服务,它可...

    空木白博客
  • 浅谈Python中的模块

    为了编写可维护的代码,我们把很多函数分组,分别放到不同的文件里,这样,每个文件包含的代码就相对较少,很多编程语言都采用这种组织代码的方式。在Python中,一个...

    砸漏
  • perl模块安装大全

    今天又有小伙伴微信问我perl模块安装的问题,因为ENSEMBL发布的大多数数据库以及软件都是基于perl的,尤其是分量很重的VEP,所以即使你再如何如何的讨厌...

    生信技能树
  • Traefik 2.0 正式发布!

    寄予厚望的 Traefik 2.0 经过了一年的等待,今天终于正式发布了,此次大版本的更新添加了许多新功能,特别是大家都期望的支持 TCP 的功能。接下来我们就...

    灵雀云
  • Java魔法堂:打包知识点之META-INF/MAINFEST.MF

    一、前言                                        通过执行形如 jar -cvf src.jar src 命令将多个....

    ^_^肥仔John
  • 【AI Top10】北京地铁安检将设人脸识别,特斯拉Q1净亏扩大至3.3亿美元,各国政府加大AI投资

    新智元每日AI TOP 10 新智元 “每日AI ·TOP 10” 是新智元从 2017年5月起推出的一档快读栏目,精选汇集每日国内外最重大产业新闻,第一...

    新智元
  • kubernetes-1:使用kubeadm搭建K8S单master节点集群

    现在官方推荐的是kubespray,但也是基于kubeadm;除此之外,还有kind,minikube,但是并不试用于部署生产级别集群。

    千里行走

扫码关注云+社区

领取腾讯云代金券