前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >手机CNN网络模型

手机CNN网络模型

作者头像
用户1148525
发布2019-05-26 12:04:37
1.1K0
发布2019-05-26 12:04:37
举报

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

https://arxiv.org/abs/1704.04861

https://github.com/hollance/MobileNet-CoreML https://github.com/shicai/MobileNet-Caffe

本文是 Google 针对手机等嵌入式设备提出的一个小网络模型,叫 MobileNets,主要侧重于简单有效。

这个 MobileNets 可以干什么了?

这里写图片描述
这里写图片描述

目标检测、细分类、人脸属性分析、场景识别

3 MobileNet Architecture 这个模型主要依赖于 Depthwise Separable Convolution 来降低计算量

3.1. Depthwise Separable Convolution 我们首先来看看什么是 Depthwise Separable Convolution 一个标准的卷积层输入输出分别是: 输入特征图F尺寸假定为 F×F× M, 输出特征图 G 尺寸假定为 G×G× N,卷积层可以参数化为 K×K× N× N 卷积核,

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

标准卷积计算量为:

这里写图片描述
这里写图片描述

其实标准卷积一次性做了两件事:普通的卷积 和 特征数量的变化 。Depthwise separable convolution 主要是将这两件事分开做。分为 depthwise convolutions 和 pointwise convolutions depthwise convolutions 就是使用 一个 滤波器对每个输入通道进行卷积,特征数量保持不变 Pointwise convolution 就是使用一个 1×1 卷积,将M个输入特征 变为 N个 输出特征

这里写图片描述
这里写图片描述

Depthwise separable convolutions 的计算量为:

这里写图片描述
这里写图片描述

上式加号左边为 Depthwise convolution 计算量, 右边是 Pointwise convolution 计算量。

通过比较两者的计算量我们得到节约了多少计算量,一般是 8-9倍:

这里写图片描述
这里写图片描述

3.2. Network Structure and Training

这里写图片描述
这里写图片描述

网络主体结构:

这里写图片描述
这里写图片描述

3.3. Width Multiplier: Thinner Models 如果我们想根据自己的意愿改变网络,这里只需要加入一个参数就可以了 width multiplier

3.4. Resolution Multiplier: Reduced Representation 这里又引入了第二个超参数可用于降低计算量 resolution multiplier

4 Experiments

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017年04月20日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档