前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Tensorflow Object-Detection API Mobile models在RK3399+MNN上推理时间比较

Tensorflow Object-Detection API Mobile models在RK3399+MNN上推理时间比较

作者头像
OpenCV学堂
发布2020-07-15 10:45:04
1.6K0
发布2020-07-15 10:45:04
举报
文章被收录于专栏:贾志刚-OpenCV学堂

前言

谷歌近期更新了Tensorflow Object-Detection API里面的detection_model_zoo,模型都是非常前沿的,其性能都处于该领域的领先水平,如下图所示:

引用谷歌官方对这几个模型的介绍:

  1. MobileDets outperform MobileNetV3+SSDLite by 1.7 mAP at comparable mobile CPU inference latencies. MobileDets also outperform MobileNetV2+SSDLite by 1.9 mAP on mobile CPUs
  2. MnasFPN with MobileNet-V2 backbone is the most accurate (26.6 mAP at 183ms on Pixel 1) mobile detection model we have released to date. With depth-multiplier, MnasFPN with MobileNet-V2 backbone is 1.8 mAP higher than MobileNet-V3-Large with SSDLite (23.8 mAP vs 22.0 mAP) at similar latency (120ms) on Pixel 1.
  3. SSDLite with MobileNet-V3-Large backbone, which is 27% faster than Mobilenet V2 SSDLite (119ms vs 162ms) on a Google Pixel phone CPU at the same mAP.
  4. SSDLite with MobileNet-V3-Small backbone, which is 37% faster than MnasNetSSDLite reduced with depth-multiplier (43ms vs 68ms) at the same mAP.

RK3399及MNN1.0环境

笔者的RK3399系统是带桌面的Xubuntu,系统自带Opencv4.0, 因此不需要安装Opencv。MNN可以在RK3399板子上直接编译,无需交叉编译。编译主要有三部分,模型转换部分,模型推理部分,模型训练部分,编译教程网上有很多,这里不多做叙述。

Tensorflow Object-Detection API环境

想使用这几个最新的模型,就需要更新detection_model_zoo库及tensorflow的版本,detection_model_zoo下载最新的即可,笔记是20200704下载的,tensorflow_gpu的版本是1.15,python3.5,CUDA10.0,cudnn7.6,其他的话,缺什么安装什么。

模型导出及部署

Tensorflow模型的导出及部署,参考了这篇知乎文章:https://zhuanlan.zhihu.com/p/70610865,按照这篇文章,可以得到MNN框架部署需要的mnn模型。笔者在RK3399测试的性能如下(未做量化,仅代表笔者的测试结果):需要说明的是,模型在运行过程中,板子非常容易发热,而导致模型的推理时间变长。

最后贴几张基于ssd_mobilenet_v3_large测试的效果图:

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-07-10,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 OpenCV学堂 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档