专栏首页吉浦迅科技有人对比测试Google Coral Edge TPU和NVIDIA Jetson Nano,结果居然是....

有人对比测试Google Coral Edge TPU和NVIDIA Jetson Nano,结果居然是....

今天Lady我发现脸书上在传一篇评测报告:

可惜这篇文章不能看

点击阅读原文,我把链接放上,但我估计很多人都看不了。

我在这里会附上他的测试结果,实际我认为国内某些公众号会把这篇文章翻译成中文(现在TPU和Nano都是炙手可热的热点啊),所以我就先撕为敬!

先放上他的测试结果:

纳尼?别人上TensorFlow Lite(TFLITE)都提速了,只有Nano上了lite版本的还变慢了。

文章里还说:Look a bit closer, and you’ll see the GTX1080 actually got beaten by the Coral.

难怪有网友也不淡定了,说:

注意一个大前提:

Coral一直跑的是TensorFlow Lite,这是谷歌给EDGE TPU优化过的。

文章测试的GTX1080就是直接跑TensorFlow,用的是FT32,还不是FT16,更不是Int8.

注意,Coral只能跑Int8

一个是浮点数,一个是INT8,能直接比么?有本事至少让1080上INT8,或者上图灵卡,有16X的INT8加速的,再比?

文章作者还补了一刀,说:

GTX1080 draws a maximum of 180W, which is absolutely HUGE compared to the Corals 2.5W。

人家GTX1080就不是让你这么用的好吧?

GTX1080表示很委屈:你们不是边缘计算么,扯我干嘛...有本事让我大哥RTX2080来?

文章里又说了:

the NVIDIA Jetson Nano isn’t scoring well at all. Although it has a CUDA enabled GPU, it’s really not much faster then my old i7–4870HQ. But that’s the catch, ‘not much faster’, it still is faster then a 50W, quad-core, hyperthreading CPU

这个你得让人家4870HQ上OpenCL,用起GPU。这样让一个APU的CPU部分和你的GPU部分比,不公平。

要么都上GPU比,要么都只用CPU比。

关于对Nano的评价,说Nano isn’t pumping out impressive FPS rates with the MobileNetV2 classifier,

这个不妨让NANO上TensorRT看看

文章中作者还表达了一个观点:

他说—— 为何不在GPU上使用8-bit模型? GPU原生的被设计成细粒度并行的浮点计算器。所以使用float才是符合它设计的目的,也是它最擅长的。而EDGE TPU被设计成处理8-bit的工作... 而CPU能很聪明的处理8-bit的工作,而不是全幅大小的(32-bit)float,因为CPU们很多情况下经常需要处理8-bit的任务。

对于GPU,看来老黄从GTX1080开始引入的4倍INT8的努力,和图灵引入的16倍 INT8努力,全白费了, 作者直接认定float是它最擅长的。另外,我们从来没有看出来CPU哪里天生或者天天处理8-bit的stuff的。新一代的AVX-512中才有了8-bit的点乘扩展的。

以及,不要让作者带歪了。4870HQ的主要算力在GPU上,这是一款APU!一款GPU很强的APU。128MB的L4 cache,也是最初是主要为了GPU部分而设计的(当然CPU部分也能用到它)。主要矛盾在于GPU没有启用,而不在于CPU上用什么类型的细枝末节。

所以总体上,我们认为这是一次有失公平的对决,作者并没有展现出应有的技术严谨。

Nano没用FP16,也没用TensorRT,发挥不出自己的长处; 而EDGE TPU用的是谷歌的Runtime(你理解成tensorrt好了),还用了专门谷歌提供的INT8模型(肯定优化过)。这种比较等于让一个人赤手空拳,对阵一个拿着武器的,这不公平。就比如我们也可以搞一个评测,弄个FP16的模型,然后Nano跑的如何如何,而Coral根本就运行不起来,精度为0

本文分享自微信公众号 - 吉浦迅科技(gpusolution),作者:WhoseAI

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-04-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 不用老黄上场,看我如何用GTX1080来撕谷歌的TPU

    如果最近关心微博或者朋友圈的话, 你会发现, 谷歌的TPU的宣传铺天盖地。 谷歌关于TPU的论文里,性能数据是这样写得: ? 于是很多媒体便大张旗鼓地说: (...

    GPUS Lady
  • NVIDIA NVLink 崭新连接方式 较 PCIe 界面更具效率

    本周美国能源署宣布计划打造两部搭载 NVIDIA GPU 加速器的超级计算机,每秒运算速度将可达 100 petaflops , NVIDIA 并正为超级计算...

    GPUS Lady
  • NVIDIA System Profiler 使用介绍(中文字幕)

    NVIDIA System Profiler(前身为Tegra System Profiler)是一个系统跟踪和多核CPU call stack采样的分析器,它...

    GPUS Lady
  • 2019年云计算的预测:日趋向上的价值链

    很多首席信息官们表示,对于安全和稳定性的担忧更多的是感知而非现实,随着软件容器的迅速采用,许多企业将业务迁移到云平台上。容器技术使得在任何计算环境中运行软件变得...

    静一
  • javascript入门笔记7-计时器

    计时器 语法: setInterval(代码,交互时间) 参数说明: 代码:要调用的函数或要执行的代码串。 交互时间:周期性执行或调用表达式之间的时间间隔,以...

    方志朋
  • SAP最佳业务实践:FI–自建资产(资本投资订单)(164)-1业务概览

    用途 于在建工程完成建设之前对其资产进行监控 优点 为在建工程购置资产建立清晰的视图 处理流程中涉及的公司角色: 采购员 采购主管 资产会计 应付帐款会...

    SAP最佳业务实践
  • 开发 | Facebook的数据预测工具Prophet有何优势?用贝叶斯推理一探究竟

    AI科技评论按:2月23日,Facebook开源了一款基于 Python 和 R 语言的数据预测工具——“Prophet”(。本文则详细介绍了Prophet的贝...

    AI科技评论
  • Facebook 的数据预测工具 Prophet 有何优势?用贝叶斯推理一探究竟

    编者按:2月23日,Facebook开源了一款基于 Python 和 R 语言的数据预测工具——“Prophet”(详细报道请看 AI 研习社此前文章 :支持P...

    AI研习社
  • 经典SQL语句大全之数据开发

    1.按姓氏笔画排序: Select * From TableName Order By CustomerName Collate Chinese_PRC_Str...

    陈珙
  • 【云架构】云安全和隐私:法律合规与风险管理指南,第2部分

    在这个由两部分组成的系列文章中,法律专家Robert McHale是“数据安全和身份盗窃:影响您的业务的新隐私法规”的作者,它提供了与云计算相关的法律安全和隐私...

    首席架构师智库

扫码关注云+社区

领取腾讯云代金券