英特尔推出升级版VPU：引入神经计算引擎，提速10倍

安妮 编译整理 量子位 出品 | 公众号 QbitAI

今天凌晨，英特尔推出Movidius Myriad X视觉处理单元（VPU），它是一种低功耗系统芯片（SoC），引入了神经计算引擎（Neural Compute Engine）的新结构。

神经计算引擎是一种集成在芯片上的DNN加速器，有了它的助力，Myriad X功率低且性能强，可为无人机、相机、安全系统、VR/AR设备、360度摄像头等设备的视觉和AI应用提供高效解决方案。

这也被视为英特尔在边缘计算（Edge Computing）领域的重要步骤。

一个多月前，已被英特尔收购的Movidius发布了售价仅79美元的U盘型计算棒运行神经网络，其处理内核是Myriad 2 VPU。英特尔称Myriad X是Mariad 2的升级版，在性能上有所提升。

△ 上月发布的Myriad 2计算棒

Myriad X性能如何呢？

官方公布的信息显示，Myriad X长8.7毫米，宽8.5毫米，比成年人的拇指盖还要小。它理论上每秒可执行超过4万亿次操作，同样的功率下，Myriad X运行神经网络的速度比Myriad 2快10倍。

△ Myriad X介绍图，左上为芯片与美元5分硬币的大小对比

速度的提升很大程度上归功于在Myriad X上引入的神经计算引擎。这种硬件块让Myriad X的DNN推理的实际吞吐量达到每秒一万多亿次运算（TOPS）。该芯片还配备了16个向量处理器处理图像，比4个Myriad 2配置的还多，还有一个扩展的芯片内存池。

英特尔称，这些增强的性能可以使Myriad X从8个不同的摄像头每秒处理高达7亿像素的视觉输入，这个比拇指盖还小的硅片也可被安装在各类设备上。

△ Myriad X与Myriad 2两者性能对比

神经计算引擎的能力令人印象深刻，但在如此低功率下提供高性能的推理并不简单。Myriad X主要融合了4个重要的设计元素：

灵活的SHAVE处理器：SHAVE处理器的原始性能达到了数百个GFLOPS，加速神经计算引擎的硬件固定功能。

大规模并行的中央内存：深度神经网络创造出大量的中间数据，将此放入芯片帮助用户减少带宽，避免性能障碍。Myriad X芯片内存设计将移动中间数据的成本降到最低。

灵活的精度：Myriad X VPU本身支持混合精度和灵活的硬件，在低功率中运行深度神经网络离不开Myriad灵活混合精度的支持。

优化的库和框架：正在研发开发工具包中有与架构紧密相关的专用软件库，可支持矩阵乘法和多维卷积的持续性能。此外，里面还包含另外一种工具，能将训练过的PC模型自动移植到Myriad的基础架构中。

Movidius也设想过Myriad X的应用场景，比如无人机制造商可将此集成到四轴飞行器，帮助它们识别和躲避障碍物。相机制造商可利用Myriad X自动突出显示用户对视频中感兴趣的部分。英特尔还将VR耳机、智能设备和机器人等列入可用处理器处理的范围。

同时Movidius也表示，Myriad X不会取代Myriad 2，去年一月Myriad的价格已降至不足10美元，但使用了成本较高的FinFET处理和额外硬件特征的Myriad X，将以更高的售价进入不同的市场。

从云端走下来的人工智能，正一步一步走入我们的生活。