边缘智能IP，加速AI应用

8月9日，由中国高科技行业门户OFweek维科网主办，以“与AI大咖对话 看AI如何赋能万物”为主题的WAIE 2019 第四届上海国际人工智能展览会暨人工智能产业大会在上海新国际博览馆隆重开幕！Imagination中国区战略市场与生态高级总监时昕出席了本次会议，为大家带来题为《边缘智能IP，加速AI应用》的演讲，介绍了有着中资背景英国血统的英国芯片巨头Imagination，分析智能IP与AI间的关系。

Imagination中国区战略市场与生态高级总监 时昕

以下为时昕先生的发言内容，OFweek人工智能网编辑做了不改变原意的整理及编辑。

演讲原文如下：

谢谢大家，非常感谢主办方给我们这样一个机会，可以跟大家交流一下我们在人工智能方面的一些工作。我今天要做的报告的题目是《边缘智能IP，加速AI应用》。

近几年AI取得突破来源于三个方面，第一是数据，第二是算法，第三是计算算力的突破。我们主要的方向就是提高计算算力，能够让所有的AI应用算得更快。加速AI应用其实有两层含义，第一个含义就是刚才提到的提高计算算力使AI应用更快；另一层含义是，作为一个IP公司，我们可以帮助我们的客户更快地完成他们的应用设计。

Imagination公司是一家IP公司，我们的主要产品是GPU IP、人工智能加速器以及一些数据连接器。其中最为人所熟知的就是我们的GPU IP。大家都知道，现在做的所有的应用，最重要的一点就是用户体验需要做的好。要保证用户体验做得好，反过来就要考虑对于我们人类来说的话，在我们的感知当中哪一个感觉是最重要的？

毫无疑问是视觉。因为人类从外界所获取的信息当中，70％是来源于视觉，剩下大概有20％来源于听觉，再剩下的就包括触觉、嗅觉等等。所以做出来的应用要获得比较好的用户体验，GPU是非常重要的。

虽然Imagination公司大家听说的不多，但其实在生活当中基于我们的技术做的产品覆盖率已经很高了。基于我们的技术所设计的芯片，到现在累计全球出货量已经达到了110亿，包括智能手机、汽车电子等。在汽车电子的GPU方面，我们的市占率一度是业内最高的，前段时间稍有下降。除了智能手机、汽车电子之外，在广泛的IoT应用领域，包括AR／VR以及很多的消费电子里面都能看到我们的产品。虽然不能直接看到，但这些高端产品里面的GPU芯片，基本上都是使用我们的IP授权来设计的。这是我们的第一大类产品。

第二类产品是我们基于Power VR GPU开发出的专门针对AI的一些神经网络加速器。目前也已经有一些客户基于我们的Power VR NNA的硬件加速设计芯片已经投入量产。

第三类是我们的Ensigma连接部件。当今的社会有非常多的技术突破，包括AI、5G等等，这些突破带来了海量的数据，这些数据一方面需要很强大的算力处理，另一方面也需要更强大的传输能力来传递。我们收购的Ensigma就是针对数据连接这一部分进行发力。

我们的重点的产品是Power VR GPU。在GPU领域全球只有5家公司具有图形处理的基础专利，其中4家是美国公司，只有Imagination总部位于英国，是被中资全资收购了的中资企业。基于我们在GPU方面30多年的技术积累，我们在前几年推出了Power VR NNA，也就是neural network accelerator——神经网络加速器。这类产品在benchmark跑分结果排名第一。

我们的GPU产品除了图形处理能力之外，还会带来PVRIC4这样的压缩技术，这一技术跟我们的5G时代紧密相关。随着5G时代的到来，会有更多基于视频的应用出现，会有更多的带宽，我们相信针对视频的压缩未来也是一个非常关键的性能指标。我们上一代的压缩技术已经能够确保无损压缩，但它不能确保一定能够压到50％以下，因此按照这样的带宽去设计内存的容量，会对整个系统的硬件成本、电池寿命等产生较大影响。

我们推出的最新一代压缩技术是用两个流水线来做压缩。一个流水线确保无损压缩，另外一个流水线，就是确保压缩率小于50％。如果无损压缩不能达到50％的时候，我们就用有损压缩去替代它。实际上有损压缩到50％的时候，肉眼基本上看不出来。这样就带来一个好处，我们在任何情况下都能够保证50％的压缩率。这意味着系统所需要的使用的内存、相应的带宽、对应的电池寿命都可以节省一半。

另一项比较得意的技术是光线追踪技术（ray tracing）。如果说CPU GPU是处理器设计的皇冠的话，那么ray tracing这个技术就是皇冠上最大的那颗宝石。我们知道，光栅化是传统的GPU图形处理技术，它的好处在于计算量相对较小，但对于有反射折射的地方，它模拟出来的图片效果就没有那么的真实。而ray tracing技术是模拟真实世界里面一个光源发出了数百万个光线照射到不同的材质上面，经过数次反射折射，最终呈现出照片级的真实的效果。但它对计算量要求非常大。Imagination在2017年的时候推出了一项专用于移动设备的ray tracing技术，能够满足对性能、功耗、实时性的要求，可用于手持设备上。而传统的场景则依然使用光栅化方式来做。

为什么我们会同时推出GPU和NNA这样两个技术？因为在做处理器很多情况下需要进行折中。如果要达到最好的普适性就用CPU来做，所有的算法都可以在CPU上跑，但缺点就是多算法效率比较差。另外一个极端就是把所有的算法全部硬化，把软件的东西全部用硬件来实现，那它的效率一定是最高的。但是这里的问题就是算法不能有一点改变，没有任何普适性，算法有一丁点调整整个处理器就用不了。

而在这两个极端中间其实是有很多的过渡空间，比方说可以用DSP来做AI。但这也要面对一些难题，DSP的编程是很困难的，同时DSP更多专注于做定点运算，对浮点运算是不太擅长的。而将GPU用于AI运算为AI产业带来很大突破，虽然GPU拥有很好的普适性和编程效果，但它的计算效率还有更多的空间。所以在这个基础上，我们投入在专门做神经网络处理的NNA，它介于GPU和完全硬化的设备之间，既有一定的普适性，又能保证一定的效率。所以我们的两个产品GPU和NNA结合在一起，通过一种异构的方法，能够既满足普适性，同时又能够提供很高的计算效率。

目前很多初创公司都号称做了一个专用的AI芯片，在benchmark理论上计算分能够达到多少？但AI不仅仅是需要硬件，它还需要软件，是一个整体的系统。我们的NNA，包括我们的GPU有一个最大的好处，不仅仅在于我们的性能最好，benchmark跑分第一，还在于我们对软件方面的支持是最丰富的，所有主流的框架我们都支持。我们还有很多现成的已经做好的网络，包括常见的inception，mobilenet，resnet，SSD等。也就是说我们的用户可以非常方便的去实现他们自己的网络，同时也能够非常容易的在我们的芯片上跑起来。

除了AI应用之外，我们讲边缘计算还有一点就是汽车电子。这两年我们可以看到汽车上使用屏的地方越来越多了，可能后视镜以后不再是一面镜子而是一个显示屏。汽车电子有它自己的独特性，和消费电子不同。从设计流程上来说的话，汽车电子芯片需要一个特定的认证流程，不符合设计流程的芯片不能进入汽车系统。此外它的生命周期也比一般的消费电子要长很多，一般的消费电子可能几年产品就消失了，不再继续支持，但汽车电子的产品推出之后还要能够保持长达10年左右的技术支持。

目前非常火的自动驾驶也需要更多的计算能力。要在有限的空间里面放下这么多的计算能力，同时又不能导致过分的消耗电力，也不会带来太多散热问题，就需要用到我们刚才讲的异构计算的技术。我们可以通过不同的处理器架构来满足不同的任务。比方说我们在做全场景、全视野图像拼接的时候，可以用GPU来做图像的变形和拼接；做路径规划的时候，我们可以用神经网络加速器单元来完成；包括语音识别、人机接口这种娱乐系统，我们可以使用GPU来处理；对于一些目标检测，我们可以使用神经网络处理器来加速。通过这种异构的方式，我们可以帮助我们的客户在一辆车的空间内实现非常强的计算能力。

接下来再简单说一下，我们第3产品线就是我们的Ensigma。我们Ensigma的专家都是当年WIFI和蓝牙标准制定组的专家，在这方面已经推出5代的产品，同时累积的出货量也已经到几千万。也就是说，因为我们有了GPU NNA IP，再加上我们的数据连接IP，我们可以帮助客户直接设计出一个系统级的SoC芯片出来。

说起SoC，除了外围的GPU、NNA和WIFI蓝牙之外，还有非常核心的一点，就是CPU。CPU是所有的电子系统里面必不可少的中央处理单元，在CPU方面我们也有很多布局，和主流的CPU都能配合使用，同时我们也与最近很火的RISC－V的IP与芯片公司有着密切合作。

最后总结一下，Imagination是一家做GPU和AI，包括数据连接的一个IP公司。在GPU方面，我们是世界上唯一的一家具有基础专利，同时又跟美国没有任何关联的公司。在AI方面，虽然目前国内做AI芯片的公司多如牛毛，但我们相信整个AI产业刚刚起步，整个AI产业的发展包括应用的发展，其实是一场非常艰苦的马拉松运动，而不是一个100米的赛跑。这项运动才刚刚开始，能够坚持到最后也只有少量的玩家。我们希望能够帮助我们的客户一起坚持到终点。

谢谢大家。