随着人工智能(AI)在各个领域应用的不断普及,虽然应用的方式和方法不尽相同,但唯一相同的点是,所要处理的数据都在不断增长,因而对于算力的需求也不断增加。
目前的AI芯片种类很多,包括CPU、GPU、DPU以及NPU等,各种PU层出不求。在这么多PU中,NPU对于AI应用来说是一个独特的存在。
NPU不仅是一种技术加成
NPU也称为神经网络处理器,是一种专门的硬件加速器,主要执行机器学习所需的数字运输,尤其是那些涉及神经网络的任务,NPU可加快深度学习模型的训练和推理阶段,使其能够在许多设备上更高效地运行。
目前的很多AI任务都涉及到对图片内容的学习和处理,然后进行分析和推理,如AI美颜等。而传统的CPU的主要职责不仅要进行数据运算,还需要执行存储读取、指令分析、分支跳转等任务。当需要处理大量数据时,CPU将需要花费大量的时间进行数据的读取和分析,而CPU的频率、内存的带宽等条件又不可能无限制提高,因此限制了CPU的性能。
因而,GPU出现了。GPU的控制则相对简单,它的计算速度远高于CPU。同时GPU又拥有更加强大的浮点运算能力,可以缓解AI深度学习算法的训练难题。而NPU则是专用于卷积神经网络的计算,如前所述,它尤其适用于机器学习的训练和推理。同样的AI计算任务,在拥有NPU的前提下会比单纯的CPU运算提升约50倍能效和25倍性能,可以实现更快的处理速度,而且耗能更低。
所以,对于目前的AI机器学习应用来说,NPU不仅是一种技术加成,它也能提升设备在感知、认知、安全等方面的处理能力。
构建NPU开放生态
目前国内应用NPU芯片的项目,大多都倾向于使用自研的NPU产品,这样导致整个硬件平台的极其碎片化,而且每一个硬件都需要一个软件工具链来配套。一旦硬件平台更换,那整个软件工具链也需要替换,这样就极大增加了应用开发的成本和周期。
近日,安谋科技推出了其自研的新一代人工智能处理器——“周易”X2 NPU。这款产品不仅在技术方面进行了很大升级,同时在生态构建方面也进行了软件开源。
“周易”X2提出了一个集群(Cluster)的概念。以往的“周易”X1和“周易”Z系列都是单核的NPU解决方案,而“周易”X2可以实现多核集成,这样算力就可实现成倍的提升。同时,集群内部之间通过总线互联,用于数据的沟通和维护。此外,多个集群也可以进行集成,可以构成一个子系统以支持更大算力需要的产品。
安谋科技NPU研发高级总监孙锦鸿表示:“周易”X2 NPU实现了算力的可扩展,同时在提高单核的效率方面也做了很多针对性的优化。”
(图源:安谋科技)
在发布“周易”X2 NPU的同时,安谋科技也宣布了“周易”NPU软件开源计划,并公布了生态伙伴计划的最新进展。安谋科技产品总监杨磊表示:“目前,NPU在推理侧有比较严重的碎片化问题,这对应用端的创新造成了一些困扰或者需要更大的投入。我们希望周易NPU软件开源计划可以更好地帮助开发者和用户更快地将算法部署到NPU上。因为NPU不是一个纯粹的硬件加速器,它也有很强的软件属性。”
而生态伙伴计划则并不只是面向芯片客户,而是面向上下游所有可能的参与者。此外,生态伙伴计划也不仅仅只是把NPU作为一部分,而是安谋科技整个自研的产品矩阵都是计划中的一部分,包括“周易”NPU、“山海”SPU、“星辰”CPU、“玲珑”ISP、“玲珑”VPU等,都能为这个计划中的合作伙伴提供技术方案。
杨磊表示:“安谋科技希望通过这样的方式,帮助更多的合作伙伴将技术方案快速落地,也希望更多的伙伴能参与到该开源项目中来,共建一个繁荣生长的NPU产业生态。”
NPU应用市场
目前的NPU的应用大多集中在智能手机等智能终端设备中,包括华为、苹果等手机厂商都已经在其智能手机中应用了NPU芯片。
除了智能终端市场,安谋科技此次发布的“周易”X2 NPU的另一个主要目标市场是汽车。目前,随着自动驾驶技术在汽车中的应用越来越多,智能驾驶的等级也越来越高,自动驾驶技术对于AI的需求也越来越多,不仅是ADAS中配置更多的摄像头和雷达,同时车身周围以及车内的各种监视和辅助决策系统,它们都需要更高的帧率、更大的算力、更多的安全性等需求。
安谋科技执行副总裁、产品研发负责人刘澍表示:““周易”X2 NPU在这些方面都能提供很好的支撑。目前的智能汽车中都已经配备L2级智能辅助驾驶系统,未来L3、L4的普及将会带来更大的发展机遇。我们希望能助力目前越来越多的中国本土智能汽车品牌的发展,支持中国自动驾驶成熟量产方案的落地。”
结语
2021年,我国多数都是采用GPU来加速数据计算,市场占有率达近90%,而包括NPU在内的非GPU芯片的市场占有率只有10%左右。虽然NPU近几年的增长较为明显,但相较于整个市场的体量,其市场占有率还是很小的一块。
随着如汽车、智能手持设备等领域对于算力需求的进一步增长,NPU凭借其本身在算力效率和功耗方面的优异表现,其用武之地肯定也会越来越多。
领取专属 10元无门槛券
私享最新 技术干货