重磅 | IBM TrueNorth 类脑芯片突破，SNN 杀手级应用有望诞生

【新智元导读】IBM 研究人员昨天在 PNAS 发文，报告他们训练卷积神经网络在 TrueNorth 处理器上分类图像和语音，精度接近目前最先进水平，每秒处理 1200~2600 帧，能耗只需 25~275 毫瓦（相当于超过 6000 fps/W）。这一工作首次将深度学习算法的力量和神经形态处理器的高能效相结合，为研发下一代嵌入式智能终端铺平道路。

2014 年，IBM TrueNorth 推出的时候，Yan LeCun 评论称：TrueNorth 实现的是积累放电脉冲神经元构成的网络。这种类型的神经网络从来没有在任何有意义的任务（比如从 ImagetNet 数据集中识别物体）上得出能够与最先进技术相提并论的精度。脉冲神经元的输出是二元的，其优点在于不需要乘法器（神经元的状态本身就是二元的）。但是，要完成像 ImageNet 这样的任务，需要神经元状态达到 8 位的精度。要达到 8 位精度，需要等好几个周期让脉冲“平均下来”。这降低了整体计算的速度。

现在，这个问题得到了初步解决——IBM Almaden 研究中心研究员日前展示了 TrueNorth 类脑芯片能够在分类图像和语音时达到很高的精度。

一篇昨天正式发表于 PNAS 的论文，描述了IBM 研究员训练卷积神经网络在神经形态硬件上分类图像和语音，在 8 个标准数据集上达到了接近目前最先进的精度，每秒 1200~2600 帧的速度处理，能耗 25~275 毫瓦。

这一工作首次将深度学习算法的力量和神经形态处理器的高能效相结合，向着实现嵌入式类脑智能计算又迈进了一步。

快速、节能神经形态计算的卷积神经网络

Steven K. Esser, Paul A. Merolla, John V. Arthur, Andrew S. Cassidy, Rathinakumar Appuswamy, Alexander Andreopoulos, David J. Berg, Jeffrey L. McKinstry, Timothy Melano, Davis R. Barch, Carmelo di Nolfo, Pallab Datta, Arnon Amir, Brian Taba, Myron D. Flickner & Dharmendra S. Modha

摘要

如今深度网络能够在一系列不同的识别任务中表现达到人类水平。另一方面，神经形态计算现在经由一个新的、基于脉冲神经元、低精度突触和可扩展通讯网络的芯片结构，展现了前所未有的能效。在本文中，我们展示了神经形态计算尽管在体系结构上相对原始，但也能够让深度卷积网络实现： 1）在 8 个标准数据集上达到最先进的分类精度，数据集包括视觉信息和语音信息；2）在保持硬件底层能效和高通量的同时进行推理，在上述 8 个数据集中以每秒 1200—2600 帧的速度，能耗 25—275 毫瓦（相当于超过 6000 fps/W）；3）能够被指定（specified）并使用反向传播算法训练，和训练现代深度学习同样轻松。深度学习算法的力量首次与神经形态处理器的高能效相结合，向着实现嵌入式类脑智能计算又迈进了一步。【进入新智元公众号，在对话框输入“0922”下载论文】

不同规模的网络在一个或多个TrueNorth 芯片上对8个数据集进行推理。作为对比，粗横线表示当前最高精度。

新一代嵌入式智能终端

论文中所描述的新的 TrueNorth 处理器架构，能够一次性实时检测 50~100 个摄像头中的模式，这些图像的像素 32×32，速度为标准电视信号的 24 fps。最关键的，是能够在智能手机电池上运行，连续几天都不需要充电。

论文的核心是一个新的算法，能够训练深度网络在神经形态芯片上高效运行。同时，这一神经形态深度网络能够像 MatConvNet 这样的深度学习系统一样训练，因此数据科学家在使用时可以不用操心 TrueNorth 芯片的架构细节。

将卷积神经网络映射到 TrueNorth 芯片上

研究人员指出，TrueNorth 及原型芯片的规格是在 2011 年开发的，而 2012 年以后卷积神经网络（CNN）才再次开始得到重视。因此，TrueNorth 的设计并没有针对 CNN。而实验结果表明，TrueNorth 不仅能够实现论文中描述的 CNN，还能够支持一系列不同的连接模式（反馈、横向及前馈传播），还能在同一时间实现一系列其他算法。

此外，这一研究还展示了神经形态计算和深度学习在结构和运算上的差异并不是根本的，类脑计算这条道路是可行的。

IBM 研究院类脑计算首席科学家、论文作者之一的 Dharmendra Modha 表示，类脑计算的目标就是实现一个可扩展的神经网络基质，并以此解决时间、空间、能量等基本问题。“这一新的里程碑证明，类脑计算的高能效能够与深度学习的高性能结合在一起，为新一代认知计算铺平了道路。”