会“学习”的超导人工突触：让神经形态计算更快更节能！

近日，美国国家标准与技术研究院（NIST）的研究人员制造出了一种超导开关，也被称为人工突触。它能像生物系统一样进行”学习“，并可以在未来类脑计算机中连接处理器并存储记忆。

背景

人脑具备非常强大的计算能力，其复杂程度和处理能力远远超过最先进的超级计算机。那么，大脑是如何具备如此强大计算能力的呢？

下面为大家简单说明一下。如图所示，大脑执行计算时，它会在神经元之间传递电化学信号。

（图片来源：NIST）

这些信号的传输受到一个关键连接结构控制，它就是突触。

（图片来源：NIST）

突触的感受能力决定了突触后神经元是否会对于信号作出响应。

（图片来源：NIST）

如果信号不够强，突触后神经细胞将不会作出响应。发送的信号越多，那么突触的感受力就会加强，这样就使得突触具有了学习能力。

人脑由两个主要组成部分：神经元网络和突触。它与机器相比具有显著优势：第一，并行处理和存储大量数据；第二，进行并行处理的能耗极低。

神经形态计算，被认为代表了未来人工智能的重要发展方向，引起了科学界的浓厚兴趣。不同于传统的冯·诺依曼计算机体系结构，神经形态计算的灵感来源于人类大脑，它模仿神经突触和神经元，将负责数据存储和数据处理的元器件整合到同一块芯片中，更节能、更快速、更高效地处理和学习数据。

之前，笔者介绍过一种特殊的电子器件：忆阻器。它能够模仿神经突触和神经细胞的功能，启动神经形态计算，并且在能耗和尺寸上都具有优势。关于忆阻器的创新研究成果，之前介绍过的案例很多。例如，前些天，笔者刚介绍过美国国家标准与技术研究院（NIST）的科学家们揭示出了忆阻器的内部工作机制。

（图片来源：NIST）

创新

今天，笔者要介绍的创新成果也是来自NIST，同样也是可用于类脑计算机和神经形态计算的电子元器件，但是这一次却不再是忆阻器。

近日，NIST 研究人员制造出了一种超导开关，它能像生物系统一样进行”学习“，并可以在未来类脑计算机中连接处理器并存储记忆。

研究人员在《科学进展》（Science Advance）杂志上详细描述了这种超导开关。它也被称为人工突触，与生物学中的突触功能类似。这项研究由美国情报先进研究计划署（IARPA）的低温计算复杂性项目赞助。

技术

突触是脑细胞之间的一种连接或者开关。NIST制造的人工突触是一个直径10微米的金属圆筒，就像真实突触一样，因为它可以处理输入的电尖峰脉冲，从而定制输出的尖峰脉冲信号。这种处理基于一种柔性内部设计，可以根据经验或者所处的环境来调整。细胞或者处理器之间传递的信息越多，连接就越强大。因此，真实突触和人工突触都能维持旧电路，并创建出新电路。

NIST的突触是一种约瑟夫逊结。这些约瑟夫逊结是一种三明治结构的材料，中间填充了绝缘体。

（图片来源：NIST）

当流过约瑟夫逊结的电流超过临界电流时，电压尖峰就会产生。这些突触使用标准铌电极，但是统一在硅基材中填充了锰纳米团簇。

（图片来源：NIST）

纳米团簇，每平方微米约有20,000个，就像带有“自旋”的微小磁条，这种自旋的方向要么随机，要么是一种协调的方式。

（图片来源：NIST）

Schneider 表示：“这些是定制的约瑟夫逊结。我们能控制指向同一方向的纳米团簇的数量，它将影响约瑟夫逊结的超导特性。”

除了被输入电流激活并开始制造电压尖峰之外，突触都处于一种超导状态。研究人员在磁场中施加电流脉冲改善磁场的有序性，也就是说，提高指向同一方向的纳米团簇数量。这种磁场效应逐步降低了临界电流水平，使得创造常导体和制造电压尖峰变得更加容易。当所有的纳米团簇对齐的时候，临界电流最低。这个过程也是可逆的：在没有磁场的条件下，施加脉冲会降低磁场的有序性并抬升临界电流。在这项设计中，不同的输入改变了自旋排列，产生出输出信号，这也类似于大脑的工作模式。

改变器件制造方法及其运行温度也可以调整突触的行为。研究人员通过制造更小的纳米团簇，可以降低提高或者降低磁场有序性所需要的脉冲能量。例如，将运行温度从零下271.15摄氏度提升到零下269.15摄氏度，将带来更多更高的电压尖峰。

关键一点是，突触能在三维空间中层叠，制造出能够用于计算的大型系统。为了用于模拟系统是如何运行的，NSIT 研究人员制造出了一种电路模型。

价值

NIST的人工突触比真实突触更好，它比人类大脑传递信息速度更快，每秒钟达到10亿次，而人脑细胞是每秒50次，而且使用的能量只有一点点，大约为人类突触的千分之一。用技术术语来说，尖峰脉冲能量少于1×10－18焦耳（attojoule），低于室温条件下的背景能量，与绑定两个原子所需的化学能量等同。

NIST 物理学家 Mike Schneider 表示：“NIST的突触比人脑需要的能量更低，而我们尚未发现其他任何需要能量更少的人工突触。”

这种新突触将在由超导元件构成的神经形态计算机中使用，它能在没有电阻的条件下传输电力，因此比其他基于半导体或者软件的设计更加高效。数据将在磁通量单元中进行传输、处理和存储。模仿人脑细胞的超导器件和传输线已经开发出来了，但是迄今为止，高效的突触（关键部件）一直缺失。人脑非常擅于处理场景识别之类的任务，因为它既按照顺序又同步处理数据，并且将记忆存储在遍布整个系统的突触中。传统的计算机只能按照顺序处理数据，将记忆存储在独立的单元中。

根据论文表述，NIST 的突触结合了小尺寸、超快尖峰脉冲信号、低能量以及三维层叠能力，将为构建新型神经形态系统提供方法，这种神经形态系统比已经通过其他技术演示的神经形态系统更为复杂。

这项研究弥补了现有的神经形态计算机的不足。展望未来的新型人工智能，这种计算机将提升自动驾驶汽车和癌症诊断的认知与决策。

关键字

神经网络、人工智能、超导

参考资料

【1】https://www.nist.gov/news-events/news/2018/01/nists-superconducting-synapse-may-be-missing-piece-artificial-brains

【2】M.L. Schneider, C.A. Donnelly, S.E. Russek, B. Baek, M.R. Pufall, P.F. Hopkins, P.D. Dresselhaus, S. P. Benz and W.H. Rippard.Ultra-low power artificial synapses using nano-textured magnetic Josephson junctions. Science Advances, 2018 DOI: 10.1126/sciadv.1701329