美国密歇根大学利用忆阻器加快神经网络学习速度

来源：国防科技信息网，作者：工业和信息化部电子第一研究所 王巍

【据电子360网站2017年12月28日报道】美国密歇根大学研究人员研制出一种被称为储备池计算系统的新型神经网络，该神经网络具有更好的能力，需要的训练时间比类似的神经网络更少。该系统有望用于复杂预测，如预测对话中即将出现的单词。

相比于此前用体积更大的光学器件实现，研究人员此次利用了具有空间效率的忆阻器来设计系统，这种系统与传统硅基电子器件很容易集成。记忆电阻器是一种独特的电子元件，它结合了数据存储和逻辑运算的功能，这与传统的存储器与处理器分离不同。

神经网络由节点及其之间的连接组成，用于模仿大脑的神经元和突触。在传统上，神经网络需要时间很长的有监督学习过程，通过向其提供大量问题和解决方案来教会神经网络解决一类问题。在这个迭代的过程中，不同的权重被分配给“突触”，直到神经网络能够以最小的错误率找到正确答案为止。

密歇根大学电子工程和计算机科学教授、研究小组组长卢伟表示：“很多时候，训练一个神经网络需要耗费几天或几个月的时间，时间成本极高”。

然而，采用储备池计算系统可以简化训练过程，因为其最重要的组成部分，即储备池不需要进行训练。

卢伟表示：“储备池计算的好处在于，当我们设计它的时候并不需要对其进行训练”。

该储备池只将输入数据的时间相关特性以简短的格式传送到第二个网络。第二个网络类似于基本的神经网络，只需要进行简单的训练。

通过识别手写数字，验证了储备池计算系统的有效性。该储备池的准确率达到了91.1%，超过了标准单层神经网络88%的准确率。与达到这一准确率的含有数千个节点的神经网络相比，该储备池计算系统只需要88个忆阻器。

该研究团队还展示了系统对随时间变化数据的处理，并用其模仿依赖多个此前结果的复杂函数。储备池计算系统完成这项任务几乎没有错误。

未来，卢伟设想将该神经网络系统用于语音识别。

卢伟表示：“我们可以对自然语言进行预测，在话没有说完整的情况下，也可以预测接下来要说什么。”

此外，该神经网络还可以用于清除噪音信号，如从遥远的无线电台传输的充满了静电干扰的无线电信号。

卢伟指出：“即使输入停止，该神经网络也能预测和产生输出信号”。

该工作从DARPA的“感知和分析用稀疏自适应本地学习”项目中获得690万美元的资助，该项目的目标是创建一个自组织、自适应神经网络的计算机芯片。