FAIR提出突触可塑算法：让神经网络学会记忆和遗忘

原标题:学界 | FAIR提出突触可塑算法：让神经网络学会记忆和遗忘

选自arXiv

作者：Rahaf Aljundi 等

机器之心编译

参与：刘晓坤

Facebook AI 研究院近日联合 KU Leuven 提出了一种由著名神经科学定律——赫泊规则启发的在线学习算法。研究表明，这种方法可以使模型根据当前任务保留过去任务的重要特征，灵活地适应新环境；并且可以无监督地应用于任何预训练模型，而不受基于损失函数方法的限制。

论文：Memory Aware Synapses: Learning what (not) to forget

论文地址：https://arxiv.org/abs/1711.09601

人类可以持续不断地学习，陈旧且不常用的知识会被新信息覆盖，但重要且常用的知识不会被随意擦除。目前在人工学习系统中，终生学习（lifelong learning，LLL）主要关注在任务中积累知识和克服灾难性忘却问题（catastrophic forgetting）。在这篇论文中，我们指出，给定有限的模型容量和无限的将要学习的新信息的时候，需要选择对知识进行保留还是擦除。由突触可塑性所启发，我们提出了一种在线学习方法，基于网络对数据的激活频率，以无监督的方式计算神经网络参数的「重要性」。在学习了一个任务之后，每当有样本馈送到网络中，就会基于预测输出对参数变化的敏感度，测量网络的每个参数的重要性。当学习一个新任务的时候，会对重要参数的改变进行惩罚（即阻碍该变化）。我们证明了我们的方法的一个局域版本正好是赫泊规则（Hebb's rule）在识别神经元之间的重要连接的直接应用。我们在一系列的目标识别任务和持续学习向量的挑战性问题上测试了我们的方法，取得了当前最佳的结果，展示了根据需求调整参数的重要性的能力。