实时跨皮质层级的反投影学习2022
摘要：
皮层中的感觉处理和学习模型需要有效地将功劳分配给所有区域的突触。在深度学习中，一个已知的解 决方案是错误反向传播，但是它需要从前馈到反馈路径的生物学上不可信的权重传输。
我们介绍了无相对齐学习 (PAL)，这是一种在分层皮质层次结构中学习有效反馈权重的生物合理方法。这是通过利用生物物理系统中自然存在的噪声作为额外的信息载体来实现的。
在我们的动力系统中，所有权重都是以始终在线的可塑性同时学习的，并且只使用突触本地可用的信息。我 们的方法是完全无阶段的 (没有前向和后向传递或阶段性学习)并且允许跨多层皮层层次结构进行有效的 错误传播，同时保持生物学上合理的信号传输和学习。
我们的方法适用于广泛的模型类别，并改进了先前已知的生物学上合理的信用分配方式：与随机突触反 馈相比，它可以用更少的神经元解决复杂任务并学习更有用的潜在表示。我们使用具有前瞻性编码的皮质微电路模型在各种分类任务中证明了这一点。
简介
深度学习最初受到神经科学的启发，尤其受到视觉皮层描述的影响。尽管如此，这两个领域在对各自主题的描述 中仍然处于截然不同的水平。虽然深度学习在过去十年中在适用性和实际使用方面取得了巨大飞跃，但生物神 经系统的研究揭示了过多的不同大脑区域、连接类型、细胞类型、神经元以及系统状态。目前，大脑中没有明确的 计算和信息传输组织方案，人工神经网络 (ANN) 如何与皮层模型相关的问题仍然是一个活跃的研究领域 [1– 3]。
然而，在弥合这两个领域之间的差距方面正在取得进展 [4–12] (最近的评论文章，请参见 [2、13])。特别 是，皮层和人工信息处理之间的重要相似之处得到了强调：与皮层 [14] 一样，大多数 ANN架构分层处理信息。此外，外部刺激会在功能单元 (神经元)中产生活动，这些单元利用自下而上和自上而下的信 息 [15–17]。神经活动通过学习进行调节，即突触权重的长期适应。然而，目前尚不清楚如何在整个皮层调整 权重以胜任地解决任务。
这通常被称为信用分配问题，神经科学可以从深度学习中学习 [2, 18]。
在 ANN 的情况下，这个问题的有效解决方案是已知的：目前，误差反向传播 (BP) [19, 20]是人工网络学习 的黄金标准。然而，BP有几个生物学上难以置信的要求。用 BP 训练的 ANN 在不同的前向和后向阶段运行，其 中推理和学习交替进行。在阶段之间，需要缓冲网络活动 即，信息在非本地及时处理。此外，错误传播通过权重 发生，权重需要在不同层的突触处进行镜像 (权重传输问题)。
为了解释模拟物理计算 (在皮层或神经形态硬件上)的信用分配，因此需要物理上合理的架构和算法。
我们假设这样的动力系统在连续时间内运行。他们可以通过执行 (近似)梯度下降来最小化网络输出和目标 (“成本”)之间的差异。理想情况下，这样的物理系统能够随时从有用的指导信号中学习，只使用在空间和时 间上局部可用的信息。至关重要的是，所有物理系统都有固有的噪声源 以随机活动、噪声参数或电气和化学信 号的固有波动的形式出现。我们提出的理论利用神经元噪声作为信息的附加载体，而不是将其视为令人讨厌的 参数。
对于 ANN 中的有效信用分配，错误需要从皮质层级中的较高区域传播到较低区域。由于重量传输的生物 学不可信性而将普通 BP 排除在外，这种错误传播如何发生的问题仍然悬而未决。已经提出了几种方法，其中 假设反馈连接是固定的或被学习的。从广义上讲，这些可以分为具有固定反馈连接的方法 (反馈对齐，FA [10, 21])、BP 的生物合理近似 [22‑25] 或替代成本最小化方案 [26‑29]。
在这项工作中，我们介绍了第二类方法，与参考文献的自上而下权重对齐方法有关。[25]，它本身是基于先前对 差异目标传播中成本最小化的见解 [28]。我们算法的目的是传播类似 BP 的错误，并对成本函数执行梯度下降。
这项工作的新颖之处在于，我们提出了一个具有高效始终在线可塑性的完全动态系统：物理基质的神经元 和重量动力学模型特性，而学习是完全无阶段的，并且所有突触和任何时候都启用可塑性.与生物学合理性一 致，我们的方法允许高效学习，而无需唤醒‑睡眠阶段或在许多其他皮层学习模型中实施的其他形式的阶段可塑 性 [6, 8, 30–36]。
我们的方法基于以速率编码的形式对生物学上合理的信号传输进行建模。学习机制结合了生物和硬件合理 的组件和计算。所有动力学和可塑性规则在时间和空间上都是完全局部的。我们的模型还充分利用了最近提出 的前瞻性编码机制 [9]。这确保了信息通过分层网络快速传播，从而在使用我们的方法时快速收敛有用的自上而 下的投影。
讨论：
强调了 PAL 作为感觉处理模型的生物学合理性。PAL 可以在生物组件中实现；特别是，它明确地利用了物理系统中发现的噪声，并在需要时使用简单的过滤技术来分离信号和噪声。
由于我们的理论基于神经动力学的基于速率的抽象，因此仍然存在几个关于生物合理性和现实主义的 悬而未决的问题。对我们理论的扩展可能会实施戴尔抑制或兴奋活动定律，这种约束可以通过单独的神经 元群实现[50]。同样，树突状微电路模型可以通过实施尖峰神经元输出来更紧密地模拟生物学，并认为信用 是通过概率解释分配的。
阅读原文参考完整原论文。
相关推荐：
AI分析框架
Self-building Neural Networks 代码
一个epoch打天下：深度Hebbian BP (华为实验室)
代码Unsup Visual Dynamics Simulation with Object-Centric Models
腾讯云开发者
