麻醉苏醒的神经混沌记忆保持机制
麻醉苏醒的神经混沌记忆保持机制
（这种特性让人联想到全身麻醉中的一种现象，即患者在 醒来时似乎大致恢复到麻醉前的状态）
抽象：
在神经回路中，突触通过塑造网络动力学影响神经元，而神经元通过依赖于活动的可塑性影响突触。受此启发，我们 研究了一个网络模型，其中神经元和突触是相互耦合的动态变量。模型神经元服从由突触耦合形成的动力学，这些突 触耦合反过来又围绕响应突触前和突触后神经元活动的猝灭随机强度而变化。使用动态平均场理论，我们计算了神经 元‑突触组合系统的相图，揭示了几个暗示计算功能的新阶段。在非可塑性系统混沌的状态下，赫布可塑性减缓了混沌， 而反赫布可塑性加速了混沌并在神经元活动中产生振荡成分。推导联合神经元突触雅可比行列式的谱表明，这些行为 表现为特征值排斥的微分效应。在非塑性系统静止的状态下，赫布塑性会引发混沌。在这两种情况下，足够强的赫布可 塑性会以指数方式产生许多与混沌状态共存的稳定神经元突触不动点。最后，在具有足够强的赫布可塑性的混沌状态 下，停止突触动力学会留下一个稳定的神经元动力学固定点，从而冻结神经元状态。
这一可冻结混沌阶段提供了一种新的突触工作记忆机制，其中神经元动力学的稳定固定点通过突触动力学不断不稳 定，从而通过停止突触可塑性将任何神经元状态存储为稳定固定点。
（In neural circuits, synapses influence neurons by shaping network dynamics, and neurons influence synapses through activity-dependent plasticity. Motivated by this fact, we study a network model in which neurons and synapses are mutually coupled dynamic variables. Model neurons obey dynamics shaped by synaptic couplings that fluctuate, in turn, about quenched random strengths in response to pre- and postsynaptic neuronal activity. Using dynamical mean-field theory, we compute the phase diagram of the combined neuronal-synaptic system, revealing several novel phases suggestive of computational function. In the regime in which the non-plastic system is chaotic, Hebbian plasticity slows chaos, while anti-Hebbian plasticity quickens chaos and generates an oscillatory component in neuronal activity. Deriving the spectrum of the joint neuronal-synaptic Jacobian reveals that these behaviors manifest as differential effects of eigenvalue repulsion. In the regime in which the nonplastic system is quiescent, Hebbian plasticity can induce chaos. In both regimes, sufficiently strong Hebbian plasticity creates exponentially many stable neuronal-synaptic fixed points that coexist with chaotic states. Finally, in chaotic states with sufficiently strong Hebbian plasticity, halting synaptic dynamics leaves a stable fixed point of neuronal dynamics, freezing the neuronal state.
This phase of freezable chaos provides a novel mechanism of synaptic working memory in which a stable fixed point of neuronal dynamics is continuously destabilized through synaptic dynamics, allowing any neuronal state to be stored as a stable fixed point by halting synaptic plasticity.）
VIII.DISCUSSION
A.Computational roles of freezable chaos
Freezable chaos provides a novel mechanism of synaptic working memory
（short-term synaptic facilitation (STF)）
This difference conveys a variety of advantages.
Most crucially, STF-based working memory requires static connections among predefined assemblies of neurons, one of which can be selectively favored for a sustained period.
In freezable chaos, any network state can be stored as a stable fixed point, dramatically increasing the flexibility of the mechanism.
Additionally, in STF-based working memory, the stored activity pattern decays away unless a nonspecific background input is provided that sustains the memory trace through reactivation.
By contrast, in freezable chaos, the activity pattern is stored as a stable neuronal fixed point of the halted-synapse system, and thus the
memory can be retained for an arbitrarily long period through purely internal dynamics.
Finally, in STF-based working memory, memories dissipate only at the forgetting timescale of the plasticity mechanism,
limiting the ability of the circuit to flexibly manipulate information (for example, to store a sequence of patterns in rapid succession).
In freezable chaos, the circuit returns to a dynamical state as soon as plasticity is released, allowing for much more temporally flexible computations (assuming that the circuit can gate plasticity with precise temporal control, for example, through neuromodulation; in machine-learning systems, this is not an issue).
除了它在工作记忆中的潜在作用之外，可冻结混沌还提供了一种机制来保持 动态神经元状态的运行副本，该副本可以，如果电路功能中断，则保存并随后恢复。至关重要的是，在极端神经 元扰动甚至沉默后，动力学可以在接近暂停时间神经元状态时恢复 (图 7A)。这种特性让人联想到全身麻醉中的一种现象，即患者在 醒来时似乎大致恢复到麻醉前的状态
引言：
神经回路中的计算通常被认为是通过神经元的协调动力学来实 现的 [1‑3]。在这种观点下，突触连接的作用是塑造神经元动力学以 实现计算。实际上，突触会在不同的时间尺度上经历可塑性以响应 神经元活动，从而构成其自身的动态自由度 [4]。因此，更准确地描述 神经回路中的计算可能涉及神经元和突触的耦合动力学。事实上，网 络的状态可能更好地描述为它的突触状态而不是它的神经元 [5]。在 这里，我们探讨了将神经元和突触视为平等的相互耦合的动态变量 的后果，而不假设它们之间的时间尺度是分开的。
突触可塑性长期以来一直在学习和记忆的背景下进行研究，但其在网络动力学和计算中的作用却鲜为人知。先前的研究已经考虑了短期可塑性(STP)在增益控制[6]、突发检测[7]、状态相关计算[8]和工作记忆[9‑11]中的动态作用。正如我们在下面讨论的那样，突触可塑性在工作记忆中的应用与机器学习特别相关。STP在秒的时间尺度上运行，弥合了神经元动力学(毫秒)时间尺度和长期可塑性(小时或年)时间尺度之间的差距。STP和长期可塑性之间历史上的区别是STP下的突触强度变化仅取决于突触前神经元活动
而长期可塑性下的变化取决于突触前和突触后活动。后一种形式被称为赫布可塑性，由于它能够创造神经元动力学的吸引子状态，因此比前一种仅存在突触前的形式更强大[12]。在这里，我们研究赫布可塑性，但没有假设神经元和突触动力学之间的时间尺度分离，这是之前几项研究的中心假设[13‑16](但参见[17])。我们表明，正在进行的赫布可塑性会引发非可塑性网络中未见的各种行为，包括下面描述的可冻结混沌的新阶段。相比之下，纯粹的突触前可塑性仅具有适度的网络级效应，即向每个神经元添加有效的时间无关输入(附录A)。因此，我们的工作为正在进行的赫布可塑性机制的实验研究提供了额外的理论动力。
机器学习模型反映了突触纯粹用于塑造神经元动力学的观点。在这些系统中，权重参数通过梯度下降进行训练，然后固定。然而，允许权重通过人工单元的活动进行调制，类似于神经回路中的持续可塑性，已被证明可以赋予各种计算优势[18‑21]，特别是在需要工作记忆的任务中[22]。例如，Ba等人。[23]表明，执行顺序处理任务的循环网络受益于使用通过反向传播训练的慢速权重和进行活动相关更新的快速权重的组合。特别是，与基于活动的工作记忆相比，长期时间依赖性更容易存储在突触工作记忆中。对于实际应用，递归网络在很大程度上已被Transformer[24]取代。虽然这些模型最初并不是由神经科学激发的，
但Schlag等人[25]显示线性化转换器[26]相当于快速权重程序员[27]，一种具有活动相关权重更新的循环网络[28]。Miconi[29]使用元学习方法表明，具有神经调节赫布或反赫布可塑性的循环网络可以进化出获得新任务的能力。在相关方法中，Tyulmankov等人。[21]发现，通过元学习程序发现的持续反赫布可塑性能够实现与人类行为一致的高容量识别记忆。
使用类似可塑性的重量动力学的机器学习模型倾向于共享某些特征。例如，权重通常不是完全可塑的，而是表示为静态分量(例如通过反向传播训练)和可塑分量的总和。此外，可塑性通常是赫布式的，而不是纯粹的突触前。
我们研究的模型具有这两个属性，可以解释为[23]的快速权重模型的连续时间对应物。快速时间尺度耦合动力学的包含在网络级别具有各种非直观的含义。
一个例子是我们称之为可冻结混沌的动态阶段。在这种状态下，神经元动力学的稳定固定点通过突触动力学不断不稳定，从而产生神经元突触混乱。可冻结混沌启用了一种新形式的突触工作记忆，其中可以通过停止突触可塑性在任何神经元状态附近创建一个稳定的固定点。
除了物理学、神经科学和机器学习之外，具有动态相互作用的多体系统还与生态学[30]和社会科学[31]相关。
在继续之前，我们简要介绍一下本文结构。
II定义模型及其参数。有N个神经元和N**2个动态耦合，每个耦合是一个随机分量和一个波动分量的总和。参数为g，设置随机耦合的大小；k，设置波动耦合的大小；和p，与神经元和耦合相关的时间尺度的比率。
III浏览模型的相图并总结其动力学行为，这些行为在本文的其余部分进行了深入分析。
IV从描述混沌状态下单神经元自协方差的动力学平均场理论(DMFT)的角度分析系统。
IVA导出DMFT。关键结果是一个有效的单点图片，其中突触可塑性通过使用自洽依赖于单神经元自协方差的内核的卷积自耦合来捕获。
IVB研究了(反)赫布可塑性如何在非可塑性网络混沌g>1的情况下塑造混沌活动。
IVC展示了赫布可塑性如何在非可塑性网络是静止的，g<1。我们将g>1和g<1的混沌分别称为可塑性形状和可塑性诱导的混沌。
IVD分析了与Sec.相关的相变。IVC，即g<1时塑性引起的混沌和全局静止之间。这是一阶、不连续的转变。
IVE分析了g>1的塑性混沌的相变，如第1节所述。IVB，到g<1的全局静止。这是一个二阶连续转变。
V从DMFT的单站点图片转移到基于描述神经元和突触变量的局部共同进化的联合雅可比矩阵的频谱的高维分析。我们推导出该光谱的解析表达式并研究其在混沌状态下的形式。
VA定义联合雅可比矩阵。
VB导出低维结构
联合雅可比行列式：N+N2个特征值中只有2N个是非平凡的，并且由简化的雅可比行列式的谱给出。这些特征值也可以看作是一个N维二次特征值问题的解。
VC利用随机矩阵理论推导出约化雅可比矩阵的谱边界曲线的解析表达式。
VD专注于VC中派生的频谱对混沌状态进行统计，以确定驱动神经元‑突触混沌的模式。通过DMFT的镜头看到的(反)赫布网络行为表现为特征值排斥的微分效应。
VI研究模型的非零不动点。在这里，我们特别感兴趣的是相对于组合的神经元突触动力学稳定的不动点。因此，表征它们需要在第1节中计算的联合雅可比谱。VD.这些不动点是边缘稳定的并且与混沌状态共存(即，相空间包含拖拉机处的混沌不动点和稳定的不动点)。有限大小的系统在瞬态混沌之后会固定在这样的固定点上。
VIA通过计算混沌状态下耦合矩阵的塑性部分的近似秩(参与比)来分析沉降过程。
VIB按照Stern等人中描述的策略计算不动点的对数数。[32]我们表明不动点的开始是连续的还是不连续的，这取决于g是小于还是大于临界值。
VII涵盖可冻结混沌，这是神经元‑突触系统独有的动态阶段。
VIIA给出了不可冻结、半冻结和可冻结混沌的现象学概述，这些混沌由网络对突然停止的突触动力学的响应定义。在可冻结的混沌中，停止突触动力学导致神经元在停止时间流向其状态附近的稳定固定点。
VIIB引入了顺序参数来对这三个阶段进行分类。特别是，我们定义了一个时间相关的重叠参数，它给出了混沌轨迹上的神经元状态与通过halt突触动力学创建的固定点之间的对齐，如果存在这样的固定点(否则它为零)。我们还定义了一个参数，该参数给出了确定该固定点稳定性的矩阵的谱半径，这消除了固定点稳定的可冻结混沌和混沌波动的半冻结混沌的情况围绕一个不稳定的固定点。
VIIC导出一个双副本DMFT，它提供时间相关的重叠阶数参数和光谱半径参数。特别是，我们考虑一个处于混乱状态的副本，另一个副本位于通过停止突触动力学创建的固定点。
VIID研究了双副本DMFT的解的结构
VIIE解析地解决了限制g→1+中讨论的双副本DMFT。
最后，VIIIA讨论了可冻结混沌的计算作用，特别是作为一种新形式的突触工作记忆。
VIIIB提供了一般性讨论。
（Sec. III walks through the phase diagram of the model and summarizes its dynamical behaviors, which are analyzed in depth throughout the rest of the paper.
Sec. IV analyzes the system from the perspective of a dynamical mean-field theory (DMFT) describing the single-neuron autocovariance in the chaotic state.
• Sec. IV A derives the DMFT. The key result is an effective single-site picture in which synaptic plasticity is captured by a convolutional self-coupling using a kernel that depends self-consistently on the single-neuron autocovariance.
• Sec. IV B examines how (anti-)Hebbian plasticity shapes chaotic activity in the regime in which the non-plastic network is chaotic, g > 1.
• Sec. IV C shows how Hebbian plasticity can induce chaos in the regime in which the non-plastic network is quiescent, g < 1.
We refer to chaos with g > 1 and g < 1 as being plasticity-shaped and plasticity-induced, respectively.
• Sec. IV D analyzes the phase transition relevant to Sec. IV C, namely, between plasticity-induced chaos and global quiescence for g < 1. This is a first-order, discontinuous transition.
• Sec. IV E analyzes the phase transition from plasticity-shaped chaos with g > 1, described in Sec. IV B, to global quiescence with g < 1. This is a second-order, continuous transition.
Sec. V shifts from the single-site picture of the DMFT to a high-dimensional analysis based on the spectrum of the joint Jacobian describing the local co-evolution of the neuronal and synaptic variables. We derive an analytical expression for this spectrum and study its form in the chaotic regime.
• Sec. V A defines the joint Jacobian.
• Sec. V B derives the low-dimensional structure of the joint Jacobian: only 2N of the N + N2eigenvalues are nontrivial, and are given by the spectrum of a reduced Jacobian. These eigenvalues can also be viewed as the solutions of an N-dimensional quadratic eigenvalue problem.
• Sec. V C uses random matrix theory to derive an analytical expression for the boundary curve of the spectrum of the reduced Jacobian.
• Sec. V D specializes the spectrum derived in Sec. V C to the statistics of the chaotic state to identify the modes driving neuronal-synaptic chaos. The (anti-)Hebbian network behaviors seen through the lens of the DMFT manifest as differential effects of eigenvalue repulsion.
Sec. VI studies nonzero fixed points of the model. Here, we are specifically interested in fixed points that are stable with respect to the combined neuronal-synaptic dynamics. Thus, characterizing them requires the joint Jacobian spectrum computed in Sec. V D. These fixed points are marginally stable and coexist with chaotic states (i.e., the phase space contains both a chaotic attractor and stable fixed points). Finite-size systems settle to such fixed points following transient chaos.
• Sec. VI A analyzes the settling process by computing the approximate rank (participation ratio) of the plastic part of the coupling matrix in the chaotic state.
• Sec. VI B computes the log-number of fixed points following the strategy described in Stern et al. [32].
We show that the onset of fixed points is continuous or discontinuous depending on whether g is smaller or larger than a critical value.
Sec. VII covers freezable chaos, a dynamic phase unique to the neuronal-synaptic system.
3 • Sec. VII A gives a a phenomenological overview of non-freezable, semi-freezable, and freezable chaos, which are defined by the response of the network to abruptly halting synaptic dynamics. In freezable chaos, halting synaptic dynamics results in the neurons flowing to a stable fixed point in the vicinity of their state at the halt time.
• Sec. VII B introduces order parameters to classify these three phases. In particular, we define a time-dependent overlap parameter that gives the alignment between the neuronal state on a chaotic trajectory and at the fixed point created by halting synaptic dynamics, if such a fixed point exists (otherwise it is zero). We also define a parameter that gives the spectral radius of the matrix that determines stability at this fixed point, which disambiguates the cases of freezable chaos, in which the fixed point is stable, and semi-freezable chaos, in which there are chaotic fluctuations around an unstable fixed point.
• Sec. VII C derives a two-replica DMFT that provides the time-dependent overlap order parameter and spectral radius parameter. In particular, we consider one replica in a chaotic state and another replica sitting at the fixed point created by halting synaptic dynamics.
• Sec. VII D studies the structure of solutions to the two-replica DMFT.
• Sec. VII E analytically solves the two-replica DMFT in the limit g → 1+discussed in Sec. IVE.
Finally, Sec. VIII A discusses computational roles of freezable chaos, in particular, as a new form of synaptic working memory. Sec. VIII B provides a general discussion ）
阅读原文参考原论文。
相关推荐：
code：通过进化、可塑性和 元 元学习 获得认知能力（4个时间维度的学习迭代）
脑记忆产生和巩固建模研究总结（3假设3发现3创新符合13篇脑科学实验和假设）
代码：Learning to Learn and Forget （华为）
AI分析框架
Self-building Neural Networks 代码
代码：一个epoch打天下：深度Hebbian BP (华为实验室) 抗攻击
代码Unsup Visual Dynamics Simulation with Object-Centric Models