人工智能的记忆形成机制与大脑惊人地相似

在第 37 届神经信息处理系统 会议上的信息披露，由美国基础科学研究所（IBS）认知与社会性中心和数据科学组的研究人员组成的跨学科团队揭示了人工智能（AI）模型的记忆处理与人脑海马体之间惊人的相似性。这一新发现为记忆巩固提供了一个新的视角，记忆巩固是人工智能系统中将短期记忆转化为长期记忆的过程。

（a）说明突触后神经元中离子通道活动的图表。AMPA受体参与突触后神经元的活化，而NMDA受体会被镁离子（Mg 2）阻断，但当突触后神经元被充分活化时，NMDA受体会通过钙离子（Ca 2）的内流来诱导突触可塑性。（b）表示Transformer AI模型内计算过程的流程图。信息的处理顺序通过阶段，如前馈层，层规范化，自我关注层。描绘的NMDA受体的电流-电压关系的曲线图是非常相似的前馈层的非线性。输入输出图，基于镁（α）的浓度，显示了NMDA受体的非线性的变化。贷：基础科学研究所

在开发人工智能（AGI）的竞赛中，OpenAI和Google DeepMind等有影响力的实体引领着这条道路，理解和复制类人智能已经成为一个重要的研究兴趣。这些技术进步的核心是Transformer模型，其基本原理现在正在进行新的深入研究。

强大的人工智能系统的关键是掌握它们如何学习和记忆信息。该研究团队将 人类大脑 学习的原理，特别是通过海马 NMDA 受体 巩固记忆 的原理应用到 AI 模型中。

NMDA受体就像你大脑中的一扇智能门，促进学习和 记忆 队形。当一个 脑化学 当一种叫做谷氨酸的物质存在时，神经细胞就会兴奋起来。另一方面，镁离子作为一个小守门人挡住了门。只有当这个离子守门人靠边站时，物质才能流入细胞。这是让大脑创造和保存记忆的过程，而“看门人”（镁离子）在整个过程中的作用是相当具体的。

研究小组的一个有意义的发现：Transformer模型似乎使用了一个类似于大脑NMDA受体的把关过程。这一发现使研究人员开始研究Transformer的记忆巩固是否可以通过类似于NMDA受体门控过程的机制来控制。

在动物的大脑中，低镁水平是已知的削弱记忆功能。研究人员发现，模仿NMDA受体可以改善Transformer的长期记忆。

就像在大脑中，镁含量的变化会影响记忆强度，调整Transformer的参数以反映NMDA受体的门控作用，导致AI模型中的记忆增强。这一突破性的发现表明，人工智能模型的学习方式可以用神经科学的既定知识来解释。

C.该研究所的神经科学家主管贾斯汀·李说，“这项研究在推进人工智能和神经科学方面迈出了关键的一步。它让我们能够更深入地研究大脑的运行原理，并基于这些见解开发出更高级的人工智能系统。”

CHA Meeyoung是团队和KAIST的数据科学家，他指出，“与需要巨大资源的大型人工智能模型不同，人类大脑以最小的能量运行，这一点令人瞩目。我们的工作为像人类一样学习和记忆信息的低成本、高性能人工智能系统开辟了新的可能性。”

这项研究的独特之处在于它将大脑启发的非线性纳入人工智能结构，这标志着在模拟类人记忆巩固方面取得了重大进展。人类认知机制和人工智能设计的融合不仅为创建低成本、高性能的人工智能系统带来了希望，而且还通过人工智能模型提供了对大脑运作的宝贵见解。

（这项研究发表在在第 37 届神经信息处理系统会议上）