首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

一项新研究发现,单个神经元是一个复杂得惊人的小计算机

在神经科学和计算机科学中,将大脑与计算机进行比较是一个由来已久的类比。

不难看出原因。

我们的大脑能够以一种简单而神秘的优雅方式完成许多我们希望电脑处理的任务。因此,了解我们大脑内部的工作方式可以帮助我们制造出更好的电脑;这些计算机可以帮助我们更好地理解自己的思想。此外,如果大脑就像计算机,知道它们做它们所做的事情需要多少计算量,可以帮助我们预测机器何时会与大脑相匹配。

事实上,各个领域之间已经有了富有成效的知识流动。

例如,作为一种强大的人工智能形式,深度学习松散地模仿了大脑庞大的分层神经元网络。

你可以把深层神经网络中的每个“节点”想象成一个人工神经元。像神经元一样,节点从连接它们的其他节点接收信号,并执行数学运算,将输入转换为输出。

根据一个节点接收到的信号,它可以选择将自己的信号发送给网络中的所有节点。通过这种方式,信号级联通过一层又一层的节点,逐步调整和锐化算法。

大脑也是这样工作的。但上面的关键词是松散的。

科学家们知道,生物神经元比深度学习算法中使用的人工神经元更复杂,但究竟复杂多少仍是一个悬而未决的问题。

在最近发表在《神经元》(Neuron)杂志上的一篇引人入胜的论文中,来自耶路撒冷希伯来大学(Hebrew University of Jerusalem)的一组研究人员试图让我们更接近于一个答案。虽然他们预期结果会显示生物神经元更为复杂,但他们对实际复杂程度感到惊讶。

在这项研究中,研究小组发现,需要五到八层的神经网络,或近1000个人工神经元,才能模仿大脑皮层单个生物神经元的行为。

尽管研究人员警告说,这些结果只是复杂性的上限,而不是精确的测量,但他们也相信,他们的发现可能会帮助科学家们进一步研究到底是什么让生物神经元如此复杂。这些知识或许可以帮助工程师设计出更强大的神经网络和人工智能。

贝勒医学院的计算神经科学家Andreas Tolias上周告诉广达传媒:“(这个结果)形成了从生物神经元到人工神经元的桥梁。”

神奇的大脑

神经元是构成我们大脑的细胞。有许多不同类型的神经元,但一般来说,它们有三部分:称为树突的细长分支结构,一个细胞体和根状轴突。

在一端,树突连接到被称为突触的其他神经元网络。在另一端,轴突与不同数量的神经元形成突触。每个细胞通过树突接收电化学信号,过滤这些信号,然后选择性地传递自己的信号(或尖波)。

为了在计算上比较生物神经元和人工神经元,研究小组提出了一个问题:模拟单个生物神经元的行为需要多大的人工神经网络?

首先,他们建立了一个生物神经元的模型(在这个例子中,是来自老鼠皮层的锥体神经元)。该模型使用了大约10,000个微分方程来模拟神经元如何以及何时将一系列输入信号转化为自己的尖刺。

然后,他们将输入信息输入模拟神经元,记录输出,并针对所有数据训练深度学习算法。他们的目标?找出最精确地近似模型的算法。

他们增加了算法的层数,直到在给定一组输入的情况下,预测模拟神经元输出的准确率达到99%。最佳点是至少5层但不超过8层,或者说每个生物神经元大约有1000个人造神经元。深度学习算法比原始模型简单得多,但仍然相当复杂。

这种复杂性从何而来?

事实证明,这主要是由于树突中的一种化学受体——NMDA离子通道——以及树突在空间中的分支。该研究的主要作者戴维·贝尼亚格夫(David Beniaguev)在2019年的推特上写道:“拿走其中一个东西,神经元就变成了一个简单的设备。”他将该研究的早期版本描述为预印版本。

事实上,在去除这些特征后,研究小组发现,他们可以用单层深度学习算法匹配简化的生物模型。

一个移动的基准

我们很容易推断出研究小组的结果来估计整个大脑的计算复杂性。但我们离这样的措施还很远。

首先,团队可能没有找到最有效的算法。

对于开发人员社区来说,在高级深度学习算法的第一个版本上快速改进是很常见的。考虑到该研究的密集迭代,该团队对结果充满信心,但他们也向科学界发布了模型、数据和算法,看看是否有人能做得更好。

此外,模型神经元来自于老鼠的大脑,而不是人类的,而且它只是一种脑细胞。此外,这项研究是在比较模型和模型——到目前为止,还没有办法直接与大脑中的实际神经元进行比较。这完全有可能,真实的东西更复杂,而不是更简单。

尽管如此,该团队相信他们的工作可以推动神经科学和人工智能向前发展。

在前一种情况下,这项研究进一步证明树突是值得更多关注的复杂生物。在后一种情况下,它可能会导致全新的算法架构。

这篇论文的合著者Idan Segev建议,工程师们应该尝试用一个模拟生物神经元的迷你五层网络来取代目前算法中简单的人工神经元。塞格夫说:“我们呼吁用一个代表神经元的单元来替代深层网络技术,使其更接近大脑的工作方式。”

增加如此多的复杂性是否会带来回报尚不确定。专家们争论的是,算法需要获取多少大脑细节才能达到类似或更好的结果。

但数百万年的进化实验很难反驳。到目前为止,遵循大脑的蓝图一直是一种有益的策略。如果这项工作是某种迹象的话,未来的神经网络在规模和复杂性上可能会大大超过今天的网络。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20210913A01XMH00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券