专栏首页大数据文摘Cell研究揭示生物神经元强大新特性,是时候设计更复杂的神经网络了!

Cell研究揭示生物神经元强大新特性,是时候设计更复杂的神经网络了!

大数据文摘作品

编译:Zoe Zuo、惊蛰、夏雅薇

深度学习(DL)或者人工神经网络(ANN)模拟了生物神经元?

这是个很大的误解。

ANN充其量模仿了一个1957年面世的低配版神经元。

任何宣称深度学习的灵感来源于生物的人都是出于种种营销目的,或者他压根就没读过生物学文献。

不过,仿生系统研究怕是要遇到阻碍了。

两篇最近发表于Cell上的神经元基因Arc的新发现,揭示了生物神经元更大的复杂性,其远比我们想象得复杂得多。

深度学习里的神经元实质上是数学函数,即相似度函数。在每个人工神经元内,带权重的输入信号和神经元的阈值进行比较,匹配度越高,激活函数值为1并执行某种动作的可能性就越大,不执行(对应函数值为0)的可能性越小。

虽然有个别例外情况(比如自回归神经网络Autoregressive networks),但多数深度学习算法都是这样工作的,比如感知器(perceptron)、卷积神经网络(Convolutional Neural Network,CNN)以及循环神经网络(Recurrent Neural Network, RNN)。

生物神经元和深度学习的概念大不相同。

生物神经元并不会保持连续信号,而是产生动作电位,或者依据事件做出相应行为。

因此,所谓“神经形态”(neuromorphic)的硬件,也就是受到“整合信息,然后发送信号”(integrate and spike)的神经元的启发。

如果你对构建一个仿生认知系统感兴趣,可以看看今年2月这篇普度大学的论文。你必须知道的是,这类系统并不像深度学习框架那样具有连续作用性。

从本质上来讲,生物系统利用最少的能量来维持生存,但深度学习系统需要消耗非常多的能量,对比十分鲜明。深度学习采用蛮力手段(不断尝试和犯错)来实现认知,我们知道它的运作原理,但是还不知道怎么减少深度学习的能耗。

一直以来,学术界一直以来希望用仿生手段创造出比深度学习更加强大的体系,虽然在这个方面努力了很久,但是进展尚不明显。已经取得的进展有HTM神经元,它更贴近新大脑皮层(neo-cortex)结构。从下图中可以看出,这种神经元模型要比深度学习中的神经元复杂得多。

左:深度学习ANN,中:生物神经元,右:HTM神经元

相比之下,深度学习方法虽然用的是和卡通一样简单的神经元模型,近一段时间以来却意外大显身手,在认知方面取得了让人难以置信的成效。深度学习所做的事情非常正确,只是我们还不了解它做的究竟是什么。

不过,仿生系统研究怕是要遇到阻碍了。以色列的一个关于神经元性质的新实验表明,生物中的神经元比我们想象得复杂得多:

公众号后台对话框回复“生物”获取论文

总结一下,生物神经元的这些特性我们才刚刚知道:

  • 单个神经元的峰电位波形通常随着刺激部位的不同而改变,两者的关系可以用函数表达;
  • 在细胞外,从不同方向施加的刺激并不能引起空间性加成(Spatial summation);
  • 当细胞内外刺激交叠时,不会产生空间性加成或者空间性相减(Spatial subtraction)。如果这些刺激的精确时值互不相关,那么非局部时间的干扰也不能奏效。

简而言之,一个神经元里所发生的事情远不止“计算-输出”这么简单。

生物神经元很可能不是随着单一参数(也就是权重)而改变的纯函数能够描述的。它们更像是能显示各种状态的机器。换句话说,权重或许不是单值,而是多重值的,甚至是更高维度的。这些神经元的性质仍有待探索,我们对此几乎一无所知。

如果你觉得这样的解释让理解神经元性质变得更难了,那还有两篇最近发表于Cell上的神经元基因Arc的新发现,揭示了更大的复杂性。

神经元释放的细胞外囊泡中,很多都含有一种叫做Arc的基因,可以帮助神经元之间相互建立连接。那些被基因改造后缺乏Arc基因的小鼠难以形成长期记忆,而人类的一些神经功能障碍也与这个基因有关。

这项研究表明,神经元之间的交流是通过发送成套RNA编码实现的。更准确地说,是成套的指令而非数据。发送编码和发送数据完全是两码事。这也就意味着,一个神经元的行为可以改变另一个神经元的行为;不是通过观察,而是通过彼此修正。

这种编码交换机制隐隐证实了一些早期的猜想:“生物大脑仅仅是由离散的逻辑构成的吗?”

实验结果揭示了一个新的事实。即使在我们认知的最小单位,也就是单个神经元之间,也存在着一种对话式的认知(conversational cognition)。这种认知不断修正神经元彼此的行为。

因此,神经元不仅是有不同状态的机器,也是预先设定了指令的、能相互发送编码的通路。

这些实验对我们有两点明确的启示。

第一,我们对人类大脑计算能力的估计可能偏差了至少一个数量级。

如果粗略地设定一个神经元只执行一次运算,那么整体上看人类大脑可以完成每秒38拍字节(Peta)的运算(1拍字节=10^15字节)。

如果假定深度学习模型里的运算都等价于浮点数的运算,那么大脑的性能可以匹敌一个每秒3.8亿亿次浮点运算的电脑系统。当前最顶尖的超级计算机——中国的神威·太湖之光(Sunway Taihulight)的峰值性能是每秒12.5亿亿次/秒。

然而,大脑的实际运算能力很有可能是我们认为的10倍之多,也就是38亿亿次/秒。不过显而易见的是,生物大脑实际上只用了较少的计算就实现了非常多的认知。

第二,未来在探究深度学习架构时,人们会很热心地采用内部结构更复杂的神经元或者节点。

现在到了重新开始,并探究更复杂的神经元的时候了。迄今为止,我们遇到的比较复杂的神经元类型来自于长短期记忆(Long Short Term Memory, LSTM)。以下展示的是针对LSTM神经元的蛮力架构搜索:

目前尚不清楚为什么这些更复杂的LSTM更为有效,只有架构搜索算法才明白其中缘由,不过算法可不会解释自己是怎么回事的。

最近发布的一篇来自CMU和蒙特利尔大学的论文探究了设计更为复杂的LSTMs。

公众号后台对话框回复“生物”获取论文

Nested LSTMs相对于标准的LSTMs实现了重大改进。

综上所述,致力于探究更加复杂的神经元类型的研究计划可能会带来丰硕的成果,甚至可以和把复数值应用于神经网络上带来的硕果相提并论。

在复数神经网络中,只有应用于RNN才能体现出性能的改善。这也表明,要想超越简单的感知,内部神经元复杂度可能是必需的。

这些复杂性对于更高级的认知是必要的,这是现有深度学习认知系统所不具备的。无论是对抗特征的强健性,还是让机器学会忘记、学会忽略什么、学习抽象和识别上下文语境的切换,都是相当复杂的事。

预计在不久的将来,这一领域会出现更多积极大胆的研究。毕竟,大自然已经明确地告诉我们,神经元个体是更复杂的,因而我们创造的神经元模型也可能需要更复杂。

相关报道:

https://medium.com/intuitionmachine/neurons-are-more-complex-than-what-we-have-imagined-b3dd00a1dcd3

本文分享自微信公众号 - 大数据文摘(BigDataDigest),作者:文摘菌

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-05-10

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 迈向脑机接口!科学家使用多巴胺无缝连接人工神经元和生物神经元

    仅仅5年时间,神经形态装置或者大脑启发计算装置已经显得很古怪了。那什么是当前的宠儿?这就要说到人工-生物混合计算了,而人工-生物混合计算是将人造计算机芯片和生物...

    大数据文摘
  • 大咖 | 斯坦福教授骆利群:为何人脑比计算机慢1000万倍,却如此高效?

    大数据文摘
  • 从商业视角理解数据:数据科学家的思维之路

    大数据文摘
  • 学界 | DeepMind论文解读:通过删除神经元来了解深度学习

    AI科技评论按:深度神经网络由许多单独的神经元组成,它们以复杂且违反人直觉的方式组合起来,以解决各种具有挑战性的任务。这种复杂性一方面赋予神经网络神秘力量,另一...

    AI科技评论
  • DeepMind 最新研究:通过删除神经元理解深度学习!

    理解深度神经网络的运作机制对于帮助我们解释它们的决定,以及构建更强大的系统起到了至关重要的作用。例如,试想在不了解个体齿轮如何啮合的情况下去构建时钟会有多么的困...

    朱晓霞
  • 李宏毅深度学习之Deep Learning全连接层

    神经网络(神经网络主要包括输入,隐藏与输出层。其中,隐藏与输出的每个小圆圈表示一个神经元。

    瓜大三哥
  • 世界首创人工神经元!Nature最新研究掀范式革命,可用于治疗多种疾病

    近期,科学家们发明了不仅表现得像生物神经元的人工神经元,而且该人工神经元还仅需要微处理器的十亿分之一的功率,因此非常适合用于医疗植入物和其他生物电子仪器。

    新智元
  • 惊喜!神经元比我们想象的复杂的多

    ? 深度学习或人工神经网络(ANN)能够模拟生物神经元的观点,是个很大的误解。ANN充其量能模仿一个1957年的单个神经元模型的卡通版本。任何声称深度学习的人...

    AiTechYun
  • 学界丨MIT重磅研究:基于人工神经网络,探索抑制神经元的生物学意义

    在近几年,人工神经网络——一种参照大脑运作模式而建成的计算模型——已经成为了最为炙手可热的人工智能系统,并且应用于从语音到图像的各个领域。 AI科技评论消息,M...

    AI科技评论
  • DeepMind 最新研究:通过删除神经元理解深度学习

    【新智元导读】深度神经网络由许多个体神经元组成,具有很高的复杂性。这种复杂性使其难懂,被认为是看不透的黑匣子。DeepMind最新发表针对对单一方向泛化的重要性...

    新智元

扫码关注云+社区

领取腾讯云代金券