【神经拟态计算】 有新灵魂的机器——模拟大脑的计算机

人们喜欢变着花样来形容大脑。以前,大脑被时髦地比作 17 世纪贵族花园中赏心悦目的喷泉背后的水力供应系统。随着技术的发展,大脑先后被形容为电报通信网和电话交换系统。现在则是轮到用计算机来形容大脑。 虽然“ 计算机般的大脑”还只是个比喻, 但是有一群科学家试图将这个比喻颠倒过来。他们希望与其将大脑看作计算机,还不如让计算机表现得更像大脑。 他们相信,人们最终不仅能对大脑的工作机制有更深的了解,还能构造出更好的计算机。

这些有远见的人自称为神经拟态学工程师。根据他们中的一名领军人物——德国海德堡大学的物理学家卡尔海因茨·迈耶(KarlheinzMeier)所述,他们的目标是设计一台计算机,能够具备大脑所具有的三大特性中的一部分(或最好是全部)。这三大特性是:低能耗(人脑的功率大约是 20 瓦特,而当前试图模拟人脑的超级计算机需要几百万瓦特),容错性(失去一个晶体管就能破坏一个微处理器, 但大脑时刻都在失去神经元),以 及无须编程(大脑在与外界交互的过程中自发地学习和改变,而非遵循预设算法所限制的路径和分支)。

然而为了实现这些目标,神经拟态学工程师不得不先实现计算机对大脑的模拟。而且由于没人知道大脑实际上到底是如何工作的,他们只能自己来解决这个问题。这意味着他们要填补神经系统科学家对这一器官认知的空白。具体来说,这意味着要构造人工大脑细胞并且用各种方式将它们连接起来,以此来模拟大脑的工作。

回到模拟机

当前神经系统科学家对大脑的认知空缺主要在中等尺度脑解剖。单个神经细胞(即神经元)的工作模式大体上已被掌握,大脑中每个可见的脑叶和 神经节的作用也已探明,但是脑叶和神经节中的神经元如何组织依旧是个谜。然而正是神经元的组织方式决定了大脑的思考方式——同时也很可能是意识的存在方式。这正是为什么绘制大脑图谱以及了解大脑成为奥巴马在2013年4月高调宣布的美国人脑计划(BRAINinitiative)的一大目标的原因。要想了解大脑图谱显示的是什么,唯一的方法可能就是在计算机中对其进行建模。模型甚至可能会先出现,并且反过来指导大脑图谱的绘制。换句话说,神经拟态工程学可能比神经科学更早发现思考的基本原理。

两个最前沿的神经拟态计算项目正由人类大脑研究计划 (Human Brain Project, HBP) 主导下进行, 这个计划是由欧洲科研机构联合发起的一个野心勃勃的尝试,试图在2023年构建一个大脑的拟象。 这些项目开发的计算机走的是完全不同的路线。曼彻斯特大学的史蒂夫·弗伯 (Steven Furber) 制造的 SpiNNaker 便是其中之一。SpiNNaker 是一台数字计算机,也就是平时最常见的那种,通过一系列代表电压有无的 1 和 0 来处理信息。由此可见,其核心是一个定制的微处理器网络。

另一部机器叫做 Spikey,由迈耶博士的团队制 造。Spikey 让人回想起更早期的计算机。第一批计算机中有好几部是模拟计算机。这些模拟计算机用持续变化的电压范围中的点来表示数字——因此无论是0.5伏、1伏还是1.5伏,各自的含义都不相同。 Spikey的工作方式某种程度上与之类似。虽然由于数字系统没有歧义,不易出错,导致模拟计算机败给了数字计算机,但是迈耶博士认为,因为模拟计算机的工作方式与真实神经系统的某些特性更为相近,所以它们是对这些特性进行建模的更好的方法。

弗伯博士和他的团队自 2006 年就投入到 SpiN-Naker的研究工作中。两年前(2011年),他们为了验证自己的想法,构建了一个仅有 18 个处理器的版本。他们正准备制造一台更大的机器,比之前的要大得多。预计在 2014 年,他们就能制造出拥有百万处理器的计算机。弗伯博士认为,借助这么多芯片,他能够对人脑的 1% 进行建模——关键是他的模型能够在实时条件下工作。当前,即使用那些超级计算机来模拟大脑的更小部分,其运行速度也远比不上真实大脑。弗伯博士并非止步于此,他希望到2020年开发出性能是百万处理器计算机 10 倍的 SpiNNaker版本。

SpiNNaker达到这样的速度要靠实现迈耶博士的第三个期望——无须编程。大多数现代计算机的工作方式是在中央时钟的控制下来回搬运数目相对较少的几个大数据块。与之不同的是,SpiNNaker的处理器只在适当的时候才发出大量微小的信息 “脉冲”。这和神经元的工作方式十分类似(这是特意如此设计的),信号以被称为“动作电位(actionpotentials)”的电子脉冲 (electricalspikes) 的形式通过神经元,这些动作电位除了表明自己发生过之外, 几乎不携带额外的信息。

这种异步信号(之所以这样称呼是因其没有用于同步的中央时钟)由于没有等待时间,处理信息的速度比同步信号快得多。它的能耗也更低,因此满足了迈耶博士的第一个期望。如果某个处理器失效了,系统会在其周围重新规划路线,由此满足了他的第二个期望。大多数计算机工程师不采用异步信号是由于其难以编程,然而作为模拟大脑的一个方案来说,异步信号几乎是完美的。

但是(在用于模拟大脑时)这种思路可能不如模拟技术。虽然迈耶博士还未完全放弃数字路线,但是他在使用中已经有所差别。他用数字组件来模 拟通过突触(神经元间的连接)的信息传播。在真实的神经元里这些信息以被称为“神经递质”的化学物质作为载体,传播时只有“有”或“无”的区别。换句话说,它们是数字的。

神经递质的释放会导致一个对动作电位到来的响应。当神经元接收到其中一个神经递质信号后,便不再继续发射动作电位,而是建立一个阈值。只有当它们接收到一定数量的信号,直至超过阈值之后(这基本上是一个模拟过程)它们才能再发射一个动作电位,并重置自身。Spikey 机器中的人造神经元的功能正是如此,每当其被激励时,就在电容中累积电荷,直到电荷量达到阈值后电容放电。

实际进展如何?

苏黎世神经信息研究所(由苏黎世大学和同城 的工程院校苏黎世联邦理工学院共同运营)的神经 拟态学工程师吉亚科莫·印第维里 (Giacomo Indiv- eri)走的同样是模拟路线。印第维里博士的工作独 立于人类大脑工程,他有一个不同的、更为实际的目标。他正在尝试利用神经拟态学的原理构建所谓 的“自主认知系统”——比如植入式耳蜗,它可以 分辨佩戴者是在音乐厅、汽车内或是在海滩,并能 相应地调整输出。他自己额外定了一个约束条件: 要求这些系统要与所替代的天然神经部件具有相同的重量、体积和能耗,同时尽量使其功能接近自然。

这种追求自然的方法有一部分是利用了系统中的晶体管经常工作在技术上被称为“亚阈值区 (sub- threshold domain)”的状态中。这种状态下的晶体管 虽然是关闭的(也就是说电流不能通过,因此代表二进制中的0),但仍然会流失一部分微小的漏电流(几微微安),因为电子能通过晶体管扩散出去。

早在20世纪80年代,被公认为神经拟态计算之父(同时也是“neuromorphic”这个词的发明者)的加州理工学院工程师卡弗·米德 (Carver Mead) 证 明,晶体管在亚阈值区的行为与细胞膜上的离子通道蛋白十分相似。离子通道的作用是在细胞内外传递钠、钾离子,其主要任务之一就是产生动作电位。 因此,利用亚阈值区状态下的晶体管是模拟动作电位很好的方法,并且功耗很低——这是与真实的生 物系统相仿的另一个方面。

印第维里博士的设备的运行速度也与生物电路 的相同(几十或几百赫兹,而非计算机处理器千兆赫兹这样的超级速度)。这使他们的设备能与真实的生物电路(例如植入式耳蜗中耳内的生物电路)进行交互,从而能有效地处理像人们说话或者打手势这样的自然信号。

印第维里博士当前正在利用晶体管亚阈值区的 原理开发包含数百个人造神经元和数千个神经元间的突触的神经拟态学芯片。虽然这听起来与弗伯博士要做的百万处理器系统差距甚远,但是它不需要一整间屋子来容纳它——如果你的目标是一个可用 的“人造器官”的话,这点就显得尤为重要。

神经拟态计算研究由欧洲人而非美国人占据着主导地位,这对于一个信息技术领域来说,实属罕见。但是这个状态能维持多久是个问题,因为大西 洋彼岸的研究者们正在奋力追赶。特别是与人类大脑研究计划中神经拟态学这部分的规模相当的,由美国国防部高级研究计划署出资的自适应可塑可伸缩电子神经拟态系统 (Systems ofNeuromorphicAdaptive Plastic ScalableElectronics, SyNAPSE),也正在研制两台神经拟态学计算机。

美国队登场

其中一台机器由位于加州马里布的HRL实验室设计,该实验室由波音公司和通用汽车共同拥有。该项目的带头人纳拉扬·斯里尼瓦桑 (Narayan Srinivasa)表示,他的神经拟态学芯片一行代码都不需要写就能工作,它可以像真的大脑那样边干边学。

真正的大脑有一个被称为“小世界网络”的重要特性。大脑中的每个神经元都有上万个突触与其他神经元相连。“小世界网络”特性意味着,即使人脑包含 860 亿个神经元,在千千万万条可能的路径中,每个神经元只须经过两到三次连接就能抵达其他任意一个神经元。

在真正的大脑和众多对人工大脑的尝试(包括 斯里尼瓦桑博士的芯片)中,记忆的形成都牵涉到加强部分突触的连接,而削弱其他连接。正是这一点使得网络无须依赖传统的计算机程序就能处理信息。而构建这种人造小世界网络的一大障碍在于如何在包含大量神经元的系统中连接所有的神经元。

许多神经拟态学芯片通过所谓的纵横制交换架构(cross-bararchitecture)来完成这个任务。一个纵横交换网络由密集的连线网格组成,每个节点在外 围都连接着一个神经元,而突触位于网格线的交叉连接处。这在小规模电路中工作良好,但是随着神经元数量的增加,这种结构逐渐不再适用。

斯里尼瓦桑博士采用“突触时分复用”来解决 这个问题,其中每个物理突触充当着 1 万个虚拟突触的角色,每个虚拟突触轮流占用 100 纳秒的时间。 这样一个系统需要一个中央时钟来协调一切,而且这个时钟要运行得足够快。大脑基本工作在10赫兹到 100 赫兹之间,而斯里尼瓦桑博士的芯片运行速度高达一兆赫兹。但这允许芯片中的 576 个人造 神经元每一个都能以与同等规模真实网络中神经元相同的速度和其他人造神经元进行交流。

这种规模的天然神经网络的确存在。秀丽隐杆 线虫是一种小型线虫,因其发育途径完全规范而成为地球上被研究得最彻底的动物之一。除了生殖细 胞外,每个秀丽隐杆线虫个体有 959 个细胞(如果是雌雄同体)或 1031 个细胞(雄性,秀丽隐杆线虫没有纯雌性)。雌雄同体的个体中有302个细胞是神经元细胞,雄性个体中有 381 个。这种动物大约有 5000 个突触。 即便如此简单,也依然没有一台神经拟态学计算机能够模拟秀丽隐杆线虫的神经系统。谁要是能 构建一台这样的计算机,他就能在神经拟态学工程师的行列中由新手晋级为大师。斯里尼瓦桑博士希 望他的芯片中有一块能成为这样的传世之作。

与此同时,更为实际的是, 他和他的团队正 与美国航空环境公司展开合作。 这家公司制造的 微型无人机能够完成像在建筑物 内飞来飞去排查故 障这样的任 务。他的团队设计的芯片中有一个能充当这种无人机的大脑,学着执行诸如识别无人机曾经去过哪个房间,以及房间里的东西是否有变化这样的任务。更高版本的芯片甚至可以获取控制权,自主驾驶无人机。

SyNAPSE的另一个项目由位于圣何塞的 IBM 阿尔马登实验室的德尔门德拉·莫德哈 (Dharmendra Modha) 负责。通过与四所美国大学(哥伦比亚大学、康奈尔大学、加州大学美熹德分校以及威斯康星大学麦迪逊分校)合作,他和他的团队构建了一个拥 有256个“整合放电(integrate-and-fire)”神经元(LIF神经元模型。——译者注)的神经拟态计算机原型。LIF 模型的得名是由于它们累加(整合)输入直至达到阈值,然后发射信号并重置自己。从这点看,这些神经元与 Spikey中的神 经元很像,不过二者的电子细节有所不同,因为前者用于记录输入信号的是数字存储器而不是电容。

莫德哈博士的芯片拥有26.2万个突触,更重要的是其中的神经元可以像真正的大脑那样,根据接收到的输入重新布线。而且,这些神经元也能像真 正的大脑一样记住它们近期的行为(它们触发了哪些突触),并在重新布线的过程中利用这些信息削弱一些连接,增强另一些连接。

迄今为止,莫德哈博士和他的团队已经教会他们的电脑玩一款叫做“乒乓 (Pong)”的最早的(也是最简单的)街机游戏,还能识别从0到9的数字。 在数字识别的程序中,当某个人在触摸屏上随手写个数字,神经拟态学芯片就能从笔迹中提取关键特征,并用这些特征来猜测写的是哪个数字(结果通 常是正确的)。

虽然这看起来还相当初级,但它仅仅是为了证明原理的可行性。他们的下一步计划就是将其规模扩大。

已经被探明大脑的中层结构是模块化的。包含绝大多数神经元的新皮质占据着大脑体积的3/4, 其本身由许多柱状体组成,每一个都包含大约 7 万 个神经元。莫德哈博士计划制造某种与之类似的东西。他打算将他的芯片视为皮质柱,并将这些芯片连接起来构成一台计算机,使之至少在这点上很像大脑。他正在接近这个目标。实际上,他已经仿真了一个包含 100 万亿个突触的系统——真实大脑中神经元的数目大约在同一数量级。

在此之后

当然,神经拟态计算将朝什么方向发展依然未知。虽然此刻它还十分原始,但是一旦成功,它就能够构造出和人一样聪明——甚至比人更聪明——的机器。科幻小说或许因此成为科学事实。

此外,对于习惯了将大脑看做科学尚未破解的黑盒的旁观者来说,事物的发展可能比预想的要快得多。大把资金开始投入到这个领域。人类大脑研究计划10 年间的预算为10 亿欧元(13亿美元),而美国人脑计划第一年的预算也有 1 亿美元,神经拟态计算会从这两个计划受益。假如规模是唯一瓶颈的话,那么答案将会很快揭晓,因为这真的只是一个将足够多的皮质柱形的硅的等价物连接起来,再看看其如何削弱和增强系统内部连接的问题。

人们常常觉得他们的大脑比其他生物更复杂——事实也确实如此。但是已知的是,人脑与猿脑或猴脑的主要不同之处在于人脑更大。因此,问题可能真的只在于连接足够多的适当的部件,再让它们自行去解决问题。人工智能领域的创造者之一马文·明斯基(MarvinMinsky)曾预言过,如果这样真的可行,机器将会把人类当作宠物。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2015-11-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏华章科技

【膜拜大神】当今世界最牛的25位顶尖大数据科学家

在大数据技术飞速发展的今天,谁才是我们大数据科研与工业界中最有威望的科学家呢?下面我们来进行梳理,共罗列了25位当今世界,无论是在学术与工业界都产生巨大影响的数...

752
来自专栏机器之心

业界 | 谷歌、百度等联合发布机器学习新基准MLPerf,旨在促进AI发展和公众参与

1514
来自专栏大数据文摘

“微笑传递”背后的数据分析

1184
来自专栏CSDN技术头条

数据挖掘历史中的重要里程碑

数据挖掘现在随处可见,而它的故事在《点球成金》出版和“棱镜门”事件发生之前就已经开始了。下文叙述的就是数据挖掘的主要里程碑,历史上的第一次,它是怎样发展以及怎样...

1897
来自专栏深度学习

AI 领域最最稀缺的人才——人工智能架构师

这里,就不卖关子了。AI领域最最最最最稀缺的人才应该为人工智能架构师。有过4次技术创业经历,如今做AI投资的星瀚资本创始合伙人杨歌如是说。 在杨歌的身上,传奇的...

4127
来自专栏大数据文摘

Keras作者François Chollet:一位“网红”科学家的自我修养

1342
来自专栏数据科学与人工智能

【数据科学家】当今世界最牛的25位顶尖大数据科学家

引言 在大数据技术飞速发展的今天,谁才是我们大数据科研与工业界中最有威望的科学家呢?下面我们来进行梳理,共罗列了25位当今世界,无论是在学术与工业界都产生巨大影...

2475
来自专栏AI科技评论

业界 | 谷歌的神经翻译系统并不意味着机器翻译到头了

AI科技评论按:本文是清华大学教授、中国中文信息学会副理事长孙茂松在MIFS 2016上的演讲实录,AI科技评论编辑整理。此次在北京举办的MIFS 2016是由...

2656
来自专栏大数据文摘

大数据的陷阱

1477
来自专栏大数据文摘

视觉研究的前世今生(上)

1736

扫描关注云+社区