德科学家发现新的神经网络学习方法

沙沙响动的树叶,吱吱作响的树枝:对老鼠来说,这些感觉看起来是无害的,但如果有一只猫突然从灌木丛窜出来就不同了。在这种情况下,这些现象就变成了能够提示迫在眉睫的生命威胁的线索。据德国马普学会网站2016年3月7日报道,该学会的实验医学研究所的Robert Gütig已经发现大脑如何调动感官知觉来预测稍后发生的事情。在一个计算机模型中,他开发了一个学习过程,其中的模型神经元可以根据线索出现的频率来调整自己的活动,以区分多种不同的刺激。该模型甚至可以在线索与事件结果之间有时间差的情况下工作。Gütig的学习过程对所有生物的生存都非常重要,因为它能够使生物过滤环境刺激。该过程还能够从技术上帮助解决许多学习困难,一个可能的应用是开发语音识别程序。

在动物世界中,经常有警告信号出现在危险之前:泄露危险的声音、动作和气味都可能预示着迫在眉睫的攻击。如果一只老鼠在猫的攻击下生存,而且它能够从成功的逃跑中学习经验,它的未来将会更加光明,因为它会在下一次攻击发生之前获得线索。然而,老鼠持续不断地获得大量信息,其中大部分与危险无关。它们如何确定环境中的哪种声音和气味预示着猫的攻击?

这提出了一个关于老鼠大脑的问题。在绝大多数情况下,关键的环境刺激是临时从实际攻击中散发出来的,因此大脑必须将线索和结果事件(例如一种声音与一次攻击)联系起来,即使这两者之间有时间间隔。以前的理论不能成功解释大脑如何将线索与相关结果结合起来。马克斯普朗克实验医学研究所的Robert Gütig已经发现大脑如何解决这个问题。在计算机上,他编写了一个神经网络程序来模拟一簇神经细胞对刺激做出反应的过程。这个神经网络能够学习如何挑选出可以预测随后事件的线索。

关键问题在于频率。该网络通过加强或减弱模型神经元之间的特异性突触连接来完成学习。计算机模型的基础是一个突触学习规则。在这个规则之下,单个神经元能够增加或减少它们的活动,来对一个简单的学习信号做出反应。Gütig已经利用这个学习规则建立了一个新的学习过程。他解释说,这个‘聚合-标签’学习过程的基础是在细胞之间建立链接,规则是在一段时间内形成的神经活动与刺激信号的数量成正比。按照这种方式,在老鼠的生存环境中,如果一个学习信号能够反映特定事件发生的概率,神经元就可以学会针对刺激做出能够预测随后事件的反应。

然而,Gütig的网络能够在环境中没有学习信号的情况下学习如何对环境刺激做出反应。这是通过将一个网络中神经活动的平均值作为一个学习信号来达实现的。单个神经元学习对一定数量的刺激做出反应,刺激的数量与网络中其他神经元做出反应时的情况一致。这种自我监督的学习遵循了与赫布人工神经网络中经常用到的赫布(Hebbian)理论不同的原则。赫布网络的学习方式是强化在同一时刻或连续时间凸起的神经元之间的突触。Gütig表示,在自我监督的学习中,没有必要对神经活动进行临时性校准。在特定时间内凸起的突触数量是突触变化的决定性因素。这意味着,即使不同类型的感官线索的神经表示之间有显着的时间差,这样的网络可以连接它们,如视觉、听觉和嗅觉。

Gütig的学习过程不仅能够解释生物学进程,也可以为极大改进诸如自动化语言识别之类的技术应用奠定基础。Gütig表示,这将极大地简化基于计算机的语音识别的训练要求。‘聚合标签’学习无需费力地对语言数据库进行分类或使用复杂的分类算法,而是通过类似浏览新闻副标题的方式来完成任务。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-04-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏镁客网

文字直接转视频,科学家用机器学习算法实现这种操作 | 黑科技

1064
来自专栏人工智能的秘密

AI现在都可以刷好评?水军还怎么存活?

现在只要在网上购物,大多数消费者都会去浏览商品的评价,评价高低可能取决客户最后会不会下单。

2465
来自专栏AI科技评论

大会 | ECCV 2018 德国慕尼黑召开,来份 tutorial 预热

AI 科技评论消息,计算机视觉欧洲大会(European Conference on Computer Vision,ECCV)于 9 月 8 -14 日在德国...

882
来自专栏AI科技评论

学界| 用20000篇论文告诉你:机器学习在过去五年中发生了什么

AI科技评论按:arXiv.org 是一个专门收集物理学、数学、计算机科学与生物学论文预印本的网站。数据显示,截至 2014 年底的时候,arXiv 已经达到了...

2765
来自专栏AI科技评论

KDD Cup 2018 冠军「 first floor to eat latiao」:为什么取这个队名?因为大家都爱辣条

提到 KDD Cup,相信数据挖掘领域的同学并不陌生。作为目前数据挖掘领域最有影响力、最高水平的国际顶级赛事,KDD Cup 至今已举办 21 届,每年都会吸引...

591
来自专栏数据猿

【案例】恒丰银行——对公客户贷后违约预测模型

数据猿导读 本文基于复杂网络技术深入挖掘担保圈风险,并运用分布式机器学习算法进行建模,预测企业贷后违约概率,模型成功对客户贷后违约风险进行自动化预警,提升了恒丰...

37313
来自专栏大数据文摘

[案例]网易云音乐的个性化推荐

1724
来自专栏大数据挖掘DT机器学习

python数据分析:携程出行产品预测未来14个月销量

原文:https://www.kesci.com/apps/home/#!/forum/postdetail/59194c685d9f204ee315ed9...

52210
来自专栏数据科学与人工智能

简明数据科学(1):啥啥啥?这都是啥?

原文:Data Science Simplified Part 1: Principles and Process 译者:杨德杰 2006年,英国数学家、Tes...

2537
来自专栏大数据文摘

结合AlphaGo算法和大数据的量化基本面分析法探讨

1447

扫码关注云+社区