前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >德科学家发现新的神经网络学习方法

德科学家发现新的神经网络学习方法

作者头像
人工智能快报
发布2018-03-07 15:42:58
6150
发布2018-03-07 15:42:58
举报

沙沙响动的树叶,吱吱作响的树枝:对老鼠来说,这些感觉看起来是无害的,但如果有一只猫突然从灌木丛窜出来就不同了。在这种情况下,这些现象就变成了能够提示迫在眉睫的生命威胁的线索。据德国马普学会网站2016年3月7日报道,该学会的实验医学研究所的Robert Gütig已经发现大脑如何调动感官知觉来预测稍后发生的事情。在一个计算机模型中,他开发了一个学习过程,其中的模型神经元可以根据线索出现的频率来调整自己的活动,以区分多种不同的刺激。该模型甚至可以在线索与事件结果之间有时间差的情况下工作。Gütig的学习过程对所有生物的生存都非常重要,因为它能够使生物过滤环境刺激。该过程还能够从技术上帮助解决许多学习困难,一个可能的应用是开发语音识别程序。

在动物世界中,经常有警告信号出现在危险之前:泄露危险的声音、动作和气味都可能预示着迫在眉睫的攻击。如果一只老鼠在猫的攻击下生存,而且它能够从成功的逃跑中学习经验,它的未来将会更加光明,因为它会在下一次攻击发生之前获得线索。然而,老鼠持续不断地获得大量信息,其中大部分与危险无关。它们如何确定环境中的哪种声音和气味预示着猫的攻击?

这提出了一个关于老鼠大脑的问题。在绝大多数情况下,关键的环境刺激是临时从实际攻击中散发出来的,因此大脑必须将线索和结果事件(例如一种声音与一次攻击)联系起来,即使这两者之间有时间间隔。以前的理论不能成功解释大脑如何将线索与相关结果结合起来。马克斯普朗克实验医学研究所的Robert Gütig已经发现大脑如何解决这个问题。在计算机上,他编写了一个神经网络程序来模拟一簇神经细胞对刺激做出反应的过程。这个神经网络能够学习如何挑选出可以预测随后事件的线索。

关键问题在于频率。该网络通过加强或减弱模型神经元之间的特异性突触连接来完成学习。计算机模型的基础是一个突触学习规则。在这个规则之下,单个神经元能够增加或减少它们的活动,来对一个简单的学习信号做出反应。Gütig已经利用这个学习规则建立了一个新的学习过程。他解释说,这个‘聚合-标签’学习过程的基础是在细胞之间建立链接,规则是在一段时间内形成的神经活动与刺激信号的数量成正比。按照这种方式,在老鼠的生存环境中,如果一个学习信号能够反映特定事件发生的概率,神经元就可以学会针对刺激做出能够预测随后事件的反应。

然而,Gütig的网络能够在环境中没有学习信号的情况下学习如何对环境刺激做出反应。这是通过将一个网络中神经活动的平均值作为一个学习信号来达实现的。单个神经元学习对一定数量的刺激做出反应,刺激的数量与网络中其他神经元做出反应时的情况一致。这种自我监督的学习遵循了与赫布人工神经网络中经常用到的赫布(Hebbian)理论不同的原则。赫布网络的学习方式是强化在同一时刻或连续时间凸起的神经元之间的突触。Gütig表示,在自我监督的学习中,没有必要对神经活动进行临时性校准。在特定时间内凸起的突触数量是突触变化的决定性因素。这意味着,即使不同类型的感官线索的神经表示之间有显着的时间差,这样的网络可以连接它们,如视觉、听觉和嗅觉。

Gütig的学习过程不仅能够解释生物学进程,也可以为极大改进诸如自动化语言识别之类的技术应用奠定基础。Gütig表示,这将极大地简化基于计算机的语音识别的训练要求。‘聚合标签’学习无需费力地对语言数据库进行分类或使用复杂的分类算法,而是通过类似浏览新闻副标题的方式来完成任务。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2016-04-27,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 人工智能快报 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
语音识别
腾讯云语音识别(Automatic Speech Recognition,ASR)是将语音转化成文字的PaaS产品,为企业提供精准而极具性价比的识别服务。被微信、王者荣耀、腾讯视频等大量业务使用,适用于录音质检、会议实时转写、语音输入法等多个场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档