德科学家发现新的神经网络学习方法

沙沙响动的树叶,吱吱作响的树枝:对老鼠来说,这些感觉看起来是无害的,但如果有一只猫突然从灌木丛窜出来就不同了。在这种情况下,这些现象就变成了能够提示迫在眉睫的生命威胁的线索。据德国马普学会网站2016年3月7日报道,该学会的实验医学研究所的Robert Gütig已经发现大脑如何调动感官知觉来预测稍后发生的事情。在一个计算机模型中,他开发了一个学习过程,其中的模型神经元可以根据线索出现的频率来调整自己的活动,以区分多种不同的刺激。该模型甚至可以在线索与事件结果之间有时间差的情况下工作。Gütig的学习过程对所有生物的生存都非常重要,因为它能够使生物过滤环境刺激。该过程还能够从技术上帮助解决许多学习困难,一个可能的应用是开发语音识别程序。

在动物世界中,经常有警告信号出现在危险之前:泄露危险的声音、动作和气味都可能预示着迫在眉睫的攻击。如果一只老鼠在猫的攻击下生存,而且它能够从成功的逃跑中学习经验,它的未来将会更加光明,因为它会在下一次攻击发生之前获得线索。然而,老鼠持续不断地获得大量信息,其中大部分与危险无关。它们如何确定环境中的哪种声音和气味预示着猫的攻击?

这提出了一个关于老鼠大脑的问题。在绝大多数情况下,关键的环境刺激是临时从实际攻击中散发出来的,因此大脑必须将线索和结果事件(例如一种声音与一次攻击)联系起来,即使这两者之间有时间间隔。以前的理论不能成功解释大脑如何将线索与相关结果结合起来。马克斯普朗克实验医学研究所的Robert Gütig已经发现大脑如何解决这个问题。在计算机上,他编写了一个神经网络程序来模拟一簇神经细胞对刺激做出反应的过程。这个神经网络能够学习如何挑选出可以预测随后事件的线索。

关键问题在于频率。该网络通过加强或减弱模型神经元之间的特异性突触连接来完成学习。计算机模型的基础是一个突触学习规则。在这个规则之下,单个神经元能够增加或减少它们的活动,来对一个简单的学习信号做出反应。Gütig已经利用这个学习规则建立了一个新的学习过程。他解释说,这个‘聚合-标签’学习过程的基础是在细胞之间建立链接,规则是在一段时间内形成的神经活动与刺激信号的数量成正比。按照这种方式,在老鼠的生存环境中,如果一个学习信号能够反映特定事件发生的概率,神经元就可以学会针对刺激做出能够预测随后事件的反应。

然而,Gütig的网络能够在环境中没有学习信号的情况下学习如何对环境刺激做出反应。这是通过将一个网络中神经活动的平均值作为一个学习信号来达实现的。单个神经元学习对一定数量的刺激做出反应,刺激的数量与网络中其他神经元做出反应时的情况一致。这种自我监督的学习遵循了与赫布人工神经网络中经常用到的赫布(Hebbian)理论不同的原则。赫布网络的学习方式是强化在同一时刻或连续时间凸起的神经元之间的突触。Gütig表示,在自我监督的学习中,没有必要对神经活动进行临时性校准。在特定时间内凸起的突触数量是突触变化的决定性因素。这意味着,即使不同类型的感官线索的神经表示之间有显着的时间差,这样的网络可以连接它们,如视觉、听觉和嗅觉。

Gütig的学习过程不仅能够解释生物学进程,也可以为极大改进诸如自动化语言识别之类的技术应用奠定基础。Gütig表示,这将极大地简化基于计算机的语音识别的训练要求。‘聚合标签’学习无需费力地对语言数据库进行分类或使用复杂的分类算法,而是通过类似浏览新闻副标题的方式来完成任务。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-04-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

今日头条李磊:用机器学习做自然语言理解,实现通用 AI 仍需解决三大难题(33PPT下载)

1 新智元原创 【新智元导读】10月18日,在中国自动化学会与新智元联合主办的 2016世界人工智能大会上,今日头条科学家、头条实验室总监李磊博士受邀发表...

3916
来自专栏AI科技大本营的专栏

AI调参师会被取代吗?对话AutoML初创公司探智立方

1955 年,约翰·麦卡锡(John McCarthy)、马文·闵斯基(Marvin Minsky)、克劳德·香农(Claude Shannon)等人聚在一起,...

392
来自专栏数据科学与人工智能

【数据分析】Intel研究院院长吴甘沙:大数据分析师的卓越之道

吴甘沙 Intel中国研究院第一位“首席工程师” Intel中国研究院院长 ? 亲爱的各位同仁,各位同学,早上好。讲到大数据,就要问数据分析师应该做什么?所以我...

2455
来自专栏钱塘大数据

【钱塘号专栏】太酷炫了!万科最新大数据市场研究手段曝光!

作者:郁亮 如何研究房地产市场?归根结底需要解决的问题无非是地、房、人三大内容。 然而,传统的研究方法却耗时耗力 看不全的土地——总会遗忘疏漏 想不尽的产品——...

2676
来自专栏数据科学与人工智能

【经验】普通程序员如何转做人工智能

小编邀请您,先思考: 1 您擅长那种编程语言? 2 您了解深度学习,机器学习和人工智能吗? 我曾经也只是一个只懂 ACM 竞赛相关算法的普通程序员,误打误撞接触...

3348
来自专栏专知

DeepMind最新Nature论文:基于元强化学习的神经科学新理论

1263
来自专栏CSDN技术头条

入行 AI,如何选个脚踏实地的岗位?

AI原本是一个专业领域,没什么特别的。作为码农一枚,笔者的工作内容正好在这个领域。

883
来自专栏IT派

太酷炫了!万科最新大数据市场研究手段曝光!

近期,由上海万科与多家高校及城市数据团合作搭建的专属于万科的大数据分析平台正式上线了。这是万科在推动房地产行业的大数据化、引领地产行业转型潮流上踏出的重要一步。

771
来自专栏大数据挖掘DT机器学习

什么是文本挖掘?大数据该挖掘什么?

什么是文本挖掘 文本挖掘是一门交叉性学科,涉及数据挖掘、机器学习、模式识别、人工智能、统计学、计算机语言学、计算机网络技术、信息学等多个领域。文本挖掘就是...

3535
来自专栏CDA数据分析师

R 语言数据分析师养成计划——从零开始的 14 个任务

作者 CDA数据分析师 1992年,肉丝(Ross Ihaka)和萝卜特(Robert Gentleman)两个人在S语言(贝尔实验室开发的一种统计用编程语...

2607

扫描关注云+社区