首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

人工神经网络为梦想新理论铺平道路

体育界充满了迷信。迈克尔·乔丹在他的芝加哥公牛队球衣下面穿的是北卡罗莱纳大学的短裤,这是出了名的;塞雷娜·威廉姆斯在整个比赛中都穿着同样的袜子;当戈兰·伊万尼塞维奇赢得一场网球比赛时,他会在整个比赛中重复当天的活动。

心理学家说,之所以会出现这种行为,是因为人类的大脑有时会把很少或根本没有因果关系的事件联系起来。计算机科学家有不同的思考方式。对于他们来说,这是一个“过度拟合”的例子——使用不相关的细节来构建模型。可能有许多因素会导致一个特定的网球击球、篮球投掷或本垒打的成功,但袜子或内裤的颜色可能不是其中之一。

同样的事情也发生在人工神经网络上。网络学习相关的细节,但也不相关。超拟合是机器学习专家们的苦恼,他们设计了各种各样的技术来解决这个问题。

所有这些都回避了一个问题:人类大脑是如何处理过拟合的。我们的日常经验可以大量重复,那么大脑是如何从这些单一的经验总结到其他情况的呢?

今天,我们得到了一个答案,这要感谢马萨诸塞州塔夫斯大学的神经科学家Erik Hoel的工作。Hoel的答案是,人类的大脑通过做梦来防止过度匹配。他说,做梦就是为了解决这个问题而进化的,而这个问题在所有的神经网络中都很常见。如果他的理论是正确的,它就回答了神经科学中一个尚未解决的大问题:我们究竟为什么会做梦。

首先,一些背景。心理学家、神经科学家和其他人一直在思考远古时期的梦的起源和作用。弗洛伊德认为它们是一种与禁忌有关的表达挫折的方式——这一观点长期以来一直被质疑。

还有人认为,梦是一种情绪调节器,可以让我们控制和解决情绪冲突。然而,批评者指出,大多数梦缺乏强烈的情感内容,情感中性的梦很常见。

还有人说,梦是大脑修复记忆或选择性忘记不想要或不需要的记忆过程的一部分。这些理论也遇到了批评,即大多数梦缺乏现实的细节,有一种奇怪的幻觉的质量,并且经常包含以前从未见过的片段。Hoel说:“大多数的梦根本不涉及特定的记忆,这使得整合新记忆成为做梦的一个可疑目的。

机器学习的线索

他的新观点是,梦的目的是帮助大脑基于特定的经验做出概括。他们的做法与防止人工神经网络过度拟合的机器学习专家类似。

最常见的解决过度拟合的方法是在学习过程中添加一些噪声,使神经网络更难专注于无关的细节。在实际操作中,研究人员会给图像添加噪声,或向计算机提供损坏的数据,甚至会删除神经网络中的随机节点,这一过程被称为dropout。

从人类的角度来说,这就相当于迫使迈克尔·乔丹(Michael Jordan)穿不同组合的短裤,或让小威廉姆斯(Serena Williams)换袜子,或让戈兰·伊万尼塞维奇(Goran Ivanisevic)在比赛日做随机的动作。这样他们就不太可能把注意力集中在一个不相关的细节上。

梦对大脑也有同样的作用,Hoel说:“目的是提供‘分布失调’的模拟,以防止过度拟合和提高泛化。”

他称这种观点为“过度适应大脑假说”,并指出有大量证据支持这一观点。例如,激发梦境的最好方法之一就是大量地玩简单重复的游戏,比如俄罗斯方块。这就造成了大脑过度适应任务的条件。

这就是为什么这种活动会引发梦境。这些梦并不是记忆中的俄罗斯方块游戏的回放,而是往往缺乏具有幻觉性质的细节。正是这种“噪音”帮助大脑从游戏中归纳。这也是为什么人们可以在一夜好眠后提高自己的表现。

Hoel用他的新理论做了许多可验证的预测。他说:“这可能是对人类过度拟合的直接测量。”例如,一种方法可能是训练人们完成过度重复的任务,看看他们是否能在睡觉和不睡觉的情况下总结出这种行为。

梦的替代品

这个理论也可以用来更好地理解睡眠不足的人可能会犯的错误类型,然后减轻这些错误。他说:“如果睡眠不足的大脑确实超负荷运转,那么他们就很容易以固有的方式犯错误。”

Hoel说,该理论为睡眠不足提供了一种治疗方法。他说:“也有替代梦境的可能性,其中人造的类似梦境的刺激可能有助于提高泛化,从而提高睡眠剥夺者的表现。”

梦想替代品的本质本身就是迷人的。Hoel说,一般来说,小说——书籍、戏剧、电影等——可能起到与梦类似的作用。他指出:“毕竟,这些都是明显错误的信息。”

人类为什么会创作并欣赏小说一直是个谜。但Hoel给出了一个答案:“大脑过度发育假说表明,小说,或许还有一般的艺术作品,实际上可能有一种潜在的认知效用,以提高泛化和防止过度拟合的形式存在,因为它们起到了人造梦的作用。”

这是有趣的工作!到目前为止,大多数认知理论认为梦是一种偶然现象,是睡眠的一种有趣的副产品,本身没有什么重要的功能。

Hoel的想法颠覆了这一切,他提供了梦的生物学功能,因此第一次为梦的进化提供了理论依据。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20201126A028AW00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券