专栏首页技术翻译深度学习和神经网络的六大趋势

深度学习和神经网络的六大趋势

神经网络的基本思想是模拟计算机“大脑”中的多个相互关联的细胞,这样它就可以从环境中学习、识别不同的模式,并做出与人类相似的决定。

一个基本的神经网络包含大约数百万的人工神经元,称为单元(unit)。这些单元按层排列,每一层连接到另一侧。这些单元划分如下:

1. 输入单元-旨在从外部环境接收信息。

2. 隐藏单元-最终输入到输出单位,每个隐藏单元都是其输入的压缩线性函数。

3. 输出单元-这些信号网络应该如何响应最近获取的信息。

大多数的神经网络是“全连通“的。这意味着每个隐藏单元和每个输出单元都连接到该层另一侧的每个单元。每个单元之间的联系称为“权重”。权重可以是正的,也可以是负的,这取决于它对另一个单位的影响程度。

当神经网络被训练时,不同的输入单元将不同的信息模式馈送到网络中。这些会触发之后到达输出单元的隐藏层。这被称为前馈网络是常用的设计之一。 在你使用不同的学习示例对神经网络进行充分训练之后,它就会到达一个阶段,在该阶段可以呈现一组全新的输入,这些输入在训练阶段没有遇到,并且它可以预测出令人满意的输出。

以下是神经网络和深度学习的一些重要趋势。

胶囊网络

胶囊网络是一种新兴的深层神经网络形式。它们以类似于人脑的方式处理信息。这实质上意味着胶囊网络可以维持层次关系。

这与卷积神经网络形成对比。尽管卷积神经网络是迄今为止最广泛使用的神经网络之一,但它们未能考虑简单和复杂对象之间存在的关键空间层次结构。这导致错误分类和更高的错误率。

在进行简单的识别任务时,胶囊网络提供更高的准确度,同时减少错误数量。并且他们也不需要大量的培训模型数据。

深度强化学习(DRL)

深度强化学习是神经网络的一种形式,它通过观察、行动和奖励与环境交流来学习。DRL已经被成功地用于确定游戏策略,比如Atari和Go。著名的AlphaGo项目被用来击败人类冠军,而且也取得了成功。

DRL是必不可少的,因为它是你可以用于开发业务应用程序的最通用的学习技术之一。培训模式所需的数据也要少得多。另一个优点是你可以通过模拟来训练它。这完全消除了标记数据的需要。

增强学习

到目前为止,机器学习的最大障碍,尤其是深度学习,是用于训练神经模型的大量标记数据的可用性。有两种技术可以帮助解决这一问题-合成新数据并将任务A的训练模型转移到任务B。

转移学习(将学习从一个任务转移到另一个任务)或一次性学习(只用一个或没有相关示例进行学习)等技术使它们成为精益数据学习技术。类似地,当使用插值或模拟来合成新数据时,它有助于获得更多训练数据。 ML专家通常将此称为增强现有数据以改善学习。

诸如此类的技术可用于解决更广泛的问题,尤其是在存在较少历史数据的情况下。

监督模型

监督模型是一种学习形式,它从以前标记的训练数据中推断出特定的功能。它使用一种有监督的学习算法,该算法包含一组具有相应标记的正确输出的输入。

将标记输入与标记输出进行比较。鉴于两者之间的差异,您可以计算错误值,然后使用算法来学习输入和输出之间的映射。

最终目标是近似映射函数,如果接收到新的输入数据,则可以预测精确的输出数据。类似于教师监督学习过程的情况,当算法达到令人满意的性能或准确性时,学习过程停止。

带记忆模型的网络

区分人类和机器的一个重要方面是工作和思考的能力。毫无疑问,计算机可以预先编程,以极高的精度完成一项特定的任务。但是,当你需要它们在不同的环境中工作时,就会出现问题。

为了使机器能够适应现实世界的环境,神经网络必须能够在不遗忘的情况下学习顺序任务。神经网络需要借助多种强大的体系结构来克服遗忘。这些可以包括:

1.长期内存网络,可以处理和预测时间序列

2.弹性权重合并算法,可以根据先前完成的任务定义的优先级减慢学习速度

3.不受遗忘影响的渐进式神经网络,能够从已经学过的网络中提取有用的特征,以用于新的任务。

混合学习模型

各种类型的深度神经网络,包括GANs和DRL,在性能方面表现出了很大的潜力,并在不同类型的数据中得到了广泛的应用。也就是说,深度学习模型无法以贝叶斯或概率方法的方式对不确定性进行建模。

混合学习模型可以将这两种方法结合起来,并利用这两种方法的优点。这种混合模型的一些例子包括贝叶斯GANs和贝叶斯条件GANs。

混合学习模型允许扩展可解决的业务问题范围,包括具有不确定性的深度学习。这将允许更高的性能以及模型的可解释性,这可以鼓励更广泛的采用。

概要

人工智能为新时代奠定了基础,许多技术上的突破都是建立在这一基础之上的。在这篇文章中,我们已经介绍了深度学习和神经网络的一些显著趋势。自动驾驶汽车结合使用多种模型,如深度加强学习和卷积神经网络,进行视觉识别。

我们可能错过了许多其他值得注意的趋势。你认为深度学习和神经网络的显着趋势是什么?请在评论区分享你的观点。

原文标题《Top 6 Notable Trends in Deep Learning and Neural Networks》

作者:Manjunath M

译者:lemon

不代表云加社区观点,更多详情请查看原文链接

原文链接:https://dzone.com/articles/top-6-notable-trends-in-deep-learning-and-neural-n

原文作者:Manjunath M

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 5分钟理解人工智能与机器学习的区别

    人工智能不是一个新名词,它已有数十年历史。从80年代初开始,计算机科学家设计了能够学习和模仿人类行为的算法。

    liuxuewen
  • 机器学习和深度学习有什么区别?

    在本文中,我们将研究深度学习和机器学习之间的差异。我们将逐一了解它们,然后讨论他们在各个方面的不同之处。除了深度学习和机器学习的比较外,我们还将研究他们未来的趋...

    liuxuewen
  • 每个人都应该了解机器学习

    在过去的几个月里,我有机会与很多决策者讨论人工智能,特别是机器学习。他们的投资者已经向他们的一些高管询问他们的机器学习(ML)策略以及他们已经实施ML的地方。那...

    liuxuewen
  • 人工智能AI(1)开篇:小白之学习计划

    最近小拾君准备正式开始人工智能相关领域的系统性学习了,看了一些资料及书籍,给自己列个学习计划,分享给大家,与君共勉。后续,将按照本计划(3.1开始)包括但不限于...

    企鹅号小编
  • 【深度学习最精炼详实干货中文讲义】复旦邱锡鹏老师《神经网络与深度学习》讲义报告分享01(附报告pdf下载)

    【导读】复旦大学副教授、博士生导师、开源自然语言处理工具FudanNLP的主要开发者邱锡鹏(http://nlp.fudan.edu.cn/xpqiu/)老师撰...

    WZEARW
  • 吴恩达深度学习笔记 (补)1.1~1.5 神经网络概述

    举一个例子:假设房子的价格与房子大小有关,为了预测房子的价格,我们可以先可以搜集一批房子价格对有房子大小的数据,为了能够进行分析,我们需要建立一个模型,来实现输...

    Dar_Alpha
  • 机器学习该如何入门

    引言   可能你对这个名字叫“机器学习”的家伙不是特别的了解,但是相信用过iPhone的同学都知道iPhone的语音助手Siri,它能帮你打电话,查看天气等等;...

    机器学习算法工程师
  • 【FinTech】Fintech机器学习,所有你必须知道的

    金融世界处理统计数据和定量数字,使其成为机器学习(ML)的完美领域。 这种工程科学已经应用于医疗,旅游,媒体和零售等不同领域。

    陆勤_数据人网
  • 技术 | 入门机器学习必须知道的6件事,你可未必都了然于心了

    翻译 | AI科技大本营(rgznai100) 参与 | shawn 过去两年中,我曾经多次折服于机器学习的魅力。但每当我决定尝试新事物时,经常会不得不重新学习...

    AI科技大本营
  • 干货 | 机器学习之必知必会6个点

    导语:过去两年中,我曾经多次折服于机器学习的魅力。但每当我决定尝试新事物时,经常会不得不重新学习某些概念和课程,其实大部分学习就是这样一个过程。在学习机器学习这...

    IT派

扫码关注云+社区

领取腾讯云代金券