首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

深度学习】深度学习

深度学习的起源 深度学习(Deep Learning)是机器学习中一个非常接近AI的领域,其动机在于建立、模拟人脑进行分析学习的神经网络。深度学习属于无监督学习。...深度学习的概念源于人工神经网络的研究。...深度学习模拟更多的神经层神经活动,通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示,深度学习的示意图如图1所示。...深度学习的动机 学习基于深度架构的学习算法的主要动机是: ①不充分的深度是有害的; 在许多情形中深度2就足够(比如logicalgates, formal[threshold] neurons...论文Afast learning algorithm for deep learning中采用的深度信念网(DBN)就属于生成性深度结构。

1.9K71

深度学习的深度学习路程

MyEncyclopedia 公众号提炼自己在AI多个领域的学习心得体会:深度学习,强化学习,统计机器学习,算法与工程实现。同时,用上述多个视角来全面看待问题,坚持从第一性原理出发理解推导。...目前,MyEncyclopedia 系列文章包括 深度学习论文解析 深度强化学习实践和理论 基础统计和统计机器学习 多维度思考算法题 动手学 Sutton 强化学习教程 将来,会逐渐完善已有系列并涉及...GNN,NLP,CV,KG,RL 方向的前沿论文和动手实践,并致力于寻求联系 深入数学理论,进一步用动画来可视化,建立直觉的联系 创意编程,用深度学习,强化学习实践cool idea 如果你也想更广更深的学习深度学习和算法的话

1.1K10
您找到你想要的搜索结果了吗?
是的
没有找到

深度学习笔记-深度学习实战

深度学习实战 前面总结了吴恩达的深度学习课程笔记,博主把后续的深度学习课程笔记总结记录到个人博客里面,以供学习和交流使用。今天总结的是深度学习的超参数调试、正则化和梯度检验。...改善神经网络 依次通过数据集、偏差方差、正则化、梯度爆炸和消失来掌握深度学习的基础理论。...,深度学习网络是如何来实现L2正则化的呢?...深度学习算法采用BP进行逐步迭代求解参数w和b,那么我们加入正则化后如何进行处理呢?...W=0.01 * np.random.randn(D,H) 这种方式只适用于小的神经网络,对深度层数较多的神经网络不太适合,并且分布的方差随着输入数量的增大而增大。

1.4K60

深度学习教程 | 深度学习概论

显然,AI的各个分支中,发展的最为迅速的就是深度学习。因此现在,深度学习是在科技世界中广受欢迎的一种技术。...推动深度学习变得如此热门的主要因素包括数据规模、计算能力及算法模型的创新。 4.1 为什么深度学习能够如此有效? 为什么深度学习能够如此有效呢?要回答这个问题,可以从数据量说起。...推荐文章 深度学习教程 | 深度学习概论 深度学习教程 | 神经网络基础 深度学习教程 | 浅层神经网络 深度学习教程 | 深层神经网络 深度学习教程 | 深度学习的实用层面 深度学习教程 | 神经网络优化算法...深度学习教程 | 网络优化:超参数调优、正则化、批归一化和程序框架 深度学习教程 | AI应用实践策略(上) 深度学习教程 | AI应用实践策略(下) 深度学习教程 | 卷积神经网络解读 深度学习教程...| 经典CNN网络实例详解 深度学习教程 | CNN应用:目标检测 深度学习教程 | CNN应用:人脸识别和神经风格转换 深度学习教程 | 序列模型与RNN网络 深度学习教程 | 自然语言处理与词嵌入

2.9K51

深度学习之初识深度学习

什么是深度学习(Deep Learning) 人工智能、机器学习与深度学习 人工智能诞生于 20 世纪 50 年代,当时计算机科学这一新兴领域的少数先驱开始提出疑问:计算机是否能够“思考” 我们今天仍在探索这一问题的答案...因此,人工智能是一个综合性的领域,不仅包括机器学习与深度学习,还包括更多不涉及学习的方法。...“深度学习”中的“深度”指的并不是利用这种方法所获取的更深层次的理解,而是指一系列连续的表示层。 数据模型中包含多少层,这被称为模型的深度(depth)。...可参考文章>理解. 然而一个深度神经网络可能包含数千万个参数。...参考 > 神经网络 深度学习入门:一句话告诉你什么是神经网络(CNN,RNN,DNN)

95810

深度学习】深度学习概述:从感知机到深度网络

除去这些因素,AI尤其是机器学习领域出现的一股新潮流很大程度上推动了这次复兴——深度学习。本文中我将介绍深度学习背后的关键概念及算法,从最简单的元素开始并以此为基础进行下一步构建。   ...如Google著名的“猫”识别,在实验中通过使用特定的深度自编码器,在无标记的图片库中学习到人和猫脸的识别。   下面我们将更深入。...深度信度网络   和自编码器一样,我也可以将波尔兹曼机进行栈式叠加来构建深度信度网络(DBN)。 ?   在本例中,隐含层 RBM t 可以看作是 RBM t+1 的可见层。...比如,在 Deep Belief Network(深度信度网络)中的layer也可以用在其 RBM 中。   ...神经网络的思想已经出现了很长时间,但是今天,你如果身处机器学习领域而不知道深度学习或其它相关知识是不应该的。

785100

深度学习的“深度”有什么意义?

深度学习的"深度", 早几年讨论的挺多的,身边有不同的理解:深度=更大规模的网络,也有认为:深度=更抽象的特征,近年来物理上也有人侧面显示:深度=玻璃相转变,如果后者的观点成立,那么仅仅引入GPU甚至FPGA...深度=规模?...事实上,不断提高数据量,多层感知器模型也能达到目前深度学习的水平(参考文献2),认为深度学习=普通多层神经网络,的确有现实的理由。...---- 深度=更多抽象特征?一连串问题来了,何为特征?何为好的特征?深度学习的特征为何被称为抽象的?多层和抽象的关系是啥? 特征=函数展开的基函数?...(参考文献4,5) 是特征提升“深度”,还是“深度”提升特征? ---- 深度=玻璃相转变?何为玻璃相?它对泛化误差的影响是啥?

1.3K110

深度 | 深度学习应该使用复数吗?

选自Medium 机器之心编译 参与:Nurhachu Nul、路雪 深度学习只能使用实数吗?...毕竟它对量子力学奏效,那么它也有可能在深度学习领域发挥作用。此外,深度学习和量子力学都与信息处理有关,二者可能是同一件事情。 由于论据的原因,我们暂且不考虑生物合理性。...在过去几年里,曾经出现过一些探索在深度学习中使用复数的文章。奇怪的是,它们中的大部分都没有被同行评议的期刊接受。因为深度学习的正统观念在该领域已经很流行了。但是,我们还是要评述一些有趣的论文。...在去年的一篇博文中,我介绍了全息原理和深度学习的关系。博文中的方法探索了张量网络和深度学习架构网络之间的相似性。量子力学可以被认为是使用了一种更加通用的概率形式。...本文提及的研究论文证明了:在深度学习架构中使用复数确实会带来「实实在在」的优势。

1.3K90

深度 | 理解深度学习中的卷积

以下是正文: 卷积现在可能是深度学习中最重要的概念。正是靠着卷积和卷积神经网络,深度学习才超越了几乎其他所有的机器学习手段。但卷积为什么如此强大?它的原理是什么?...网络上已经有不少博客讲解卷积和深度学习中的卷积,但我发现它们都一上来就加入了太多不必要的数学细节,艰深晦涩,不利于理解主旨。...文章第一部分旨在帮助读者理解卷积的概念和深度学习中的卷积网络。第二部分引入了一些高级的概念,旨在帮助深度学习方向的研究者和高级玩家进一步加深对卷积的理解。...现在我们已经理解了卷积定理和傅里叶变换,我们可以将这些理念应用到其他科学领域,以加强我们对深度学习中的卷积的理解。...虽然互相关的公式看起来很难,但通过如下手段我们可以马上看到它与深度学习的联系。

93480

深度学习】深度学习入门资源索引

深度学习(Deep Learning)属于非常前沿的学科,没有现成的的综合型教材,主要是通过阅读大量论文和代码练习来学习。...代码方面推荐使用python为基础的theano框架,因为它比较偏底层,可以从细节掌握如何构建一个深度学习模块,而且方便结合python在数据领域的其它积累,例如numpy。...5、自然语言处理中的深度学习: http://cs224d.stanford.edu/ 本教程则偏重于深度学习在自然语言处理领域的运用,词向量等方面知识由此深入。...9、机器学习教程 https://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/ 牛津大学的机器学习课程,讲到了大量深度学习和强化学习的内容...11、去kaggle实战玩玩吧 http://www.kaggle.com/ 来源:深度学习实验室

1.1K80

深度学习—1.认识深度学习

一、人工智能、机器学习、深度学习的关系 通过一张图像来解释人工智能、机器学习。深度学习三者关系。...三者关系如下图所示: 如上图所示 ,深度学习和机器学习的区别在于特征提取和算法的过程,机器学习依靠人工提取,提取过程与算法是分开的;而深度学习特征提取与算法是在一起的,深度学习是机器学习领域的一个新的方向...那么我们来定义一下深度学习: 深度:多层的人工神经网络结构,可以只有一层,也可以有很多层 学习:通过大量的数据进行学习,正向传播到最终到达输出层,通过误差的反向传播进行模型网络的不断修正。...计算过程:1×0.2+5×0.6+3×0.2-3=0.8>0,最终输出结果为1 2.3 深度神经网络 深度神经网络由许多感知机组成,并在深度和广度上进行各种组合。...我们以上图为例对比一下深度神经网络与卷积神经网络的参数量与计算量的差别: 深度神经网络参数量: 每个输入层都需要连接隐藏层,都需要参数,所以参数为36(6×6)×16(4×4)=576个。

80820

深度学习:基本概念深度解析

深度学习需要项目实践,在项目实践中我们其实在不自觉中经历了深度学习的重要步骤,以及践行了深度学习过程中的一些重要概念,再此我们把这些概念提炼出来加以阐述和理解,这能为我们后面进行难度更大的项目打下扎实的基础...在深度学习出现以前,决定项目成本的就是特征工程,当深度学习算法足够完善后,特征抽取的好坏对项目的影响才减弱下来,因为深度学习具备一个特点就是能从大量若数据中提取出关键特征。...深度学习最常用的就是预测,但很多问题是预测不了的,例如股价就没法预测,因为单靠以往的股价数据不能提供足够的信息量给网络,你要想预测股价,你需要做很复杂的特征工程,而这种工程很可能是实现不了的。

39031

深度学习教程 | 深度学习的实用层面

1.数据划分:训练 / 验证 / 测试集 [训练,验证,测试集 Train / Dev / Test sets] 1.1 深度学习实践迭代优化 实际应用深度学习是一个迭代过程。...而在深度学习中,我们可以同时减小Bias和Variance,构建最佳神经网络模型。...| 吴恩达专项课程 · 全套笔记解读 推荐文章 深度学习教程 | 深度学习概论 深度学习教程 | 神经网络基础 深度学习教程 | 浅层神经网络 深度学习教程 | 深层神经网络 深度学习教程 | 深度学习的实用层面...深度学习教程 | 神经网络优化算法 深度学习教程 | 网络优化:超参数调优、正则化、批归一化和程序框架 深度学习教程 | AI应用实践策略(上) 深度学习教程 | AI应用实践策略(下) 深度学习教程...| 卷积神经网络解读 深度学习教程 | 经典CNN网络实例详解 深度学习教程 | CNN应用:目标检测 深度学习教程 | CNN应用:人脸识别和神经风格转换 深度学习教程 | 序列模型与RNN网络 深度学习教程

1.3K22
领券