专栏首页钱塘大数据【报告】一篇文章详解深度学习的原理和运用

【报告】一篇文章详解深度学习的原理和运用

作者:数据挖掘与数据分析

深度学习 ( Deep Learning ) 是机器学习 ( Machine Learning ) 中近年来备受重视的一支,深度学习根源于类神经网络 ( Artificial Neural Network ) 模型,但今日深度学习的技术和它的前身已截然不同,目前最好的语音识别和影像辨识系统都是以深度学习技术来完成,你可能在很多不同的场合听过各种用深度学习做出的惊人应用 ( 例如:最近红遍大街小巷的 AlphaGo ),听完以后觉得心痒痒的,想要赶快使用这项强大的技术,却不知要从何下手学习,那这门课就是你所需要的

大纲:

报告第一部分:介绍深度学习

报告第二部分:关于训练深度神经网络的一些建议

报告第三部分:各种各样的神经网络

报告第四部分:下一股浪潮

报告1:深度学习介绍

深度学习有3步:神经网络架构--学习目标--学习。

这三个步骤都是以数据为基础的。

  第3步:选择最佳的功能函数。

从原理上说,深度学习非常简单。

从函数的角度理解深度学习:第一步,是一个函数集;第二步,定义函数的拟合度;第三部,选择最佳函数。

人类大脑的构成

神经网络:神经元

激活函数的工作原理

不同的连接会导致不同的网络结构

完全连接的反向网络:S型网络

极深网络:从8层到19层,一直到152层。

全连接的反向网络:矩阵系统

  输出层(选择)

问题:

下图中,总共有多少层?每一层有多少个神经元?

结构能自动决定吗?

第二步:学习目标,定义函数拟合度。

  例子:识别“2”

训练数据:

准备训练数据:图像和相应的标签

学习目标

损失:一个好的函数应该让所有例子中的损失降到最小。

全局损失

第三步:学习!选择最佳函数。

  如何选择最佳函数

  梯度下降

梯度下降:综合多个参数考虑的时候,你发现什么问题了吗?

局部最小值:梯度下降从来不会保证可以获得全局最小值

  反向传播

可以做什么?

第二部分:关于训练深度神经网络的一些小建议

本文分享自微信公众号 - 钱塘大数据(qtbigdata)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-09-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 大数据应用如何落地?8大案例剖析多源大数据城市规划实践体系

    本文66页干货来自西安建筑科技大学的郑晓伟博士及其团队成员,全面介绍了该团队在新数据环境下的城市规划实践,通过8个具体案例在8大领域展示了规划实践的应用体系: ...

    钱塘数据
  • 从普通程序员到AI大神,跨界的正确方式

    本文的目的是给出一个简单的,平滑的,易于实现的学习方法,帮助 “普通” 程序员踏入AI领域这个门。

    钱塘数据
  • 从普通程序员到AI大神,跨界的正确方式

    眼下,人工智能已经成为越来越火的一个方向。普通程序员,如何转向人工智能方向,是知乎上的一个问题。本文是我对此问题的一个回答的归档版。相比原回答有所内容增加。 一...

    钱塘数据
  • 拥抱深度学习还是数学的优雅?神经网络对图像处理、数学和人类的影响

    【新智元导读】本文作者 Michael Elad 是以色列理工学院计算机科学系教授,也是成像科学期刊 SIAM 的主编。他对当前图像领域使用深度学习的矛盾做了深...

    新智元
  • 【286页干货】一天搞懂深度学习(中国台湾资料科学年会课程)

    11 【导读】本文是2016 台湾资料科学年会前导课程“一天搞懂深度学习”的全部讲义PPT(共268页),由台湾大学电机工程学助理教授李宏毅主讲。作者在文中分四...

    小莹莹
  • Yann LeCun演讲图文:如何让AI学习常识,AI未来趋势又在何方 | GMIC 2018

    人工智能作为一个发展中的技术,其实还在演进的过程当中,有所能为,有所不能为,因此还有很多亟待解决的问题

    AI科技评论
  • Hinton高徒 Yee Whye Teh 《贝叶斯深度学习与深度贝叶斯学习》

    【导读】12月7日,第31届神经信息处理系统大会(Neural Information Processing Systems,NIPS)邀请牛津大学统计学教授、...

    企鹅号小编
  • 看完这些你就明白,机器学习和深度学习的根本区别了

    深度学习是什么? 在深度学习中,计算机模型学习直接从图像、文本或声音中执行分类任务。深度学习模式可以达到新的精确度,有时甚至超过人类的表现。大多数深度学习方法使...

    企鹅号小编
  • 人工智能那么火,你分得清机器学习和深度学习吗?

    人工智能最近引起了非常多的关注,深度学习和机器学习作为人工智能实现的技术的得到了充分的关注,在计算机视觉和自然语言处理等领域产生了巨大的影响,深度学习是无人驾驶...

    SDNLAB
  • 【2017NIPS报告】Hinton高徒 Yee Whye Teh 《贝叶斯深度学习与深度贝叶斯学习》

    【导读】12月7日,第31届神经信息处理系统大会(Neural Information Processing Systems,NIPS)邀请牛津大学统计学教授、...

    WZEARW

扫码关注云+社区

领取腾讯云代金券