Deep Learning:Theoretical Motivations(45PDF)

Yoshua Bengio

Yoshua Bengio是引领2006年深度学习复兴的机器学习领域教授之一(另两位分别是Geoff Hinton和Yann LeCun)。他的研究主要关注如何将机器学习应用于人工智能。一些深度学习领域的教授已经加入Google、Facebook等公司,他是仅存的仍然全身心投入学术界的深度学习教授之一。

内容简介

这篇文章基于Yoshua Bengio在2015年Montreal深度学习暑期课程中的一课,“深度学习:理论驱力”。想要更深刻地理解这个话题的话,非常推荐看一下这一课。

深度学习是机器学习算法中的一个分支,以学习多种层次的表征为方法。多层次的表征相当于是多层次的抽象。这篇文章探索了一个想法:如果我们可以成功地学习多层次的表征,那么我们就可以很好地做到概括归纳。

文中讨论了深度学习与其他几种机器学习算法的区别、传统非参数算法的劣势、分散表示(distributed representation)的优点、深度表征(deep

representation)的意义、凸优化(convex optimization)的实现等话题。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2015-10-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据挖掘DT机器学习

大白话解析模拟退火算法

一. 爬山算法 ( Hill Climbing ) 介绍模拟退火前,先介绍爬山算法。爬山算法是一种简单的贪心搜索算法,该算法每次从当前解的临近...

4279
来自专栏华章科技

数学之美番外篇:平凡而又神奇的贝叶斯方法

这是一篇关于贝叶斯方法的科普文,我会尽量少用公式,多用平白的语言叙述,多举实际例子。更严格的公式和计算我会在相应的地方注明参考资料。贝叶斯方法被证明是非常 ge...

1522
来自专栏数说工作室

拒绝无聊,如何让AI学会“花式聊天”?对抗学习在聊天回复生成中的曲折探索

【数说君导读】 生成式对抗网络(GAN),不仅可以用于生成图像(除马赛克,你懂的),还可以用在自动聊天模型上。跟机器人聊天,你也许最怕听到类似 “我也这么觉得...

3544
来自专栏专知

逻辑回归和深度神经网络:哪个更适合你?

【导读】简单的逻辑回归于复杂的深度神经网络都广泛应用于各种分类场景,但是针对不同的任务到底哪种模型更适合呢?本文从参数量和特定数据的使用两方面来阐述两种模型的区...

3559
来自专栏AI研习社

如何看待机器学习中的“稳定性”?

前言 机器学习的过程往往被人戏称为“炼丹”,这大概要归功于其中难以估量的不确定性。 在道观(实验室)里,我们可以放心的让算法在丹炉(GPU)上无休无止的炼(...

3843
来自专栏大数据文摘

“未卜先知”、“自学成才”:GANs奇思妙想TOP10榜单

1553
来自专栏大数据挖掘DT机器学习

数学之美番外篇:平凡而又神奇的贝叶斯方法

作者:LeftNotEasy 原文:http://blog.csdn.net/mydear_11000/article/details/48731497 概率论...

2624
来自专栏生信小驿站

R语言之生信⑦Cox比例风险模型(单因素)目录

在前一章(TCGA生存分析)中,我们描述了生存分析的基本概念以及分析和总结生存数据的方法,包括:1.危险和生存功能的定义 2.为不同患者群构建Kaplan-M...

2122
来自专栏达观数据

分享 | 一文详解2017年深度学习NLP重大进展与趋势

作者通过本文概述了 2017 年深度学习技术在 NLP 领域带来的进步,以及未来的发展趋势,并与大家分享了这一年中作者最喜欢的研究。2017 年是 NLP 领域...

3447
来自专栏AI科技大本营的专栏

重磅 | 苹果发布最新论文: 揭秘Siri新声音背后的技术(文末福利)

翻译 | AI科技大本营(rgznai100) 2011 年 10 月,在 iPhone 4S 的发布会,Siri 作为首款语音助手,惊艳亮相,然而 6 年过后...

2828

扫码关注云+社区