笔记|李宏毅老师机器学习课程，视频11深度学习简介
笔记|李宏毅老师机器学习课程，视频11深度学习简介
《学习笔记》专栏·第3篇
文 | MLer
1009字 | 6分钟阅读
感谢李宏毅老师的分享，他的课程帮助我更好地学习、理解和应用机器学习。李老师的网站：http://speech.ee.ntu.edu.tw/~tlkagk/index.html。这个学习笔记是根据李老师2017年秋季机器学习课程的视频和讲义做的记录和总结。
这门课，共有36个视频，每个视频播放的时间不一。我按着视频播放的顺序，观看，聆听和学习，并结合讲义，做学习笔记。我做学习笔记目的有三：
1 帮助自己学习和理解机器学习
2 记录机器学习的重要知识、方法、原理和思想
3 为传播机器学习做点事情
视频11：深度学习简介
一、深度学习是爆款
深度学习应用广泛，眼球十足。谷歌公司的深度学习应用，如下图：
二、深度学习的历史
深度学习的发展进程，如下图所示：
给我的几点启示：
1）简单到复杂的进阶
2）在不断解决问题中前进
3）大数据-大算法-大算力，造就今日的深度学习的繁荣
4）深度学习还有一系列问题待优化和解决
三、深度学习的框架
深度学习的框架，和机器学习一样。如下图：
第一步：定义函数集
通过神经网络结构来构建函数集
例如：Fully Connect Feedforward Network
深度学习的deep的理解？
它表示包括许多隐藏层。
例如一些经典深度学习网络架构，如下图：
矩阵运算和神经网络结构
1）具体例子
2）一般式
深度学习的分解，如下图：
上图的几点启示
1）深度学习可以自动做特征提取，完成特征工程的任务
2）深度学习对数据的输入具有更大包容性，更接近原始层
3）深度学习的网络结构设计问题
FAQ，如何设计神经网络？试错+经验+直觉
第二步：度量函数的好与坏
一个样本的损失函数
所有样本的损失函数
第三步：找到最佳的函数
利用梯度下降算法，寻找到一组最佳的参数，用到数学里面的微分
可以采用一些深度学习框架，帮助计算微分
四、为什么要深度学习
李老师在后续的课程，会回答这个问题，大家也提前思考一下。同时，持续跟着李老师学习和实践。
附录：深度学习的一些参考资料
