吴恩达深度学习系列课程完结，第五部分学霸笔记了解一下？

大数据文摘作品

吴恩达深度学习系列课程的第五部分更新后，整个课程终于完结。紧随吴老师的步伐，文摘菌邀请到了两位对该领域颇有研究的学者，为大家赶制了课程第五部分内容的笔记，趁着学习热情还未退去，尽快拿下这门课程！

自2016年8月份，吴恩达的初创公司deeplearning.ai通过Coursera提供深度学习的最新在线课程，到今年2月份，吴老师更新了课程的第五部分（点击查看大数据文摘相关报道）前后共耗时半年时间。

让我们先来回顾一下第五部分课程内容简介：

第一周：循环神经网络RNN

• RNN
• Gated Recurrent Unit(GRU)
• LSTM

第二周：自然语言处理和词嵌入

• Word2Vec
• GloVe

第三周：序列模型和注意力机制

• Beam Search
• 语音识别

与内容相对，我们的笔记也按课程安排分为三个部分，分别是RNN相关理论介绍、结合Word2Vec和GloVe的应用以及RNN在机器翻译和语音识别等方面的应用。

序列模型

序列模型, 普遍称为RNN(递归神经网络 - Recurrent Neural Network), 做为深度学习中非常重要的一环，有着比普通神经网络更广的宽度与更多的可能性，其应用领域包括但不限于“语音识别”， “自然语言处理”， “DNA序列分析”，“机器翻译”， “视频动作分析”，等等等等... 有这样一种说法，也许并不严谨，但是有助于我们理解RNN，大意是这样的：

普通神经网络处理的是一维的数据，CNN处理的是二维的数据，RNN处理的是三维的数据。

最直观的理解是在CNN对图片的分析基础上，RNN可以对视频进行分析，这里也就引入了第三维“时间”的概念。

RNN模型可以用下图表示：

Word2Vec

Beam Search介绍

鉴于微信呈现方式有限，我们在本文文末仅用图片形式发布部分笔记，希望查看更完整的笔记请点击以下链接前往收藏：

大数据文摘GitHub专栏：

https://github.com/theBigDataDigest/Andrew-Ng-deeplearning-part-5-Course-notes-in-Chinese

大数据文摘CSDN专栏：

http://blog.csdn.net/BigDataDigest

还不了解这门课程的同学可以戳下面的链接学习哦：

Coursera课程链接：

https://www.coursera.org/learn/nlp-sequence-models

目前网易云课堂的汉化版已经完整放出，相关链接：

http://study.163.com/provider/2001053000/index.htm

大数据文摘也总结了一些大牛们写出的前四课的课程笔记给大家，可以点击查看：

《我从吴恩达深度学习课程中学到的21个心得：加拿大银行首席分析师“学霸“笔记分享》

《在等吴恩达深度学习第5课的时候，你可以先看看第4课的笔记》

最后，让我们感谢本次作业的两位作者，迅速高效地完成了课程学习，并无私分享如此详细的笔记。

作者简介：

于乐源，加拿大阿尔伯塔大学计算机系研究生在读，本科从阿尔伯塔大学毕业后做了三年的程序员突然在某一天发现了自己对深度学习的兴趣，决定回炉重造。现在在albertaai.org担任Academic Officer 我的心愿是 - 这个冬天不太冷 :)

杨佶，在加拿大阿尔伯塔大学取得计算机荣誉学士学位后，继续在本校攻读计算机科学硕士学位。主要的研究兴趣和方向是强化学习和计算机视觉，但在业余时间也会关注和研究深度学习，机器学习的其他发展方向。现在在 albertaai.org 担任 Vice President Education。

笔记截图如下：

【今日机器学习概念】

Have a Great Definition