吴恩达深度学习系列课程完结,第五部分学霸笔记了解一下?

大数据文摘作品

吴恩达深度学习系列课程的第五部分更新后,整个课程终于完结。紧随吴老师的步伐,文摘菌邀请到了两位对该领域颇有研究的学者,为大家赶制了课程第五部分内容的笔记,趁着学习热情还未退去,尽快拿下这门课程!

自2016年8月份,吴恩达的初创公司deeplearning.ai通过Coursera提供深度学习的最新在线课程,到今年2月份,吴老师更新了课程的第五部分(点击查看大数据文摘相关报道)前后共耗时半年时间。

让我们先来回顾一下第五部分课程内容简介:

第一周:循环神经网络RNN

  • RNN
  • Gated Recurrent Unit(GRU)
  • LSTM

第二周:自然语言处理和词嵌入

  • Word2Vec
  • GloVe

第三周:序列模型和注意力机制

  • Beam Search
  • 语音识别

与内容相对,我们的笔记也按课程安排分为三个部分,分别是RNN相关理论介绍、结合Word2Vec和GloVe的应用以及RNN在机器翻译和语音识别等方面的应用。

序列模型

序列模型, 普遍称为RNN(递归神经网络 - Recurrent Neural Network), 做为深度学习中非常重要的一环,有着比普通神经网络更广的宽度与更多的可能性,其应用领域包括但不限于“语音识别”, “自然语言处理”, “DNA序列分析”,“机器翻译”, “视频动作分析”,等等等等... 有这样一种说法,也许并不严谨,但是有助于我们理解RNN,大意是这样的:

普通神经网络处理的是一维的数据,CNN处理的是二维的数据,RNN处理的是三维的数据。

最直观的理解是在CNN对图片的分析基础上,RNN可以对视频进行分析,这里也就引入了第三维“时间”的概念。

RNN模型可以用下图表示:

Word2Vec

Beam Search介绍

鉴于微信呈现方式有限,我们在本文文末仅用图片形式发布部分笔记,希望查看更完整的笔记请点击以下链接前往收藏:

大数据文摘GitHub专栏:

https://github.com/theBigDataDigest/Andrew-Ng-deeplearning-part-5-Course-notes-in-Chinese

大数据文摘CSDN专栏:

http://blog.csdn.net/BigDataDigest

还不了解这门课程的同学可以戳下面的链接学习哦:

Coursera课程链接:

https://www.coursera.org/learn/nlp-sequence-models

目前网易云课堂的汉化版已经完整放出,相关链接:

http://study.163.com/provider/2001053000/index.htm

大数据文摘也总结了一些大牛们写出的前四课的课程笔记给大家,可以点击查看:

《我从吴恩达深度学习课程中学到的21个心得:加拿大银行首席分析师“学霸“笔记分享》

《在等吴恩达深度学习第5课的时候,你可以先看看第4课的笔记》

最后,让我们感谢本次作业的两位作者,迅速高效地完成了课程学习,并无私分享如此详细的笔记。

作者简介:

于乐源,加拿大阿尔伯塔大学计算机系研究生在读,本科从阿尔伯塔大学毕业后做了三年的程序员突然在某一天发现了自己对深度学习的兴趣,决定回炉重造。现在在albertaai.org担任Academic Officer 我的心愿是 - 这个冬天不太冷 :)

杨佶,在加拿大阿尔伯塔大学取得计算机荣誉学士学位后,继续在本校攻读计算机科学硕士学位。主要的研究兴趣和方向是强化学习和计算机视觉,但在业余时间也会关注和研究深度学习,机器学习的其他发展方向。现在在 albertaai.org 担任 Vice President Education。

笔记截图如下:

【今日机器学习概念】

Have a Great Definition

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2018-02-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据科学与人工智能

【数据科学】数据科学可以做什么

机器学习是数据科学的发动机。每种机器学习方法(也称为算法)获取数据,反复咀嚼,输出结果。机器学习算法负责数据科学里最难以解释又最有趣的部分。数学的魔法在此发生。...

298100
来自专栏大数据挖掘DT机器学习

参加数据挖掘类竞赛是一种什么样的体验?

随着天池穿衣搭配推荐比赛的结束,我也该暂且退出竞赛江湖,一心一意搞科研了。今年共参加了3场公开比赛,成绩虽不是特别好,但也还说的过去,在搞比赛上面花费了不少时间...

41980
来自专栏新智元

【荐书】机器学习需要的数学知识和基础书籍推荐

【新智元导读】我们在《机器学习里,数学究竟多重要?》一文中提供了机器学习所需的数学知识和建议,对于初学者来说,并不需要先掌握大量的数学知识再开始做机器学习。学习...

413120
来自专栏大数据文摘

谷歌DeepMind AI再次完爆人类 读唇语正确率胜专家(附论文下载)

21650
来自专栏新智元

【春节学AI炒股】深度学习引入信号处理技术,轻松分析股票等各种序列数据

新智元推荐 作者:齐国君 编辑:克雷格 【新智元导读】把深度学习的最新方法用来做股价预测可不可行?一个探讨路径之一是如何深入把经典的信号处理技术引入到深...

486130
来自专栏机器之心

专栏 | 李航教授展望自然语言对话领域:现状与未来

语音助手、智能客服、智能音箱、聊天机器人,近年各种自然语言对话系统如雨后春笋般地涌现,有让人眼花缭乱的感觉。一方面对话系统越来越实用化,另一方面当前技术的局限性...

18500
来自专栏机器之心

学界 | 详解微软意识网络架构:具有可解释性的新型类脑AI系统

选自Johns Hopkins University 机器之心编译 参与:Nurhachu Null、李泽南 近日,微软研究院公布的一篇新论文提出了一种新架构...

41060
来自专栏新智元

【资源】机器学习和神经网络实践:书籍及博客推介

【新智元导读】前几天我们向大家推荐了自学成为 Data Scientist 在线课程系列,很多人纷纷收藏和分享。今天新智元再针对数学,为大家介绍几本书和相关资料...

38680
来自专栏计算机视觉战队

2018年最全干货总结

之前很多读者反映新人和旧人得分的明细一些,那今天先总结一下本平台自创办以来一些经典的干货和实验等,希望对大家有所了解~

16730
来自专栏量子位

搞机器学习/AI有什么必备的数学基础?| 经验之谈+资源大全

雷刚 发自 凹非寺 量子位 报道 | 公众号 QbitAI 今天是开学第一天!心里只有学习的量子位,发现Hacker News上又有高分话题,而且还跟学习有关...

41250

扫码关注云+社区

领取腾讯云代金券