专栏首页SAMshare80页笔记带你系统复习机器学习知识点

80页笔记带你系统复习机器学习知识点

来源:机器之心

本文约1000字,建议阅读6分钟

这份学习笔记帮你及时回顾机器学习概念,带你快速上手。

[ 导读 ]目前有关机器学习的资料可谓层出不穷,其中既有书籍、课程视频资料,也有很多算法模型的开源项目。不过对于初学者来说,或许阅读学习笔记是一种最容易快速上手的方法。

本文要介绍的是一份长约 80 页的学习笔记,旨在总结机器学习的一系列基本概念(如梯度下降、反向传播等),不同的机器学习算法和流行模型,以及一些作者在实践中学到的技巧和经验。

如果你是一个刚刚入门机器学习领域的人,这份学习笔记或许可以帮你少走很多弯路;如果你不是学生,这些笔记还可以在你忘记某些模型或算法时供你快速查阅。必要时,你可以使用 Ctrl+F 搜索自己想知道的概念。

笔记链接:

https://createmomo.github.io/2018/01/23/Super-Machine-Learning-Revision-Notes/#tableofcontents

笔记共分为以下六大部分:

  • 激活函数
  • 梯度下降
  • 参数
  • 正则化
  • 模型
  • 实用窍门

在第一部分“激活函数”中,作者提供了 Sigmoid、tanh、Relu、Leaky Relu 四种常用的机器学习激活函数。

第二部分“梯度下降”又分为计算图、反向传播、L2 正则化梯度、梯度消失和梯度爆炸等 12 个小节:

为了帮助读者理解,作者举了一些例子,并对很多内容进行了可视化的展示:

梯度下降

此外,作者还对代码中用到的一些符号进行了详细解释,对于新手来说非常友好:

笔记的第三部分是机器学习中的参数,又分为可学习参数和超参数、参数初始化、超参数调优等几个小节。

为了防止新手走弯路,作者在“参数初始化”部分的开头就提醒道:其实,TensorFlow 等机器学习框架已经提供了鲁棒的参数初始化功能。类似的提醒在笔记中还有很多。

笔记的第四部分是正则化,包含 L2 正则化、L1 正则化、Dropout、早停四个小节。

第五部分是整份笔记的重中之重,详细描述了逻辑回归、多类分类(Softmax 回归)、迁移学习、多任务学习、卷积神经网络(CNN)、序列模型、Transformer 和 BERT 等八大类机器学习模型。并且,八大类模型下面又分为各个小类进行详解,具体如下所示:

解释相对简单的前四类机器学习模型

解释最为详尽的卷积神经网络(CNN),包括 Filter/Kernel、LeNet-5、AlexNet、ResNet、目标检测、人脸验证以及神经风格迁移等

序列模型,包括常见的循环神经网络模型(RNN)、Gated Recurrent Unit(GRU)、LSTM、双向 RNN、深度 RNN 示例、词嵌入、序列到序列翻译模型示例等

Transformer 和 BERT 模型

笔记最后一部分给出了一些“实用窍门”,包括训练/开发/测试数据集、不匹配的数据分布、输入归一化以及误差分析等 6 方面内容。其中有些窍门来自 Deep Learning AI 等在线课程,还有一部分是作者自己总结得到的。

作者的其他笔记

除了这份机器学习笔记之外,作者之前还整理过概率图模型、BiLSTM 上面的 CRF 层等相关笔记。详细目录如下:

作者整理的概率图模型复习笔记

作者整理的 BiLSTM 上的 CRF 层相关笔记

而且,听说已经有组织完成了中文版本的翻译工作,到时候也第一时间给大家分享一波。

本文分享自微信公众号 - SAMshare(gh_8528ce7b7e80),作者:机器之心

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-10-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 吴恩达《Machine Learning》Jupyter Notebook 版笔记发布!图解、公式、习题都有了

    这门课是发布在 Coursera 上的,很多读者容易把它与吴恩达的另一门课 CS229 混淆。其实,今天讲的 Coursera 上的《Machine Learn...

    Sam Gor
  • Andrew Ng关于机器学习职业生涯以及阅读论文的一些建议

    转了一篇对于ML的职业发展tips的文章,可以读读,里面的一些对于学习机器学习的方法还是可以借鉴呢。

    Sam Gor
  • 推荐收藏 | 21 个必须知道的机器学习开源工具!

    你肯定已经了解流行的开源工具,如R、Python、Jupyter笔记本等。但是,除了这些流行的工具之外还有一个世界——一个隐藏在机器学习工具下的地方。这些并不像...

    Sam Gor
  • 80页笔记看遍机器学习基本概念、算法、模型,帮新手少走弯路

    [ 导读 ]目前有关机器学习的资料可谓层出不穷,其中既有书籍、课程视频资料,也有很多算法模型的开源项目。不过对于初学者来说,或许阅读学习笔记是一种最容易快速上手...

    数据派THU
  • 80页机器学习笔记,帮你少走弯路!

    本文要介绍的是一份长约 80 页的学习笔记,旨在总结机器学习的一系列基本概念(如梯度下降、反向传播等),不同的机器学习算法和流行模型,以及一些作者在实践中学到的...

    double
  • 80页笔记看遍机器学习基本概念、算法、模型,帮新手少走弯路

    目前有关机器学习的资料可谓层出不穷,其中既有书籍、课程视频资料,也有很多算法模型的开源项目。不过对于初学者来说,或许阅读学习笔记是一种最容易快速上手的方法。

    AI算法与图像处理
  • 80页笔记看遍机器学习基本概念、算法、模型,帮新手少走弯路

    本文要介绍的是一份长约 80 页的学习笔记,旨在总结机器学习的一系列基本概念(如梯度下降、反向传播等),不同的机器学习算法和流行模型,以及一些作者在实践中学到的...

    机器之心
  • AI领域:如何做优秀研究并写高水平论文?

    每个人从本科到硕士,再到博士、博士后,甚至工作以后,都会遇到做研究、写论文这个差事。论文通常是对现有工作的一个总结和展示,特别对于博士和做研究的人来说,论文则显...

    AI算法与图像处理
  • 初识机器学习和人工智能

    近日,英国皇家学会(Royal Society)发布了一份题为《机器学习:能通过样本进行学习的计算机的力量与希望(Machinelearning: the p...

    灯塔大数据
  • 专家们最常用的15款机器学习工具

    机器学习是一项令人惊叹的技术。如果掌握了正确的使用方法,机器学习技术将势不可当。建造一个在很大程度上表现得像人类的机器,将是多么吸引人。精通机器学习工具有利于处...

    人工智能小咖

扫码关注云+社区

领取腾讯云代金券