我的机器学习微积分篇观点函数从极限到导数导数的应用偏导数从方向导数到梯度

前言: 没想到还能在此生再次用到大学习学习的高数,线性代数和概率论,如果上天给我再来一次的机会,我一定往死了学习这三门课。

  • 观点

与机器学习相关的微积分的核心问题是极值问题 核心技能是偏导数梯度

  • 函数

定义如下: 对数集A施加一个对应的映射f,记做:f(A)得到数集B,记为函数:B=f(A) 这是我们中学学的最多的,常用的函数有:

image.png

  • 从极限到导数
  • 数列极限 给定一列数(从x1到xn),n为无穷大,常数a,假如随便取一个无限小的数b,无论n取多大总有xn-a<b

image.png

  • 函数极限 与数列不同的是函数可以取在某个点的极限,即左极限和右极限(一元函数), 假如再高元函数在某个点的极限为面,空间、、、后面常见的三元函数的在某一点的方向导数(导数即为极限),便取最大定义了这点的梯度
  • 两个重要极限

image.png

image.png

  • 导数

image.png

  • 导数的应用
  • 1 通过函数的导数的值,可以判断出函数的单调性、驻点以及极值点: 若导数大于0,则单调递增;若导数小于0,则单调递减;导数等于零d 的点为函数驻点 定理(凹凸判定法) :f(x)在区间I上有二阶导数 (1) 在 I 内,f"'(x)>0 则 在 I 内图形是凹的 ; (2) 在 I 内 ,f"'(x)<0 则 在 I 内图形是凸的 . 设函数 f(x) 在它的驻点x=0 处二阶可导,则 :

image.png

  • 2 在某点的函数用常见函数表现

image.png

  • 偏导数

一元函数为导数,多元为偏导数,把其他变量当做常量求导

image.png

  • 高阶偏导

image.png

  • 从方向导数到梯度
  • 方向导数

image.png p的值为三维空间两点之间的距离 可以证明:

image.png

  • 梯度

image.png

后记: 细细整理,在做补充 你可能感冒的文章: 我的机器学习pandas篇 我的机器学习matplotlib篇 我的机器学习numpy篇

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CSDN技术头条

Yoshua Bengio等大神传授:26条深度学习经验

【编者按】8月初的蒙特利尔深度学习暑期班,由Yoshua Bengio、 Leon Bottou等大神组成的讲师团奉献了10天精彩的讲座,剑桥大学自然语言处理与...

21460
来自专栏人工智能头条

Yoshua Bengio、 Leon Bottou等大神传授:深度学习的26条经验

23820
来自专栏量子位

以为GAN只能“炮制假图”?它还有这7种另类用途

最近,AI方案设计师Alexandor Honchar在Medium网站上分享一篇文章。他认为生成对抗网络(GAN)目前在生成图像取得了巨大进展,生成的图像几乎...

13420
来自专栏机器之心

学界 | 神经网络quine:自我复制 + 解决辅助任务

选自arXiv 作者:Oscar Chang、Hod Lipson 机器之心编译 参与:程耀彤、路 近日,哥伦比亚大学的研究者发布论文,从生命的角度看待人工智能...

36450
来自专栏PPV课数据科学社区

【源码】机器学习算法清单!附Python和R代码

本文约6000字,建议阅读8分钟。 通过本文为大家介绍了3种机器学习算法方式以及10种机器学习算法的清单,学起来吧~ 前言 谷歌董事长施密特曾说过:虽然谷歌的无...

34930
来自专栏深度学习自然语言处理

深度学习如何入门?

关于深度学习,网上的资料很多,不过貌似大部分都不太适合初学者。 这里有几个原因: 深度学习确实需要一定的数学基础。如果不用深入浅出地方法讲,有些读者就会有畏难...

35180
来自专栏数据科学与人工智能

【机器学习】10 种机器学习算法的要点

前言 谷歌董事长施密特曾说过:虽然谷歌的无人驾驶汽车和机器人受到了许多媒体关注,但是这家公司真正的未来在于机器学习,一种让计算机更聪明、更个性化的技术。 也许我...

25970
来自专栏人工智能LeadAI

通俗易懂丨深度学习如何入门

? 作者:Jacky Yang(知乎) 关于深度学习,网上的资料很多,不过貌似大部分都不太适合初学者。 这里有几个原因: 1.深度学习确实需要一定的数学基础...

350100
来自专栏机器人网

十种深度学习算法要点及代码解析

谷歌董事长施密特曾说过:虽然谷歌的无人驾驶汽车和机器人受到了许多媒体关注,但是这家公司真正的未来在于机器学习,一种让计算机更聪明、更个性化的技术。 也许我们生活...

1.1K70
来自专栏IT派

Xgboost初见面

在 Kaggle 的很多比赛中,我们可以看到很多 winner 喜欢用 XGBoost,而且获得非常好的表现,今天就来看看 XGBoost到底是什么以及如何应用...

40740

扫码关注云+社区

领取腾讯云代金券