矩阵求导 -- 机器学习常用

维基百科(最全最详细):

https://en.wikipedia.org/wiki/Matrix_calculus

分子、分母布局:

分子布局:分子为列向量,或者分母为行向量;

分母布局:分母为列向量,或者分子为行向量;

运算类型:

标量,向量,矩阵

运算规则:

矩阵的求导就是在一定规则下把向量或者矩阵展开,一一对应进行求导。

需要注意的规则:(以下公式默认在分子布局下的结果,若分母布局需要转置)

  • 在涉及矩阵的求导时,分子布局下无需转置,分母布局下需要转置;

常用公式:

,若A为对称矩阵,则

遇到不会的查表吧!

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏一心无二用,本人只专注于基础图像算法的实现与优化。

SSE图像算法优化系列二:高斯模糊算法的全面优化过程分享(二)。

      相关链接: 高斯模糊算法的全面优化过程分享(一)      在高斯模糊算法的全面优化过程分享(一)一文中我们已经给出了一种相当高性能的高斯模糊过程,...

3026
来自专栏我的python

递归方法的理解

递归思想算是编程中比较常见但对初学者而言又有些难以理解的方法了。在leetcode上刷了几道题都用递归思想成功解决后觉得应该贯彻互联网的开源共享精神,总结一下自...

570
来自专栏数据魔术师

运筹学教学|分枝定界求解旅行商问题

分枝定界(branch and bound)某年某月某日,小编正在绝地岛横行霸道。此时,突然手机屏幕一亮,老板来电话,说是有一个branch and bound...

3797
来自专栏calmound

poj 1088 滑雪

题意:找出最长的递增道路,可以上下左右四个方向走 DP方程:step[ i ][ j ] = max{ step[ i-1][ j ],  step[ i ][...

3125
来自专栏Small Code

Python-NumPy基础

前言 这两天读完《利用Python进行数据分析》 这本书的第4章:NumPy 基础:数组和矢量计算 后,在进行下一步阅读高级应用前,先整理本章内容,做个笔记备查...

18610
来自专栏数据结构与算法

cf932E. Team Work(第二类斯特灵数 组合数)

$$m^n = \sum_{i = 0}^m C_{n}^i S(n, i) i!$$

864
来自专栏YoungGy

MMD_2c_FrequentItemsets

The market-basket model 主要术语 应用 规模 Association Rules 概述 思路 核心问题 计算模型 数据形式 IO分析 内...

2115
来自专栏计算机视觉与深度学习基础

Leetcode 22 Generate Parentheses 搜索与DP的纠结

Given n pairs of parentheses, write a function to generate all combinations of ...

1809
来自专栏java初学

MD5算法

1254
来自专栏数说工作室

【SAS Says】基础篇:8. 相关、回归等初步统计

SAS是一个专业的统计软件,前面我们介绍了很多数据管理、输出美化的东西,本节终于要介绍一点SAS做统计的知识了,不过,在基础篇中我们只大概介绍一下,更多统计分析...

2686

扫码关注云+社区