线性代数学习笔记(代数版)

Orz yanQval

内容主要来自半年前洛谷的冬令营,因为版权原因课件就不放了。

本来是不想学来着,但是过几天出去学习要讲这个,怕被虐的太惨就先预习一下吧

然而课件里面的题目基本都是CTSC难度的而且找不到提交地址qwq。

矩阵

\(A_{nm}\)表示一个\(n\)行\(m\)列的矩阵。

一个\(1\)行\(n\)列的矩阵可以被称为行向量

一个\(n\)行\(1\)列的矩阵可以被称为列向量

一个\(n\)行\(n\)列的矩阵可以被称为\(n\)阶方阵\(A_n\)

\(A^T\)表示矩阵的转置,即\(a_{ij}^{T} = a_{ji}\),相当于把矩阵沿主对角线翻转

除了主对角线上的元素全部为\(0\)的矩阵为对角矩阵

主对角线以下全部为\(0\)的方阵是上三角矩阵

单位矩阵是主对角线全为\(1\)的对角矩阵,一般用\(I/E\)表示

逆矩阵

矩阵\(A\)的逆矩阵\(A^{-1}\),是满足\(AA^{-1} = A^{-1}A = I\)的矩阵

求逆矩阵的方法:

将原矩阵的右边放一个单位矩阵,并对整体进行消元,当左边被消成单位矩阵时,右侧就被消成了逆矩阵。如果中途失败则说明矩阵不可逆

其实还好理解,消元过程中使用的矩阵初等行变换实际上是左乘一个矩阵,他们的乘积就是逆矩阵,因此我们需要在右侧来构造一个矩阵来收集乘积的结果。

行列式

定义

一个方阵的行列式表示为\(|A|\)

\[|A| = \sum_{p}(-1)^{\sigma(p)} \prod_{i = 1}^n a_{i, p_i}\]

其中\(p\)表示任意一个\(1\)到\(n\)的排列

\(\sigma(p)\)表示\(p\)的逆序对的数量

比如当\(n = 2\)时,

\[\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{12} \end{vmatrix}=a_{11}a_{22}-a_{12}a_{21} \]

解释一下

当\(p = 1,2\)时,逆序对为\(0\)个,\(p_1 = 1, p_2 = 2\),因此\((-1)^0 *(a_{1_{p_1}})*(a_{2_{p_2}}) = a_{11} * a_{22}\)

当\(p = 2,1\)时,逆序对为\(1\)个,\(p_1 = 2, p_2 = 1\),因此\((-1)^1 * (a_{1_{p_1}})*(a_{2_{p_2}}) = -1 * a_{12} * a_{21}\)

因此\(|A| = a_{11}{22} - a_{12}a_{21}\)

性质

  • 一个对角矩阵/上三角矩阵的行列式值是所有对角线上元素的乘积

证明:

大概感性的理解一下吧,考虑行列式的定义中,我们需要枚举\(a_{i{p_i}}\),那么当\(i = n\)(也就是最后一行),我们只有一种取值(\(p_n = n\))不为\(0\),

当\(i = n - 1\)时,虽然有两种取值,但是最后一行已经去了一种,因此还是只有一种取值,以此类推。每一行都只有一种取值

因此答案为对角线元素的乘积

  • 交换矩阵的两行/两列,行列值取反

证明:

性质:对于一个排列,交换任意两个元素,排序的奇偶性一定改变

我们交换了两行/两列,实际上是交换了\(p_i, p_j\),因此奇偶性一定改变。

  • 将矩阵的一行/一列乘上一个固定的常数\(k\),行列式值也乘上\(k\)
  • 将矩阵的一行加到另外一行上去,行列式值不变,列同理

证明:

想要直接证明比较困难,我们先证几个性质

  1. 存在两行一样的矩阵,行列式值为\(0\) 证明:考虑,如果第\(x\)行和第\(y\)行相同,那么交换排列中的\(p_x, p_y\),\(\prod a_{i, p_i}\)不变,而前面的符号相反。所以行列式的每一项都存在一项和它的绝对值相同,符号相反
  2. 假设矩阵第\(x\)行,第\(i\)列的元素为\(a_{i}\),且满足\(a_i = b_i + c_i\),那么我们一定可以构造两个矩阵\(B,C\),使得\(|A| = |B| + |C|\)

有了这两个性质,再重新考虑我们需要证明的东西

一个行\(a\)加到另一行\(b\)上面,我们会得到一行\(c = a+b\)

我们可以把\(c\)拆开来看,其中的\(b\)已经出现过,因此它对答案的贡献为\(0\)

所以行列值的值不变

  • 矩阵可逆的充要条件是行列式不为\(0\)

证明:

行列式为\(0\),说明消元过程中出现了\(a_{i, j} = 0\)

有了这些性质,我们就可以用高斯消元在\(O(n^3)\)的时间复杂度内求出矩阵行列式的值

伴随矩阵

余子式:

将方阵的第\(i\)行和第\(j\)行同时划去,剩余的一个\(n - 1\)阶的矩阵的行列式值称为元素\(a_{ij}\)的余子式,通常记为\(M_{ij}\)

代数余子式:

元素\(a_{ij}\)的代数余子式为\(C_{ij} = (-1)^{i + j} M_{ij}\)

拉普拉斯展开

对于一个方阵\(A\),\(A\)的行列式等于某一行所有元素的值乘上他们代数余子式 的和

即:\(|A| = \sum_{i = 1}^n a_{xi} C_{xi}\),\(x\)是一个确定的行坐标,列同理

伴随矩阵

矩阵\(A\)的代数余子式矩阵是有每个元素的代数余子式构成的矩阵

矩阵\(A\)的伴随矩阵\(A*\),是\(A\)的代数余子式矩阵的转置,即\(A* = C^T\)

对于可逆矩阵,满足

\(A* = |A|A^{-1}\)

其他的一些定义

线性空间

线性空间:一个非空集合\(V\),对加法满足阿贝尔群,对数乘满足结合律,分配律,封闭性,域\(F\)上的单位元\(1\)满足\(1v = v\)

子空间:设\(W\)是\(V\)的一个子集,\(W\)在加法和数乘下都是封闭的,且\(0 \in W\),则\(W\)是\(V\)的子空间

生成子空间(扩张):对于若干\(V\)中的元素\(v\),包含这些\(v\)的最小的子空间 \(W\)是这些元素的生成子空间

生成集合:对于一个\(V\)的子集\(v\),如果\(v\)的生成子空间是\(V\),则称\(v\)是\(V\)的一个生成集合

线性相关

对于一个线性空间的一个子集\(v_1, v_2, \dots , v_k\),如果\(x_1v1 + x_2v_2 + \dots x_kv_k = 0\)存在非平凡解,则称这个子集线性相关,否则线性无关。这个条件等价于:任何一个元素都可以被其他元素线性表出

对于向量空间\(V\)的一个线性无关子集\(v\),如果\(v\)的生成子空间是\(V\),则称\(v\)是\(V\)的一组基,\(|v|\)是\(V\)的维度,同时\(v\)也是\(V\)的最小生成集合,同时也是极大线性无关组

对于一个矩阵\(A\),把它的每一行看做一个行向量,那么它的极大线性无关组大小称为\(A\)的行秩,同理也可以定义\(A\)的列秩。显然,一个矩阵的行秩和列秩是相等的,如果一个矩阵的秩等于它的阶,那么这个矩阵满秩

同样,一个矩阵可逆的条件等于矩阵满秩。

反证法:如果矩阵不满秩,则消到最后一行时,一定可以被之间的线性表出

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能LeadAI

机器学习实战 | 第四章:模型验证和选择

模型选择和评估主要是在sklearn.model_selection这个模块里面.这里只会列出概述和常见函数的用法,更加详细的可以到sklearn.model_...

3665
来自专栏杨熹的专栏

用 LSTM 来做一个分类小问题

用一个简单的例子来看看 LSTM 在 tensorflow 里是如何做分类问题的。 这个例子特别简单,就是一个长度为 20 的二进制串,数出其中 1 的个数,简...

3588
来自专栏应兆康的专栏

Accuracy

$A_{cc}=\frac{1}{n}\sum{I(\hat{y}_i=y_i)}$

881
来自专栏WD学习记录

n-gram

N-Gram是大词汇连续语音识别中常用的一种语言模型,对中文而言,我们称之为汉语语言模型(CLM, Chinese Language Model)。汉语语言模型...

1033
来自专栏null的专栏

机器学习算法实现解析——libFM之libFM的训练过程概述

本节主要介绍的是libFM源码分析的第四部分——libFM的训练。 FM模型的训练是FM模型的核心的部分。 4.1、libFM中训练过程的实现 在FM模型的训练...

48711
来自专栏人工智能

人工智能AI(5):线性代数之矩阵、线性空间

在前面的篇幅中,我们简单的介绍过矩阵的定义,按照原计划本来,今天准备写特征分解以及奇异值分解,但是发现这其中涉及到比较多的矩阵相关的知识,所以在讨论这些问题之前...

2735
来自专栏ArrayZoneYour的专栏

如何用Python将时间序列转换为监督学习问题

像深度学习这样的机器学习方法可以用于时间序列预测。

1.7K10
来自专栏人工智能

十五:多层感知机与布尔函数

今天没有别的话,好好学习,多多转发! 本期内容是 【多层感知机与布尔函数】 场景描述 神经网络概念的诞生很大程度上受到了神经科学的启发。生物学研究表明,大脑皮层...

2998
来自专栏逸鹏说道

码农眼中的数学之~矩阵专栏(附Numpy讲解)

吐槽一下:矩阵本身不难,但是矩阵的写作太蛋疼了 (⊙﹏⊙)汗 还好有 Numpy,不然真的崩溃了...

1493
来自专栏机器学习算法与Python学习

机器学习(34)之BIRCH层次聚类详解

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 前言 在K-Means算法(机器学习...

4295

扫码关注云+社区

领取腾讯云代金券