前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >日拱一卒,麻省理工的线性代数课,线性相关、基和维度

日拱一卒,麻省理工的线性代数课,线性相关、基和维度

作者头像
TechFlow-承志
发布2022-09-21 10:38:28
3810
发布2022-09-21 10:38:28
举报
文章被收录于专栏:TechFlow

作者 | 梁唐

出品 | 公众号:Coder梁(ID:Coder_LT)

大家好,日拱一卒,我是梁唐。

我们继续MIT的线性代数课程,今天的内容比较多,涉及线性相关、基以及维度。这些都是线性代数当中的基本概念,了解它们的由来以及定义对于我们更好地理解线性代数这门课,以及它的衍生应用非常有帮助。

背景知识

假设

A

是一个m x n的矩阵,其中

m < n

,我们可以保证对于方程

Ax = 0

来说它一定有非零解。

原因非常简单,因为这个方程中存在自由变量,我们可以对自由变量进行任意赋值进行求解。

线性相关

我们给出独立和非独立的定义:

对于向量

x_1, x_2, \cdots, x_n

来说,我们认为它们是互相独立的。如果我们找不到一个非零的线性组合可以得到0向量。即:

c_1x_1+c_2x_2 + \dots + c_n x_n \neq 0

(Except all

c_i = 0

)。

针对这个定义我们做一些发散,可以得到一些推论。

比如如果这n个向量当中存在一个0向量,那么它们一定不是独立的。因为只需要0向量的线性组合系数不为0,其余向量组合为0就能得到0向量。

再比如,教授随手在黑板上画的三个向量,我们很容易发现它们不是独立的。

接着我们可以把这三个向量

v_1,v_2, v_3

当成矩阵的列向量,转成矩阵的形式。这样我们可以把向量之间是否独立的问题转化成矩阵以及线性方程的问题。

我们假设

v_1, v_2, v_3

得到的矩阵是

A

A=\begin{bmatrix} 2 & 1 & 2.5\\ 1 & 2 & -1 \end{bmatrix}

我们要判断是否存在一个线性组合

c_1, c_2, c_3

使得

c_1v_1+c_2v_2 + c_3v_3=0

,本质上就是求矩阵

A

的零空间。

这样一转化之后,我们改写结论:

假设向量

v_1, v_2, \cdots, v_n

是矩阵

A

的列向量,它们是独立的,如果矩阵的零空间只有零向量。如果存在非零解,那么它们不是独立的。

在上一讲当中我们已经知道,矩阵的零空间是否有非零向量和矩阵的秩有关。如果

rank(A) = n

,那么矩阵没有自由变量,即没有非零解,说明列向量之间独立,即线性无关。如果

rank(A) < n

,说明矩阵存在非零解,列向量之间不独立,即线性相关。

向量空间和基

向量

v_1, v_2, \cdots, v_l

张成一个子空间,意味着这个子空间包含这些向量所有线性组合之后的结果。

向量空间的基是一系列向量

v_1, v_2, \cdots, v_d

,这些向量拥有两个属性:

  • 它们之间互相独立
  • 它们张成当前空间

我们可以随意写出两个

R^3

空间中的两组基作为例子,第一组:

\begin{bmatrix}1 \\ 0 \\ 0 \end{bmatrix}, \begin{bmatrix}0 \\ 1 \\ 0 \end{bmatrix}, \begin{bmatrix}0 \\ 0 \\ 1 \end{bmatrix}

第二组:

\begin{bmatrix}1 \\ 1 \\ 2 \end{bmatrix}, \begin{bmatrix}2 \\ 2 \\ 5 \end{bmatrix}, \begin{bmatrix}3 \\ 4 \\ 8 \end{bmatrix}

注意,这里第二组例子教授在上课举的例子有误。

R^n

当中,一个m x n的矩阵它的一组基有n个向量,并且以这些向量为列向量组成的矩阵可逆。这里的向量数量也就是n,就是这个向量的维度(dimension)。

我们来看一个例子,假设有一个矩阵:

A = \begin{bmatrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix}

这个矩阵的前两列之和等于第三列,我们利用这个性质写出它的零空间:

N(A) = c_1\begin{bmatrix}-1 \\ -1 \\ 1 \\ 0 \end{bmatrix} + c_2\begin{bmatrix}-1 \\ 0 \\ 0 \\ 1 \end{bmatrix}

它的零空间有非零向量,说明矩阵

A

的列线性相关。

rank(A)

是主元的数量,也是列空间

C(A)

的维度。注意,这里是列空间的维度,而非矩阵

A

的维度。

接着,我们来看一下

A

的零空间

N(A)

,它的特解数量是2,这是由自由变量的数量决定的。自由变量等于总列数减去主元个数,即

n - rank(A) = n - r

,这也同样是零空间的维度数。

所以

dim(N(A)) = n - r, dim(C(A))= r

喜欢本文的话不要忘记三连~

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-07-17,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Coder梁 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 背景知识
  • 线性相关
  • 向量空间和基
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档