正文共:1344 字 33 图 预计阅读时间: 4 分钟
前文推送
13. 线性代数--MIT18.06(十三):第一部分复习
14. 正交向量和正交子空间
14.1 课程内容:正交向量和正交子空间
在之前的章节中我们讨论了四个子空间各自的性质,包括他们的维数,构成他们的基,他们对于线性方程组的解释性和可解性,对于实际问题的应用性。
我们重新审视下在第十讲对于四个子空间的全局图。

4个基本子空间
此图给了我们一个全局视野。
之前我们都是分立地介绍四个子空间各自的性质和它们的意义,这一章我们研究它们之间的相互关系。在之前的章节我们已经知道了行空间的维数和零空间的维数的和就是 n , 列空间的维数和左零空间的维数的和为 m 。更进一步,从图中我们还可以看到行空间和零空间是正交的,列空间和左零空间也是正交的。
何为正交?以直角三角形为例,在二维空间,正交也叫垂直。从向量角度去理解的话,直角三角形可以写成

。 根据勾股定理,我们知道直角边的长度的平方和为斜边的平方,即

,对于向量来说则就是直角向量的长度的平方和为斜边向量的长度的平方,因此我们就可以得出

即表示两个向量正交。
因为对于向量来说

就是该向量的长度的平方,即可以将上式表示为

即,两个向量正交的话,那么他们的点积为 0 ,当我们知道两个向量的点积为 0 的时候,我们也就可以判断这两个向量正交。
下面我们将这个正交的概念推广到矩阵,即表示正交空间。很明显的,我们知道矩阵就是向量的组合表示,那么两个空间正交,也即在这两个空间中分别任意取各自一个向量,这两个向量之间的点积为 0 ,即两个空间中的向量对于另一个空间的任一向量都是正交的。
对于四个子空间来说,也就是行空间和零空间是正交的,列空间和左零空间也是正交的。
如何证明呢? 从矩阵乘法的定义(第三讲的内容--矩阵乘法的4种理解)我们就可以得到这个结论。考虑

也就是说行空间中的每一个向量都是和零空间垂直的(或者说正交的),因为他们的点积为 0 。
同样地,我们从矩阵乘法的右乘定义中可以得到列空间和左零空间是正交的。
2011年正交向量和子空间习题课
(http://open.163.com/movie/2016/4/0/K/MBKJ0DQ52_MBNI82I0K.html)

是由向量

张成的空间,问:

的基

空间中的任一向量

是否能由

和

中的向量唯一的表示。
解答
1. 实际上对于第一问,我们理解

是由这两个向量构成的行空间,也就是说该空间的正交空间就是零空间,那么问的就是求解零空间的基。利用矩阵消元即可

由此可以得到零空间的基为

2. 对于第二问,也即是

和

是否能够填充整个

空间。从维度和正交的角度来看,

空间为

中的

空间,

空间为

中的

空间,并且两个空间正交,他们是可以构成整个

空间的。 从基的角度来看,行空间可以表示为

零空间可以表示为

那么原问题就可以理解为,下式是否有解

而我们也知道基向量之间彼此正交,两个空间彼此正交,因此现在的系数矩阵是可逆的,所以

总是在该系数矩阵的列空间之中,即该问题的答案为--可以。
PS:
1. 后台回复“线性代数”,“线代” 等任一关键词获取资源链接
2. 后台回复“联系“, “投稿“, “加入“ 等任一关键词联系我们

零维领域,由内而外深入机器学习
dive into machine learning
微信号:零维领域
英文ID:lingweilingyu