线性代数--MIT18.06(十五)
正文共：1176 字 18 图 预计阅读时间： 3 分钟
前文推送
- 线性代数--MIT18.06（十三）：第一部分复习
- 线性代数--MIT18.06（十四）：正交向量和正交空间
15. 子空间投影
15.1 课程内容：子空间投影（无解时的最优解）
什么是投影？首先以 1 维的例子来讲解。
子空间投影
如图我们得到平面上的一个向量
和向量
，
在
上的投影就是
在
方向上的分量。我们假设
在
方向上的投影为
，那么
必然是
向量的倍数，我们表示为
。由向量加法我们知道
的向量即为
那么根据向量正交的定义，我们可以知道
那么投影就可以表示为
那么从
的角度来看，经过
的投影转换，我们就将
投影到了
上。一维的情况下，我们知道了投影后的解空间
, 投影
以及投影矩阵
。
也可以观察到投影矩阵的特殊性质，
投影我们已经知道它的定义了，那么我们为什么要投影呢？这就和我们之前的章节联系起来了，对于
我们知道根据秩的情况不同，解的情况也不同，其中也包括我们无法求解的情况，那么无解的时候我们如何处理呢？
以三维空间中的子空间为例，我们假设
, 那么
不在
中而导致无解。 那么我们将无解的
投影到
，就必然有解了，并且是最接近
的解。
由此
就转化为
现在我们将之前一维的情况，推广到矩阵形式，在现在三维空间中，我们可以知道(基向量可以表示任意向量)
同时由 1 维的情况下我们可以推导知道
是正交于
的，所以它与列空间的基向量之间也是正交的, 由正交的定义我们就可以得到
写成矩阵的形式也就是
也就是说，
在
之中，而我们知道左零空间是和列空间正交的。将该式转化一下，我们就得到
那么很自然的，我们就得到
我们暂且称
，可以知道
,
即
的零空间和
的零空间就是同一个空间，并且
和
的秩相等，也就是说
有解当且仅当
可逆，也即
满秩，也就是说
的各列向量线性无关。此时
的零空间只有零向量。
换句话来说就是，当我们需要求解投影之后的解之前，需要先去求解原始系数矩阵
的列空间的基，以该基构建新的系数矩阵
的表示，由该新的系数矩阵
，我们可以求得投影矩阵，投影和最优解。
15.2 子空间投影习题课
2011年子空间投影习题课
问，
平面的正交投影矩阵
解答 这里对该方程直接可以得到
（参考第七讲） ，因此基向量即为
。
由课程内容，可以知道
PS：
1. 后台回复“线性代数”，“线代” 等任一关键词获取资源链接
2. 后台回复“联系“, “投稿“, “加入“ 等任一关键词联系我们
零维领域，由内而外深入机器学习
dive into machine learning
微信号：零维领域
英文ID：lingweilingyu