1. 基本概念
1.1 行列式
二阶行列式:
\left|\begin{matrix}a_{11}&a_{12}\\a_{21}&a_{22}\end{matrix}\right| = a_{11}\times a_{12} - a_{21}\times a_{22}- 对于 a_{ij}:i 表示行标,j 表示列标。
 - 对角线 a_{11}a_{22} 为主对角线;a_{12}a_{21} 为次对角线
 
三阶行列式:
\left|\begin{matrix}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33} \end{matrix}\right| = \begin{aligned}&a_{11}\times a_{22}\times a_{33} + a_{21}\times a_{32}\times a_{33} + a_{12}\times a_{23}\times a_{31}\\&-a_{13}\times a_{22}\times a_{31} - a_{23}\times a_{32}\times a_{11} - a_{12}\times a_{21}\times a_{33}\end{aligned}
1.2 线性方程组
n 元非齐次线性方程组:
- 设有 n 个未知数 m 个方程的线性方程组,其中 a_{ij} 是第 i 个方程第 j 个未知数的系数,b_i 是第 i 个方程的常数项,且 b_i 不全为 0。
 
\begin{cases}
a_{11}x_1+a_{12}x_2+\dots+a_{1n}x_n=b_1\\\\
a_{21}x_1+a_{22}x_2+\dots+a_{2n}x_n=b_2\\\\
\dots\\\\
a_{n1}x_1+a_{n2}x_2+\dots+a_{nn}x_n=b_n\\
\end{cases}\\
n 元齐次线性方程组:
- 设有 n 个未知数 m 个方程的线性方程组,其中 a_{ij} 是第 i 个方程第 j 个未知数的系数,b_i 是第 i 个方程的常数项,且 b_i = 0。
 
\begin{cases}
a_{11}x_1+a_{12}x_2+\dots+a_{1n}x_n=0\\\\
a_{21}x_1+a_{22}x_2+\dots+a_{2n}x_n=0\\\\
\dots\\\\
a_{n1}x_1+a_{n2}x_2+\dots+a_{nn}x_n=0\\
\end{cases}\\
线性方程组:
1.3 矩阵
1.3.1 矩阵的定义
二阶矩阵:
\begin{bmatrix}a_{11}&a_{12}\\a_{21}&a_{22}\end{bmatrix}三阶矩阵:
\begin{bmatrix}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33} \end{bmatrix} m\times n 矩阵:
- 由 m\times n 个数 a_{ij}(i = 1, 2, \dots, m, j = 1, 2, \dots,n) 排列成的 m 行 n 列的数表。
 
A =
\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1 n} \\
a_{21} & a_{22} & \cdots & a_{2 n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{m 1} & a_{m 2} & \cdots & a_{m n}
\end{bmatrix}
与线性方程组相关的矩阵:
对于非齐次线性方程组:
 
\begin{cases}
a_{11}x_1+a_{12}x_2+\dots+a_{1n}x_n=b_1\\\\
a_{21}x_1+a_{22}x_2+\dots+a_{2n}x_n=b_2\\\\
\dots\\\\
a_{n1}x_1+a_{n2}x_2+\dots+a_{nn}x_n=b_n\\
\end{cases}\\
 有如下矩阵:
 
A = \begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1 n} \\
a_{21} & a_{22} & \cdots & a_{2 n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{m 1} & a_{m 2} & \cdots & a_{m n}
\end{bmatrix},
X = \begin{bmatrix}x_1\\x_2\\\vdots\\x_n\end{bmatrix},
b = \begin{bmatrix}b_1\\b_2\\\vdots\\b_n\end{bmatrix},
B = \begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1 n} &b_{1}\\
a_{21} & a_{22} & \cdots & a_{2 n} &b_{2}\\
\vdots & \vdots & \ddots & \vdots &\vdots\\
a_{m 1} & a_{m 2} & \cdots & a_{m n}&b_{m}\\
\end{bmatrix}
 其中:
- A 为系数矩阵。
 - X 为未知数矩阵。
 - b 为常数项矩阵。
 - B 为增广矩阵。
 
1.3.2 矩阵的计算
加减:
- 两个矩阵相加或相减,需要满足两个矩阵的列数和行数一致。
 
乘法:
- 两个矩阵 A 和 B 相乘,需要满足 A 的列数等于 B 的行数。
 
- 矩阵乘法不满足交换律:AB\ne BA ,但仍然满足结合律和分配律:
 
1.3.3 零矩阵和单位矩阵
零矩阵:
- 元素都是 0 的矩阵称为零矩阵,记作 O。
 - 不同型的零矩阵是不同的。
 
单位矩阵:
- 单位矩阵是一个 n\times n 矩阵,从左到右的对角线(主对角线)上的元素是 1,其余元素都为 0。
 
下面是三个单位矩阵:
- 若矩阵 A 为 n\times n 的方阵,E 为单位矩阵,则:AE=A,EA=A
 
1.3.4 逆矩阵和奇异矩阵
逆矩阵:
- 矩阵 A 的逆矩阵记作 A^{-1}。
 - AA^{-1} = E,其中 E 为单位矩阵。
 
奇异矩阵:
- 当一个矩阵没有逆矩阵的时候,称该矩阵为奇异矩阵。
 - 当且仅当一个矩阵的行列式为零时,该矩阵是奇异矩阵。
 
当 a\times d-b\times c=0 时 A 没有定义,A^{-1}不存在,则 A 是奇异矩阵。
如 :
A=\begin{bmatrix}1&1\\2&2\end{bmatrix} 是奇异矩阵。
1.3.5 矩阵转置
- 将矩阵 A 的行换成同序数的列得到的新的矩阵,叫做 A 的转置矩阵,记作: A^T。 
 
1.3.6 对称矩阵
- 如果一个矩阵转置后等于原矩阵,那么这个矩阵称为对称矩阵。
 
-  由定义可知,对称矩阵一定是方阵。
 
 -  对称矩阵很常见,实际上,一个矩阵转置和这个矩阵的乘积就是一个对称矩阵:
 
 
2. 方程组的解释
2.1 二元方程组及其矩阵
设方程组有 2 个未知数,一共有 2 个方程:
\begin{cases}2x&-y&=0\\-x&+2y&=3\end{cases}\begin{bmatrix}2&-1\\-1&2\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}通常我们把第一个矩阵称为系数矩阵 A,将第二个矩阵称为向量 x,将第三个矩阵称为向量 b,于是线性方程组可以表示为 Ax=b。
行图像:
解释:
- 上图是直角坐标系中方程组中的两直线相交的情况。
 - 接下来我们按列观察方程组: x\begin{bmatrix}2\\-1\end{bmatrix}+y\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}
 - 我们把第一个向量称作 col_1,第二个向量称作 col_2,分别表示第一列的向量和第二列的向量。
 - 要使得式子成立需要第一个向量加上两倍的第二个向量,即: 1\times col_1 + 2\times col_2 = 1\begin{bmatrix}2\\-1\end{bmatrix}+2\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}
 - 这和我们方程组的解 x = 1,y = 2 是对应的。
 
列图像:
解释:
- 绿向量 col_1与蓝向量(两倍的绿向量 col_2)合成红向量 b。
 - 接下来我们继续观察方程组: x\begin{bmatrix}2\\-1\end{bmatrix}+y\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}
 - 显然地,col_1 和 col_2 通过某种线性组合得到了向量 b,即:  1\times col_1 + 2\times col_2 = 1\begin{bmatrix}2\\-1\end{bmatrix}+2\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}  
 - 那么推广来看, col_1 和 col_2 通过所有的线性组合所得到的向量 b_i 将能够铺满整个平面。
 
2.2 三元方程组及其矩阵
设方程组有 3 个未知数,一共有 3 个方程:
\begin{cases}2x&-y&&=0\\-x&+2y&-z&=-1\\&-3y&+4z&=4\end{cases}A=\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-3&4\end{bmatrix},\\ b=\begin{bmatrix}0\\-1\\4\end{bmatrix}
行图像的解释:
- 在三维直角坐标系中,每一个方程将确定一个平面。
 - 接下来我们按列观察方程组: x\begin{bmatrix}2\\-1\\0\end{bmatrix}+y\begin{bmatrix}-1\\2\\-3\end{bmatrix}+z\begin{bmatrix}0\\-1\\4\end{bmatrix}=\begin{bmatrix}0\\-1\\4\end{bmatrix}
 - 该例子中的三个平面会相交于一点 (0,0,1),这个点就是方程组的解,且带入 x = 0,y = 0,z = 1 也可以使得上述式子成立。
 
列图像的解释:
- 观察列图像的向量 col_1,col_2,col3 的组合。
 - 继续观察方程组: x\begin{bmatrix}2\\-1\\0\end{bmatrix}+y\begin{bmatrix}-1\\2\\-3\end{bmatrix}+z\begin{bmatrix}0\\-1\\4\end{bmatrix}=\begin{bmatrix}0\\-1\\4\end{bmatrix}
 - 显然地,col_1,col_2,col_3 也可以通过某种线性组合得到向量 b,即:
 
- 那么推广来看,我们需要考虑,对于任意的 b,是否都能求解 Ax=b? 用列向量线性组合的观点阐述:col_1,col_2,col_3 通过所有的线性组合所得到的向量 b_i ,是否能够铺满整个空间?  对上面这个例子,答案是肯定的。 如果三个向量在同一个平面上,则无法铺满整个空间。  
 
推广的解释:
- 当三个向量在同一个平面上时,那么他们的线性组合也一定都在这个平面上。
 - 例如:col_3=col_1+col_2 不管怎么组合,这三个向量的结果都逃不出其所在的平面。
 - 因此当 b 在平面内,方程组有解,而当 b 不在平面内,这三个列向量就无法构造出 b。
 - 在后面的课程中,我们会了解到这种情形称为奇异、矩阵不可逆。
 
2.3 更高的的维度
我们推广到九维空间,每个方程有九个未知数,共九个方程。
显然地,此时已经无法从坐标图像中描述问题了,但是我们依然可以从求九维列向量线性组合的角度解决问题,仍然是上面的问题。我们是否总能通过所有的线性组合所得到的向量 b_i,来铺满整个九维空间?
当然这仍取决于这九个向量,如果我们取一些并不相互独立的向量,则答案是否定的,比如取了九列但其实只相当于八列,有一列毫无贡献(这一列是前面列的某种线性组合),则会有一部分b 无法求得。
2.4  关于 Ax = b 的计算
对于任意的线性方程组,我们都可以将其化为矩阵的形式,得到系数矩阵 A,向量 x 和向量 b,接下来讲解其计算。
对于 Ax = b 是一种乘法运算:
例1:
- 使用列向量线性组合的方式,一次计算一列,即把 Ax 看做 A 列向量的线性组合:
 
解:
 
\begin{aligned}
\begin{bmatrix}2&5\\1&3\end{bmatrix}\begin{bmatrix}1\\2\end{bmatrix}
&=
1\begin{bmatrix}2\\1\end{bmatrix}+2\begin{bmatrix}5\\3\end{bmatrix}\\\\
&=
\begin{bmatrix}1\times 2 + 2\times 5\\1\times 1 + 2\times 3\end{bmatrix}\\\\
&=
\begin{bmatrix}12\\7\end{bmatrix}
\end{aligned}
例2:
解:
 
3. 矩阵消元
这个方法最早由高斯提出,我们以前解方程组的时候都会使用,现在来看如何使用矩阵实现消元法。
3.1 消元法
再来讨论一下消元失效的情形:
- 首先,主元不能为零;
 - 其次,如果在消元时遇到主元位置为零,则需要交换行,使主元不为零。
 - 如果我们把第三个方程 z 前的系数改成 -4,会导致第二步消元时最后一行全部为零,则第三个主元就不存在了,至此消元不能继续进行了,这就是下一讲中涉及的不可逆情况。
 
3.2 消元矩阵
易看出这里是一个行向量从左边乘以矩阵,这个行向量按行操作矩阵的行向量,并将其合成为一个矩阵行向量的线性组合。
介绍到这里,我们就可以将消元法所做的行操作写成向量乘以矩阵的形式了。
3.3 逆
4. 乘法和逆矩阵
4.1 矩阵乘法
4.1.1 行列内积
4.1.2 整列相乘
上一讲我们知道了如何计算矩阵乘以向量,而整列相乘就是使用这种线性组合的思想:
4.1.3 整行相乘
同样的,也是利用行向量线性组合的思想:
4.1.4 列乘以行
用A矩阵的列乘以B矩阵的行,得到的矩阵相加即可:
4.2 逆(方阵)
4.2.1 概念
- 首先,并不是所有的方阵都有逆;而如果逆存在,则有 A^{-1}A=I=AA^{-1} 。
 - 对于方阵,左逆和右逆是相等的,但是对于非方阵(长方形矩阵),其左逆不等于右逆。
 - 对于这些有逆的矩阵,我们称其为可逆的或非奇异的。