矩阵的奇异值分解

奇异值分解(singular value decomposition, SVD)，是将矩阵分解成奇异值(singular vector)和奇异值(singular value)。通过奇异值分解，我们会得到一些与特征分解相同类型的信息。然而，奇异值分解有更广泛的应用，每个实数矩阵都有一个奇异值，但不一定都有特征分解。例如，非方阵的矩阵没有特征分解，这时我们只能使用奇异值分解。

我们使用特征分解去分析矩阵A时，得到特征向量构成的矩阵V和特征值构成的向量

\lambda

，我们可以重新将A写作

\large A=Vdiag(\lambda )V^{-1}

奇异值分解是类似的，只不过这回我们将矩阵A分成三个矩阵的乘积：

\large A=UDV^T

假设A是一个

\large m\times n

矩阵，那么U是一个

\large m\times m

的矩阵，D是一个

\large m\times n

的矩阵，V是一个

\large n \times n

矩阵。这些矩阵中的每一个定义后都拥有特殊的结构。矩阵U和V都定义为正交矩阵，而矩阵D定义为对角矩阵。注意，D不一定是方阵。对角矩阵D对角线上的元素称为矩阵A的奇异值(singular value)。矩阵U的列向量称为左奇异向量(left singular vector)，矩阵V的列向量称为右起义向量(right singular vector)。

事实上，我们可以用与A相关的特征分解去解释A的奇异值分解。A的左奇异向量(left singular vector)是

\large AA^T

的特征向量。A的右奇异值(right singular value)是

\large A^TA

的特征向量。A的非零奇异值是

\large A^TA

的特征向量。A的非零奇异值是

\large A^TA

特征值的平方根，同时也是

\large AA^T

特征值的平方根。SVD最有用的一个性质可能是拓展矩阵求逆到非矩阵上。