Moore-Penrose伪逆

对于非方阵矩阵而言，其逆矩阵没有定义。假设在下面的问题中。我们希望通过矩阵A的左逆B来求解线性方程：

A x=y

等式两边左乘左逆B后，我们得到

x=B y

取决于问题的形式，我们可能无法设计一个唯一的映射A映射到B。

如果矩阵A的行数大于列数，那么上述方程可能没有解。如果矩阵A的行数小于列数，那么上述矩阵可能有多个解。

Moore-Penrose伪逆(Moore-Penrose pseudoinverse)使我们在这类问题上取得了一定进展。矩阵A的伪逆定义为：

A^{+}=\lim _{\alpha \rightarrow 0}\left(A^{T} A+\alpha I\right)^{-1} A^{T}

计算伪逆的实际算法没有基于这个定义，而是使用下面的公式：

A^{+}=V D^{+} U^{T}

其中，矩阵U、D和V是矩阵A奇异值分解后得到的矩阵。对角矩阵D的伪逆D^+ 是其非零元素取倒数之后再转置得到的。当矩阵A的列数多于行数时，使用伪逆求解线性方程组是众多可能解法中的一种。特别地，x=A^{+} y 是方程所有可行解中欧几里得范数\|x\|_{2} 最小的一个。当矩阵A的函数多于列数时，可能没有解。在这种情况下，通过伪逆得到的x使得Ax和y的欧几里得距离\|A x-y\|_{2} 最小。