左、右伪逆

一、伪逆

在线性代数中，我们通常所说的逆矩阵是针对满秩的方阵而言的。然而，对于非方阵或者奇异矩阵（非满秩方阵），它们没有严格意义上的逆矩阵。为了解决这个问题，数学家们引入了伪逆矩阵的概念，其中左伪逆和右伪逆是两种重要的形式。

1.1 左伪逆 (Left Pseudo-inverse)

对于一个 m x n 的矩阵 A，如果它的列向量线性无关（即列满秩），那么它存在左伪逆。

定义与存在条件

一个 n x m 矩阵 $A_{left}^{-1}$ 被称为 m x n 矩阵 A 的左伪逆，如果满足：
$A_{left}^{-1}A=I_n$
其中，$I_n$ 是 n x n 的单位矩阵。

左伪逆存在的充分必要条件是矩阵 A 是列满秩的，即 rank(A) = n <= m。这意味着 A 的所有列向量都是线性无关的。

公式

当矩阵 A 列满秩时，其左伪逆的计算公式为：
$A_{left}^{-1}=(A^{T}A{)}^{-1}{A}^T$

证明

要证明 $A_{left}^{-1}A=I_n$，我们需要分两步：

1. 证明当 A 列满秩时，$A^{T}A$ 是可逆的。
2. 将公式代入定义进行验证。

第一步：证明 $A^{T}A$ 的可逆性

详见列空间与零空间，秩—零化度定理的1.5

第二步：验证左伪逆公式

我们将左伪逆的公式 $A_{left}^{-1}=(A^{T}A{)}^{-1}{A}^T$ 代入定义式 $A_{left}^{-1}A$ 中：
$A_{left}^{-1}A=[(A^{T}A{)}^{-1}{A}^T]A$
$A_{left}^{-1}A=(A^{T}A{)}^{-1}(A^{T}A)$
由于 $A^{T}A$ 是可逆的，一个矩阵和它的逆矩阵相乘得到单位矩阵，所以：
$A_{left}^{-1}A=I_n$
证明完毕。

1.2 右伪逆 (Right Pseudo-inverse)

相对应地，对于一个 m x n 的矩阵 A，如果它的行向量线性无关（即行满秩），那么它存在右伪逆。

定义与存在条件

一个 n x m 矩阵 $A_{right}^{-1}$ 被称为 m x n 矩阵 A 的右伪逆，如果满足：
$A{A}_{right}^{-1}=I_m$
其中，$I_m$ 是 m x m 的单位矩阵。

右伪逆存在的充分必要条件是矩阵 A 是行满秩的，即 rank(A) = m <= n。这意味着 A 的所有行向量都是线性无关的。

公式

当矩阵 A 行满秩时，其右伪逆的计算公式为：
$A_{right}^{-1}=A^T(A{A}^T{)}^{-1}$

证明

证明过程与左伪逆类似：

1. 证明当 A 行满秩时，$A{A}^T$ 是可逆的。
2. 将公式代入定义进行验证。

第一步：证明 $A{A}^T$ 的可逆性

略

第二步：验证右伪逆公式

我们将右伪逆的公式 $A_{right}^{-1}=A^T(A{A}^T{)}^{-1}$ 代入定义式 $A{A}_{right}^{-1}$ 中：
$A{A}_{right}^{-1}=A[A^T(A{A}^T{)}^{-1}]$
$A{A}_{right}^{-1}=(A{A}^T)(A{A}^T{)}^{-1}$
由于 $A{A}^T$ 是可逆的，所以：
$A{A}_{right}^{-1}=I_m$
证明完毕。

A^T){-1}$
由于 $A{A}^T$ 是可逆的，所以：
$A{A}_{right}^{-1}=I_m$
证明完毕。