线性代数 - LU分解（LU-Factorization、LU Decomposition）

线性代数 - LU分解（LU-Factorization、LU Decomposition）

flyfish
若能将线性方程组$Ax=b$的系数矩阵$A$分解为$A=LU$（其中$L$和$U$为形式特殊的矩阵），则该方程组可快速求解。
LU 是 Lower triangular matrix（下三角矩阵）和 Upper triangular matrix（上三角矩阵）
Decomposition（分解）
Factorization（因式分解/分解）
LU-Factorization与LU Decomposition同义，Decomposition 和 Factorization 可视为“矩阵分解”的同义词

$$\left[\begin{array}{ccc}{a}_{11}& a_{12}& a_{13}\\ a_{21}& a_{22}& a_{23}\\ a_{31}& a_{32}& a_{33}\end{array}\right]=\left[\begin{array}{ccc}{l}_{11}& 0& 0\\ l_{21}& l_{22}& 0\\ l_{31}& l_{32}& l_{33}\end{array}\right]\left[\begin{array}{ccc}{u}_{11}& u_{12}& u_{13}\\ 0& u_{22}& u_{23}\\ 0& 0& u_{33}\end{array}\right].$$

三角矩阵

对于方阵，若$A=[a_{ij}]$为$m\times n$矩阵，则元素$a_{11},a_{22},a_{33},\dots$构成$A$的主对角线。若主对角线左下方的所有元素均为0，则称$A$为上三角矩阵。所有行阶梯矩阵均为上三角矩阵。
例如：
$$\left[\begin{array}{rrrr}1& -1& 0& 3\\ 0& 2& 1& 1\\ 0& 0& -3& 0\end{array}\right]\left[\begin{array}{lllll}0& 2& 1& 0& 5\\ 0& 0& 0& 3& 1\\ 0& 0& 1& 0& 1\end{array}\right]\left[\begin{array}{rrr}1& 1& 1\\ 0& -1& 1\\ 0& 0& 0\\ 0& 0& 0\end{array}\right]$$

类似地，若矩阵$A$的转置为上三角矩阵（即主对角线右上方的所有元素均为0），则称$A$为下三角矩阵。上三角矩阵或下三角矩阵统称为三角矩阵。

recursive leading-row-column LU algorithm” 递归主行列 LU 算法、分块递归算法

例子

求矩阵$A=\left[\begin{array}{ccccc}5& -5& 10& 0& 5\\ -3& 3& 2& 2& 1\\ -2& 2& 0& -1& 0\\ 1& -1& 10& 2& 5\end{array}\right]$的LU分解。

解：将$A$化为行阶梯矩阵$U$的过程如下：
$$\begin{array}{rl}\left[\begin{array}{ccccc}5& -5& 10& 0& 5\\ -3& 3& 2& 2& 1\\ -2& 2& 0& -1& 0\\ 1& -1& 10& 2& 5\end{array}\right]& \to \left[\begin{array}{ccccc}1& -1& 2& 0& 1\\ 0& 0& 8& 2& 4\\ 0& 0& 4& -1& 2\\ 0& 0& 8& 2& 4\end{array}\right]\\ & \to \left[\begin{array}{ccccc}1& -1& 2& 0& 1\\ 0& 0& 1& \frac{1}{4}& \frac{1}{2}\\ 0& 0& 0& -2& 0\\ 0& 0& 0& 0& 0\end{array}\right]=U\end{array}$$

则$A=LU$，其中：
$$L=\left[\begin{array}{cccc}5& 0& 0& 0\\ -3& 8& 0& 0\\ -2& 4& -2& 0\\ 1& 8& 0& 1\end{array}\right]$$

例子

求可逆矩阵$A=\left[\begin{array}{ccc}2& 4& 2\\ 1& 1& 2\\ -1& 0& 2\end{array}\right]$的LU分解（$U$中无零行）。

解：将$A$化为行阶梯矩阵$U$的过程如下：
$$\left[\begin{array}{ccc}2& 4& 2\\ 1& 1& 2\\ -1& 0& 2\end{array}\right]\to \left[\begin{array}{ccc}1& 2& 1\\ 0& -1& 1\\ 0& 2& 3\end{array}\right]\to \left[\begin{array}{ccc}1& 2& 1\\ 0& 1& -1\\ 0& 0& 5\end{array}\right]\to \left[\begin{array}{ccc}1& 2& 1\\ 0& 1& -1\\ 0& 0& 1\end{array}\right]=U$$

则$A=LU$，其中：
$$L=\left[\begin{array}{ccc}2& 0& 0\\ 1& -1& 0\\ -1& 2& 5\end{array}\right]$$