当前位置：首页 > news >正文

（线性代数）矩阵的奇异值Singular Value

news 来源：原创 2025/6/29 18:51:49

矩阵的奇异值是矩阵分析中一个非常重要的概念，尤其是在数值线性代数、数据降维（如PCA）、图像处理等领域有着广泛应用。奇异值分解（SVD, Singular Value Decomposition）是一种强大的工具，可以将任意形状的矩阵分解成三个特定矩阵的乘积，并从中提取出矩阵的奇异值。

📌 奇异值分解（SVD）

对于任意 $\times n$ 的实矩阵 $A$ ，其奇异值分解形式为：

$\Sigma V^T$

其中：

$U$ 是一个 $\times m$ 的正交矩阵（列向量是 $A A^T$ 的特征向量）
$\Sigma$ 是一个 $\times n$ 的对角矩阵，对角线上的元素称为奇异值（singular values），记作 $\sigma_1, \sigma_2, ..., \sigma_r$ ，它们按照从大到小排列（ $r$ 是矩阵 $A$ 的秩）
$V$ 是一个 $\times n$ 的正交矩阵（列向量是 $A^T A$ 的特征向量）

🔍 奇异值的定义与性质

✅ 定义

奇异值实际上是矩阵 $A^T A$ 或者 $A A^T$ 的特征值的平方根。具体来说，如果 $\lambda_i$ 是 $A^T A$ 的第 $i$ 个特征值，则对应的奇异值 $\sigma_i = \sqrt{\lambda_i}$ 。

✅ 性质

非负性：所有奇异值都是非负的。
排序：通常我们将奇异值按从大到小排列。
数量：最多有 $\min(m,n)$ 个奇异值。
几何意义：在几何上，奇异值可以理解为矩阵变换后空间被拉伸的最大程度。最大的奇异值表示主方向上的最大拉伸比例。

🧮 计算步骤

给定一个矩阵 $A$ ，计算其奇异值的一般步骤如下：

计算 $A^T A$ 和 $A A^T$
求解 $A^T A$ 的特征值和特征向量（这些特征向量构成 $V$ ）
求解 $A A^T$ 的特征值和特征向量（这些特征向量构成 $U$ ）
奇异值就是 $A^T A$ 特征值的平方根

然而，在实际应用中，我们通常直接使用数值计算库来完成这一过程，例如 Python 中的 NumPy 库提供了 np.linalg.svd() 函数可以直接进行奇异值分解。

💻 Python 示例

import numpy as np# 创建一个示例矩阵
A = np.array([[1, 2], [3, 4]])# 进行奇异值分解
U, S, VT = np.linalg.svd(A)print("U matrix:\n", U)
print("Singular values:", S)
print("VT matrix:\n", VT)

输出可能类似于：

U matrix:[[-0.40455358 -0.9145143 ][-0.9145143   0.40455358]]
Singular values: [5.4649857  0.36596619]
VT matrix:[[-0.57604844 -0.81741556][-0.81741556  0.57604844]]

在这个例子中，S 数组包含了矩阵 $A$ 的奇异值 [5.4649857, 0.36596619]。