SLAM：正定矩阵二次型的定义和性质

正定矩阵的定义

正定矩阵是实对称矩阵的一种特殊类型，需满足以下条件：

• 对于任意非零实向量 ( $x$ )，二次型 ( $x^{T}Ax>0$ ) 恒成立。
• 复矩阵的推广形式（Hermite矩阵）需满足 ( $x^{H}Ax>0$ )（( $x^H$ ) 为共轭转置）。

几何意义：正定矩阵对应的二次型在空间中表示一个严格凸的曲面（如椭圆抛物面），所有方向上的“能量”均大于零。

---

正定矩阵的性质

1. 基本性质

• 对称性：正定矩阵一定是实对称矩阵或Hermite矩阵。
• 可逆性：正定矩阵的逆矩阵也是正定的。
• 行列式：正定矩阵的行列式恒为正数。
• 主对角线元素：主对角线元素均为正数，且绝对值最大的元素必在主对角线上。

2. 代数性质

• 特征值：所有特征值为正实数。
• 合同标准形：合同于单位矩阵，即存在可逆矩阵 ( P )，使得 ( $A=P^{T}P$ )。
• 分解性：可唯一分解为下三角矩阵与其转置的乘积（Cholesky分解）。
• 主子式：所有顺序主子式（从左上角开始的子矩阵行列式）均大于零。

3. 与其他矩阵的关系

• 加法封闭性：两个正定矩阵的和仍是正定矩阵。
• 数乘封闭性：正实数与正定矩阵的乘积仍为正定。
• 乘积条件：若两个正定矩阵 ( A ) 和 ( B ) 可交换（( AB = BA )），则 ( AB ) 也是正定矩阵。

4. 应用中的关键性质

• 优化理论：Hessian矩阵正定保证函数严格凸，存在唯一全局极小值。
• 统计学：协方差矩阵必为正定矩阵，否则无法正确描述变量间的相关性。
• 数值分析：正定矩阵的线性方程组可通过Cholesky分解高效求解。

---

正定矩阵的判定方法

1. 二次型检验：验证 ( $x^{T}Ax>0$ ) 对所有非零 ( x ) 成立。
2. 特征值法：计算所有特征值是否均为正。
3. 主子式法则：检查所有顺序主子式是否全为正。
4. Cholesky分解：若矩阵可分解为 ( $A=L{L}^T$ )（( $L$ ) 为下三角矩阵），则正定。

---

示例与反例

• 正定矩阵示例：单位矩阵 ( $I$ )、协方差矩阵。
• 非正定矩阵：
  • 非对称矩阵（如 ( $\left[\begin{array}{cc}2& 3\\ 1& 4\end{array}\right]$ )）。
  • 对称但特征值含零或负数的矩阵（如 ( $\left[\begin{array}{cc}1& 2\\ 2& 1\end{array}\right]$ )）。

---

广义正定矩阵的扩展

• 广义定义：放宽对称性条件，如要求存在正对角矩阵 ( D ) 使得 ( $x^{T}DAx>0$ )。
• 应用场景：在经济学和统计模型中处理非对称数据时使用。

---

二次型是线性代数中的重要概念，其本质是描述变量间的二次关系，具有丰富的数学性质及广泛的应用场景。

二次型的定义

二次型是n个变量的二次齐次多项式，其一般形式可表示为：
$$f(x_1,x_2,\dots ,x_n)=\sum _{i=1}^n\sum _{j=1}^n{a}_{ij}{x}_i{x}_j$$
其中 ( $a_{ij}$ ) 为常数，且 ( $a_{ij}=a_{ji}$ )。通过矩阵可简化为：
$$f(\mathbf{x})={\mathbf{x}}^{T}A\mathbf{x}$$
其中 ( $A$ ) 是对称矩阵，( $\mathbf{x}$ ) 为列向量。例如，二元二次型 ( $2x^2+5xy+2y^2$ ) 对应的矩阵为：
$$A=\left[\begin{array}{cc}2& 2.5\\ 2.5& 2\end{array}\right]$$

核心性质

1. 对称性
   二次型矩阵 ( A ) 必为实对称矩阵，其特征值为实数且存在正交的特征向量，可通过谱分解 ( $A=PD{P}^T$ ) 表达。

2. 标准化与规范形
   通过正交变换 ( $\mathbf{x}=P\mathbf{y}$ ) 可将二次型化为标准形（仅含平方项）：
   [ $f(\mathbf{y})={\lambda }_1{y}_1^2+{\lambda }_2{y}_2^2+\cdots +{\lambda }_n{y}_n^2$ ]
   若进一步调整系数为 ±1 或 0，则称为规范形。

3. 正定性

   • 正定：所有特征值 > 0，对应二次型在所有非零向量上取值 > 0，几何上表示开口向上的椭圆抛物面。
   • 半正定：特征值 $\ge$ 0，对应二次曲面可能退化为柱面。
   • 不定：特征值有正有负，如双曲抛物面。

4. 合同变换
   二次型矩阵 ( A ) 在可逆线性替换下合同于对角矩阵，保持二次型的秩不变。

---

实际应用

1. 几何与物理

   • 二次曲线/曲面分类：如椭圆、双曲线、抛物面等几何形状可通过二次型标准化快速识别。例如，方程 ( $2x^2+5xy+2y^2=1$ ) 经正交变换后可化简为标准椭圆方程。
   • 能量描述：在物理中，势能、动能等常表示为二次型，如弹性势能 ( $\frac{1}{2}{\mathbf{x}}^{T}K\mathbf{x}$ )。

2. 优化与极值

   • 多元函数极值：Hessian矩阵的正定性决定极值类型。例如，若Hessian矩阵正定，则函数在临界点处有极小值。
   • 二次规划：目标函数为二次型，约束为线性，常见于经济学和工程中的资源分配问题。

3. 统计学与数据分析

   • 协方差矩阵：描述变量间相关性的协方差矩阵必为半正定，确保二次型表示的方差非负。
   • 主成分分析（PCA）：通过协方差矩阵的二次型 ( ${\mathbf{a}}^T\Sigma \mathbf{a}$) 寻找方差最大的投影方向，对应特征向量。

4. 机器学习

   • 支持向量机（SVM）：核函数构造的二次型用于高维空间分类。
   • 最小二乘法：误差平方和可表示为二次型，通过矩阵运算求解最优参数。

---

典型方法

1. 正交变换法
   利用矩阵特征分解，通过旋转坐标系消去交叉项。例如，将二次曲面方程 ( 4x^2 + 3y^2 + 3z^2 - 2yz = 1 ) 化为标准椭球面。

2. 配方法
   手动合并平方项，适用于低维问题。例如，( $x^2+4xy+4y^2=(x+2y{)}^2$ )。

3. 惯性定理
   二次型标准形中正、负系数的个数（正负惯性指数）在合同变换下保持不变。

---

示例：判断二次型 ($f(x,y)=2x^2+5xy+2y^2$) 的正定性。
解：矩阵 ( A ) 的特征值为 ( ${\lambda }_1=4.5$ ) 和 (${\lambda }_2=-0.5$ )，故该二次型为不定，对应几何图形为双曲线。

二次型通过矩阵工具将复杂关系简化为易于分析的形式，是连接代数、几何与应用的桥梁。