列空间与零空间，秩—零化度定理

一、列空间与零空间

1.1 向量空间的封闭性

$$\begin{array}{rl}& 任取空间内\overrightarrow{A},\overrightarrow{B}，\overrightarrow{A}\ne k\overrightarrow{B}\\ & 满足l_1\overrightarrow{A}+l_2\overrightarrow{B}仍在空间内\end{array}$$

1.2 列空间

The short useful word “span” describes all the linear combinations of a set of vectors. So the span of the columns of A (independent or not) is the column space.

张成(span)：一个向量集合所有的线性组合。矩阵A 的列向量的张成，即 矩阵A 的 列空间（colume space）

那么线性方程组就有了其意义：
$$\begin{array}{rl}& A=\left[\begin{array}{ccc}1& 1& 2\\ 2& 1& 3\\ 3& 1& 4\\ 4& 1& 5\end{array}\right]=\left[\begin{array}{c}{c}_1{c}_2{c}_3\end{array}\right]，C(A)\subset R^4\\ & 对于方程组AX=B，有解：\\ & B=k_1{c}_1+k_2{c}_2+k_3{c}_3，即\\ & B在A的列空间内，B\in C(A)\end{array}$$
AX = B 有解 <=> B 在 A的列空间内。

1.3 零空间

The nullspace N(A) in R^n contains all solutions x to Ax = 0. This includes x = 0.

矩阵A 的零空间即 AX = 0 的所有解向量的张成。

显然，零向量一定属于零空间。

1.4 I F型

$$\begin{array}{r}\left[\begin{array}{cccc}1& 7& 0& 8\\ 0& 0& 1& 9\end{array}\right]x=\left[\begin{array}{c}0\\ 0\end{array}\right]\end{array}$$

对于上面这个矩阵，我可以轻松的写出它的一组解向量：
$$\begin{array}{r}x=\left[\begin{array}{c}-7\\ 1\\ 0\\ 0\end{array}\right],x=\left[\begin{array}{c}-8\\ 0\\ -9\\ 1\end{array}\right]\end{array}$$
或者我可以把两个解向量拼接起来：
$$\begin{array}{r}\left[\begin{array}{cc}-7& -8\\ 1& 0\\ 0& -9\\ 0& 1\end{array}\right]\end{array}$$
事实上这样并不直观，我们可以施加一个置换矩阵，写成如下形式：

置换阵是一个正交阵，满足 PP^T = I

$$\begin{array}{rl}& \left[\begin{array}{cccc}1& 7& 0& 8\\ 0& 0& 1& 9\end{array}\right]P{P}^T\left[\begin{array}{cc}-7& -8\\ 1& 0\\ 0& -9\\ 0& 1\end{array}\right]\\ & =\left[\begin{array}{cccc}1& 7& 0& 8\\ 0& 0& 1& 9\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]\left[\begin{array}{cc}-7& -8\\ 1& 0\\ 0& -9\\ 0& 1\end{array}\right]\\ & =\left[\begin{array}{cccc}1& 0& 7& 8\\ 0& 1& 0& 9\end{array}\right]\left[\begin{array}{cc}-7& -8\\ 0& -9\\ 1& 0\\ 0& 1\end{array}\right]=\left[\begin{array}{cc}0& 0\\ 0& 0\\ 0& 0\\ 0& 0\end{array}\right]\end{array}$$

更一般地描述：

对于AX = 0，我们可以对AX = 0 施加高斯消元法转换成如下形式：
$$\begin{array}{r}\left[\begin{array}{c}IF\end{array}\right]P{P}^{T}x=0,I为单位阵,P为置换阵\end{array}$$
并且我们可以得到下面这组解向量：
$$\begin{array}{r}\left[\begin{array}{c}-F\\ I\end{array}\right]\end{array}$$
事实上，这对应了我们高斯消元化为阶梯型后的主元和自由元。

并且由于 r(I) = r(A)，我们会发现 r(F) = n - r(A)

事实上，矩阵A 的零空间的维度正是 n - r(A)!!!

1.5 秩—零化度定理

**秩–零化度定理（Rank–Nullity Theorem）：**对于任意n*n矩阵 A，有 r(A) + r(N(A)) = n

1.4 可以看作是非严谨证明。

根据该定理可以得出一些有关秩的关系式：

1、n 阶方阵A、B，AB = 0，则 r(A) + r(B) <= n

证明：
$$\begin{array}{rl}& AB=0\Rightarrow C(B)\subset N(A)\Rightarrow r(B)\le n-r(A)\Rightarrow r(A)+r(B)\le n\end{array}$$
2、r(A^TA) = r(A)
$$\begin{array}{rl}& 我们关注其零空间维度\\ & 注意到A^{T}A是一个对称半正定矩阵\\ & A^{T}Ax=0\iff x^T{A}^{T}Ax=0\iff |Ax{|}^2=0\iff Ax=0\\ & 故N(A^{T}A)=N(A)\\ & r(A^{T}A)=r(A)\end{array}$$
3、r(A*) 与 r(A) 的关系

case1：当 r(A) = n 时 (A为满秩/可逆矩阵): A* 也是满秩的，即 r(A*) = n。

case2：当 r(A) = n - 1 时: A* 的秩为1，即 r(A*) = 1。

case3：当 r(A) < n - 1 时: A* 是零矩阵，即 r(A*) = 0。

证明case1：

A A* = |A|I，故 A* 可逆，r(A*) = n

证明case2：
$$\begin{array}{rl}& (用前面的不等式可以直接证，这里用秩零化度定理)\\ & AA\ast =0\\ & C(A\ast )\subset C(A)\\ & r(A\ast )\le r(N(A))=1\\ & 又因为r(A\ast )\ge 1\\ & 由夹逼定理可知，r(A\ast )=1\end{array}$$
证明case3：

根据A* 的定义，因为 r(A) < n - 1，所以A的所有n - 1阶子式均为0，所以 A* = 0