【分析学】Hilbert 空间

一、内积空间的定义

内积空间是定义在数域 $\mathbb{K}$（实数域 $\mathbb{R}$ 或复数域 $\mathbb{C}$) 上的线性空间 $V$，配有一个二元函数 $⟨\cdot ,\cdot ⟩:V\times V\to \mathbb{K}$，称为内积，满足以下公理：

1. 共轭对称性 $⟨x,y⟩=\overline{⟨y,x⟩},\forall x,y\in V.$
   实内积空间中简化为对称性 $⟨x,y⟩=⟨y,x⟩$。

2. 对第一变元的线性性 $⟨\alpha x+\beta y,z⟩=\alpha ⟨x,z⟩+\beta ⟨y,z⟩,\forall x,y,z\in V,\alpha ,\beta \in \mathbb{K}.$

3. 正定性 $⟨x,x⟩\ge 0,\text{且}⟨x,x⟩=0⟺x=0.$

常见案例：

• 实内积空间：$\mathbb{K}=\mathbb{R}$，称为欧几里得空间。
• 复内积空间：$\mathbb{K}=\mathbb{C}$，称为酉空间。
• 完备的内积空间（即柯西序列收敛）称为希尔伯特（Hilbert）空间, 任意柯西列都是收敛列。
  柯西列定义： $\forall \epsilon >0$, $\exists N\ge 1$, $\forall n,m\ge N$, $\Vert x_n-x_m\Vert \le \epsilon$.
  收敛列定义： $\exists A\in V$, $\forall \epsilon >0$, $\exists N\ge 1$, $\forall n\ge N$, $\Vert x_n-A\Vert \le \epsilon$.

二、内积诱导的几何性质

内积可导出范数 $\Vert x\Vert =\sqrt{⟨x,x⟩}$，使内积空间成为赋范线性空间，并满足以下关键性质：

1. 施瓦茨不等式
   $$|⟨x,y⟩|\le \Vert x\Vert \cdot \Vert y\Vert ,$$
   等号成立当且仅当 $x,y$ 线性相关。

2. 正交性
   若 $⟨x,y⟩=0$，则称 $x$ 与 $y$ 正交，记为 $x\perp y$。

   • 勾股定理：若 $x\perp y$，则 $\Vert x+y{\Vert }^2=\Vert x{\Vert }^2+\Vert y{\Vert }^2$。
   • 正交投影：子空间 $W\subset V$ 的正交补 W⊥={x∈V∣⟨x,w⟩=0,∀w∈W}W^\perp = \{ x \in V \mid \langle x, w \rangle = 0, \forall w \in W \}W⊥={x∈V∣⟨x,w⟩=0,∀w∈W} 满足 $V=W\oplus W^{\perp }$。

3. 平行四边形法则
   $$\Vert x+y{\Vert }^2+\Vert x-y{\Vert }^2=2(\Vert x{\Vert }^2+\Vert y{\Vert }^2),$$
   该性质是范数由内积诱导的充要条件。

三、典型例子

1. 有限维空间

   • ${\mathbb{R}}^n$：$⟨x,y⟩={\sum }_{i=1}^n{x}_i{y}_i$（标准点积）。
   • ${\mathbb{C}}^n$：$⟨x,y⟩={\sum }_{i=1}^n{x}_i\overline{y_i}$（共轭保证对称性）。

2. 函数空间

   • $C[a,b]$（连续函数）：$⟨f,g⟩={\int }_a^{b}f(t)g(t)dt$（实）或 ${\int }_a^{b}f(t)\overline{g(t)}dt$（复）。 注：连续函数内积空间不完备 令 fn(t)=max⁡{1−nt,0},x∈[0,1]f_n(t)= \max\{1-nt, 0 \}, x\in [0,1]fn​(t)=max{1−nt,0},x∈[0,1]. 首先 $f_n(t)$ 是柯西列， 不妨设 $m>n$,
     $$\begin{array}{rl}& \Vert f_m-f_n{\Vert }^2\\ =& {\int }_0^1|f_m(t)-f_n(t){|}^{2}dt\\ =& {\int }_0^{\frac{1}{m}}(f_n(t)-f_m(t){)}^{2}dt+{\int }_{\frac{1}{m}}^{\frac{1}{n}}{f}_n^2(t)dt\\ =& \frac{1}{3n}(\frac{1}{m}-\frac{1}{n}{)}^2<\epsilon \end{array}$$ 令 $N=\frac{1}{\epsilon }$ 即可，因此是柯西列， 但是其极限为 $f(t)=\{\begin{array}{ll}1,& x=0\\ 0,& x\in (0,1]\end{array}$ 不是连续函数。
   • $L^2(\mathbb{R})$（平方可积函数）：$⟨f,g⟩={\int }_{-\infty }^{\infty }f(t)\overline{g(t)}dt$。

3. 序列空间

   • $l^2$（平方可和数列）：⟨{xn},{yn}⟩=∑n=1∞xnyn‾\langle \{x_n\}, \{y_n\} \rangle = \sum_{n=1}^\infty x_n \overline{y_n}⟨{xn​},{yn​}⟩=∑n=1∞​xn​yn​​（希尔伯特空间的经典例子）。

4. 矩阵空间

   • $M_n(\mathbb{R})$：$⟨A,B⟩=\mathrm{tr}(A{B}^{\top })$（迹运算）。
   • ${\mathbb{R}}^{m\times n}$：$⟨X,Y⟩=\mathrm{tr}(X{Y}^{\top })={\sum }_{i=1}^m{\sum }_{j=1}^n{X}_{ij}{Y}_{ij}$。
   • ${\mathbb{C}}^{m\times n}$：$⟨X,Y⟩=\mathrm{tr}(X{Y}^{\mathsf{H}})={\sum }_{i=1}^m{\sum }_{j=1}^n{X}_{ij}\overline{Y_{ij}}$。

四、 正交基

• 标准正交基：通过 Gram-Schmidt 正交化，任意基可转化为标准正交基 {ei}\{\mathbf{e}_i\}{ei​}，满足 $⟨{\mathbf{e}}_i,{\mathbf{e}}_j⟩={\delta }_{ij}$。

1. 基本步骤

假设有一组线性无关的向量 {v1,v2,…,vn}\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_n\}{v1​,v2​,…,vn​}，Gram-Schmidt 正交化过程如下：

流程

1. 初始化
   令第一个正交向量 ${\mathbf{u}}_1={\mathbf{v}}_1$。
2. 迭代正交化
   对于 $k=2,3,\dots ,n$，计算：
   $${\mathbf{u}}_k={\mathbf{v}}_k-\sum _{j=1}^{k-1}\frac{⟨{\mathbf{v}}_k,{\mathbf{u}}_j⟩}{⟨{\mathbf{u}}_j,{\mathbf{u}}_j⟩}{\mathbf{u}}_j,$$
   其中 $⟨\cdot ,\cdot ⟩$ 表示内积。这一步通过减去 ${\mathbf{v}}_k$ 在所有已生成的 ${\mathbf{u}}_j$ 上的投影，确保 ${\mathbf{u}}_k$ 与之前的向量正交。
3. 标准化
   若需要标准正交基，对每个 ${\mathbf{u}}_k$ 单位化：
   $${\mathbf{e}}_k=\frac{{\mathbf{u}}_k}{\Vert {\mathbf{u}}_k\Vert }.$$
   最终得到的 {e1,e2,…,en}\{\mathbf{e}_1, \mathbf{e}_2, \ldots, \mathbf{e}_n\}{e1​,e2​,…,en​} 是标准正交基。
   可用数学归纳法证明其正交性。

2. 傅里叶级数
   $l>0$, $[-l,l]$ 上 {1,cos⁡(xl),sin⁡(xl),⋯,cos⁡(nxl),sin⁡(nxl),⋯,}\{1, \cos(\frac{x}{l}), \sin(\frac{x}{l}),\cdots, \cos(\frac{nx}{l}), \sin(\frac{nx}{l}),\cdots,\}{1,cos(lx​),sin(lx​),⋯,cos(lnx​),sin(lnx​),⋯,} 即是一组正交基。

$L^2(-l,l)$ 内函数在连续点处可以进行傅里叶展开
$$f(x)=\frac{a_0}{2}+\sum _{k=1}^{\infty }{a}_k\cos (\frac{kx}{l})+b_k\sin (\frac{kx}{l}),$$
其中 $a_k=\frac{1}{2l}{\int }_{-l}^l\cos (\frac{kx}{l})f(x)dx$, $b_k=\frac{1}{2l}{\int }_{-l}^l\sin (\frac{kx}{l})f(x)dx$, $a_0=\frac{1}{l}{\int }_{-l}^{l}f(x)dx$。 详见狄利克雷定理