Polyak-Ruppert 平均

Polyak-Ruppert 平均的本质

Polyak-Ruppert 平均（简称 Polyak 平均）是一种专门针对随机逼近算法（如 SGD）设计的平均技术，由 Boris Polyak（1990）和 David Ruppert（1988）独立提出。它不仅仅是简单的算术平均，而是一种具有深刻统计优化意义的加权策略。

---

1. 与普通平均的关键区别

普通算术平均	Polyak-Ruppert 平均
对所有样本平等加权： ${\bar{\beta }}_n=\frac{1}{n}{\sum }_{i=1}^n{\beta }_i$	对迭代路径进行时间衰减加权： ${\bar{\beta }}_n=\frac{1}{n}{\sum }_{i=1}^n{\beta }_i$ （形式相同，但内涵不同）
适用于 i.i.d. 数据	专为相关随机序列（如 SGD 路径）设计
无优化目标	显式降低随机梯度噪声的方差
统计性质依赖数据分布	具有理论最优性证明（渐近最小方差）

🔍 核心洞察：Polyak 平均的“特殊之处”不在计算公式，而在其应用对象和理论保证——它针对的是 SGD 的迭代序列 {βi}\{\beta_i\}{βi​}，而非原始数据。

---

2. 为什么必须强调 “Polyak-Ruppert 平均”？

(1) 解决 SGD 的固有缺陷

• SGD 的单个估计 ${\beta }_n$ 受随机梯度噪声影响大（尤其早期迭代）。
• Polyak 平均通过平滑整个优化路径，抑制噪声：
  $$\text{Var}({\bar{\beta }}_n)\ll \text{Var}({\beta }_n)$$

(2) 理论最优性证明

在 Polyak & Juditsky (1992) 的里程碑工作中，证明了：

• 当步长 ${\gamma }_i={\gamma }_0{i}^{-a}$（$a\in (0.5,1)$）时，
• $\sqrt{n}({\bar{\beta }}_n-{\beta }_{\ast })$ 的渐近分布达到 Cramér-Rao 下界（统计效率最优）。

(3) 加速收敛

• 单个 ${\beta }_n$ 的收敛速度：$\Vert {\beta }_n-{\beta }_{\ast }\Vert =O_p({\gamma }_n)$
• Polyak 平均的收敛速度：$\Vert {\bar{\beta }}_n-{\beta }_{\ast }\Vert =O_p(n^{-1/2})$
  → 收敛速度提升一个数量级（尤其在强凸问题中）。

---

3. 在 SGMM 中的具体作用

在算法 (2e) 中：
$${\bar{\beta }}_i=\frac{i-1}{i}{\bar{\beta }}_{i-1}+\frac{1}{i}{\beta }_i$$
本质是计算 ${\bar{\beta }}_n=\frac{1}{n}{\sum }_{i=1}^n{\beta }_i$，但其优越性来自：

1. 路径依赖：{βi}\{\beta_i\}{βi​} 是 SGD 生成的相关序列（非 i.i.d.）。
2. 方差缩减：早期 ${\beta }_i$ 因步长大而波动剧烈，后期趋于稳定。平均操作等价于时间上的重要性采样。
3. 偏差-方差权衡：牺牲少量偏差（因早期 ${\beta }_i$ 不精确），大幅降低方差。

---

4. 通用流数据场景的应用建议

推荐使用 Polyak 平均当：

• 处理相关序列（如优化迭代、时间序列预测）
• 目标是最小化渐近方差（而不仅是均值无偏）
• 数据生成过程存在异方差性（如早期估计方差大）

典型应用场景：

1. 在线优化（SGD, Adam, 等）
2. 强化学习（Q-learning 策略平均）
3. 贝叶斯滤波（粒子滤波的路径平均）
4. 随机波动率模型（金融时间序列）

计算公式（通用形式）：

$${\bar{\theta }}_n=\frac{1}{n}\sum _{i=1}^n{\theta }_i$$
其中 {θi}\{\theta_i\}{θi​} 是任何通过随机迭代生成的序列（如 SGD 参数、MCMC 样本）。

---

结论：为什么必须指名道姓？

1. 理论信用：尊重 Polyak-Ruppert 的开创性工作。
2. 语义精确：强调这不是普通平均，而是针对随机优化路径的方差缩减技术。
3. 性能承诺：暗示使用者该平均具有最优统计效率（而普通平均可能没有）。

✅ 总结：Polyak-Ruppert 平均是流数据处理的“精装修版”递归平均——它在普通平均的框架上，加装了理论最优性的引擎。当你的目标是高精度在线估计时，指名调用它就是获得统计效率保证的密钥。