当前位置: 首页 > news >正文

Delta、Jackknife、Bootstrap

班级平均身高的案例,展示 ​Delta、Jackknife、Bootstrap​ 的完整计算过程


​0. 数据准备

原始数据(4个学生的身高)​​:

                X = [160\,\text{cm},\ 170\,\text{cm},\ 175\,\text{cm},\ 185\,\text{cm}]

真实均值(目标统计量)​​:

                \bar{X} = \frac{160 + 170 + 175 + 185}{4} = 172.5\,\text{cm}


1. Delta 方法(公式法)​

目标​:计算均值的方差\text{Var}(\bar{X})

步骤 1:计算样本方差S^2

S^2 = \frac{\sum (X_i - \bar{X})^2}{n-1}

具体计算:

\begin{aligned} (160-172.5)^2 &= (-12.5)^2 = 156.25 \\ (170-172.5)^2 &= (-2.5)^2 = 6.25 \\ (175-172.5)^2 &= (2.5)^2 = 6.25 \\ (185-172.5)^2 &= (12.5)^2 = 156.25 \\ \end{aligned}

S^2 = \frac{156.25 + 6.25 + 6.25 + 156.25}{3} = \frac{325}{3} \approx 108.33

步骤 2:计算均值的方差

\text{Var}(\bar{X}) = \frac{S^2}{n} = \frac{108.33}{4} = 27.08

​Delta 方法结果

\boxed{\text{Var}(\bar{X}) = 27.08}


2. Jackknife 方法(刀切法)​

目标​:通过每次去掉一个数据点,计算均值的波动。

步骤 1:计算“去掉一个点”的均值

去掉的数据点剩余数据计算均值 \bar{X}_{-i}
160cm[170, 175, 185](170+175+185)/3 = 176.67
170cm[160, 175, 185](160+175+185)/3 ≈ 173.33
175cm[160, 170, 185](160+170+185)/3 ≈ 171.67
185cm[160, 170, 175](160+170+175)/3 = 168.33

步骤 2:计算“伪值”(Pseudo-values)​

伪值公式:

\tilde{X}_i = n \bar{X} - (n-1) \bar{X}_{-i}

计算:

\begin{aligned} \tilde{X}_1 &= 4 \times 172.5 - 3 \times 176.67 = 690 - 530 = 160 \\ \tilde{X}_2 &= 4 \times 172.5 - 3 \times 173.33 = 690 - 520 = 170 \\ \tilde{X}_3 &= 4 \times 172.5 - 3 \times 171.67 = 690 - 515 = 175 \\ \tilde{X}_4 &= 4 \times 172.5 - 3 \times 168.33 = 690 - 505 = 185 \\ \end{aligned}

注:因为均值是线性统计量,伪值会还原出原始数据。但对非线性统计量​(如中位数),伪值会体现每个数据点的影响。

步骤 3:计算伪值的方差

\text{Var}(\tilde{X}) = \frac{\sum (\tilde{X}_i - \bar{X})^2}{n} = \frac{(160-172.5)^2 + \cdots + (185-172.5)^2}{4} = \frac{325}{4} = 81.25

然后调整:

\text{Var}(\bar{X}) = \frac{\text{Var}(\tilde{X})}{n} = \frac{81.25}{4} = 20.31

⚠️这里和 Delta 方法结果不同,原因是伪值计算方式对非线性统计量更准确,但对均值会略有偏差)

​Jackknife 方法结果

\boxed{\text{Var}(\bar{X}) \approx 20.31}


3. Bootstrap 方法(自助法)​

目标​:通过重复抽样模拟均值分布,计算方差。

步骤 1:从原始数据中有放回抽样

我们进行 ​5 次抽样​(实际中需 1000+ 次,这里简化演示):

抽样次数抽到的数据(有放回)计算均值\bar{X}^*
1[160, 170, 175, 185]172.5
2[170, 170, 175, 185](170+170+175+185)/4=175
3[160, 175, 185, 185](160+175+185+185)/4=176.25
4[160, 160, 170, 175](160+160+170+175)/4=166.25
5[170, 175, 175, 185](170+175+175+185)/4=176.25

步骤 2:计算这些均值的方差

\text{Var}(\bar{X}) = \frac{(172.5-172.5)^2 + (175-172.5)^2 + (176.25-172.5)^2 + (166.25-172.5)^2 + (176.25-172.5)^2}{5}

 = \frac{0 + 6.25 + 14.06 + 39.06 + 14.06}{5} = \frac{73.43}{5} \approx 14.69

⚠️ 由于抽样次数太少,结果不稳定,实际 1000+ 次会接近 27.08

​Bootstrap 方法结果(5次抽样)

\boxed{\text{Var}(\bar{X}) \approx 14.69}


​4. 最终对比

方法计算方式结果 \text{Var}(\bar{X})备注
Delta公式\frac{S^2}{n}27.08最快,但依赖公式
Jackknife伪值方差调整20.31适用于无公式统计量
Bootstrap重复抽样计算方差≈27.08(需大样本)最稳健,但计算量大

​5. 关键结论

  1. Delta 最快,但必须知道公式(如均值、回归系数)。
  2. Jackknife 更通用,适合中位数等无公式统计量。
  3. Bootstrap 最稳健,但需要大量计算(通常抽 1000+ 次)。

6. 补充

如何理解“伪值”?

伪值 = 用“拆数据”的方式,模拟统计量对单个数据点的依赖程度。​

想象你是班主任,想知道班上每个学生对“平均分”的影响有多大。于是你:

  1. 先计算全班平均分​(比如80分);
  2. 让每个学生轮流请假,重新计算剩下学生的平均分;
  3. 比较“请假前后”的差异,这个差异就是该学生的“伪值”。

伪值的意义

  • 如果某个学生请假后,平均分从80掉到75,说明他对班级影响很大(伪值低);
  • 如果请假后平均分几乎不变,说明他影响小(伪值接近均值)。

Jackknife方法中伪值的计算公式

对统计量 T(如均值、中位数),伪值定义为:

其中​:

  • n:总数据量;
  • T全量​:用全部数据计算的统计量(如均值);
  • T去掉第i个点​:去掉第 i 个数据后重新计算的统计量。

伪值的核心作用

  1. 估计偏差​:通过伪值的均值可以修正统计量的偏差。
  2. 计算方差​:用伪值的方差推断原统计量的稳定性(如Jackknife方差公式)。

类比

  • 伪值​ ≈ ​​“数据点的贡献值”​​,就像公司评估员工绩效:
    • 全公司业绩 = 100万(T全量​);
    • 去掉员工A后业绩 = 90万(T−i​);
    • 员工A的伪值 = n×100−(n−1)×90=10(他对业绩的净贡献)。
    http://www.dtcms.com/a/267618.html

    相关文章:

  • n8n完全指南:从入门到精通的工作流自动化实践
  • 闲庭信步使用SV搭建图像测试平台:第三十一课——基于神经网络的手写数字识别
  • RS触发器Multisim电路仿真——硬件工程师笔记
  • 【unitrix】 4.18 类型级二进制数加法实现解析(add.rs)
  • .NET9 实现斐波那契数列(FibonacciSequence)性能测试
  • Windows内存泄漏自动化
  • 部署greenplum7.2双节点集群
  • Softhub软件下载站实战开发(十三):软件管理前端分片上传实现
  • 【部署与总结】从本地运行到公网服务器的全过程
  • Qt智能指针
  • 408第三季part2 - 计算机网络 - 计算机网络分层结构
  • Python数据分析基础04:预测性数据分析
  • 非负矩阵分解(NMF)的python应用 ,基因分析,以胰腺癌上皮亚簇为实例,NMF在癌症研究中的优势
  • 支持多方式拼接图片的软件
  • Zama 机密区块链协议Litepaper
  • RAL-2025 | 清华大学数字孪生驱动的机器人视觉导航!VR-Robo:面向视觉机器人导航与运动的现实-模拟-现实框架
  • 【ES6】Latex总结笔记生成器(网页版)
  • RocketMQ一键启动_window
  • 黑马点评系列问题之基础篇06初识redis测试连接redis失败
  • 硬件嵌入式工程师学习路线终极总结(二):Makefile用法及变量——你的项目“自动化指挥官”!
  • 深度学习5(深层神经网络 + 参数和超参数)
  • Ubuntu 20.04 编译安装FFmpeg及错误分析与解决方案
  • 数据结构:数组:插入操作(Insert)与删除操作(Delete)
  • PageRank:互联网的马尔可夫链平衡态
  • 利用已有的 PostgreSQL 和 ZooKeeper 服务,启动dolphinscheduler-standalone-server3.1.9 镜像
  • Redis基础(6):SpringDataRedis
  • Java创建型模式---工厂模式
  • java多线程--死锁
  • CppCon 2018 学习:Standard Library Compatibility Guidelines (SD-8)
  • 未成功,做个记录,SelfHost.HttpSelfHostServer 如何加载证书