概率论与数理统计核心知识点与公式总结（就业版）

概率论与数理统计核心知识点与公式总结（附实际应用）

---

一、概率论基础

1.1 基本概念

• 样本空间（Ω）
  所有可能结果的集合，例如掷骰子的样本空间为 Ω = { 1 , 2 , 3 , 4 , 5 , 6 } \Omega = \{1,2,3,4,5,6\} Ω={1,2,3,4,5,6}。

• 概率公理

  • 非负性：$P(A)\ge 0$
  • 规范性：$P(\Omega )=1$
  • 可列可加性：若 $A_i$事件两两互斥，则
    $$P\left(\bigcup _{i=1}^{\infty }{A}_i\right)=\sum _{i=1}^{\infty }P(A_i)$$

• 事件：样本空间的子集，记为 $A,B$ 等。

• 基本事件：只含一个结果的事件。

• 必然事件：一定发生，$A=\Omega$。

• 不可能事件：不会发生，$A=\varnothing$。

• 互斥事件：$A\cap B=\varnothing$。

• 古典概率
  $$P(A)=\frac{\text{事件A包含的基本事件个数}}{\text{样本空间中基本事件总数}}$$

前提：所有基本事件等可能发生

---

1.2 条件概率与独立性

• 条件概率公式 🌟🌟🌟🌟
  $$P(B|A)=\frac{P(A\cap B)}{P(A)}(\text{要求 }P(A)>0)$$

• 全概率公式（完备事件组）
  若事件 { B i } \{B_i\} {Bi​} 是样本空间的划分（互斥且全覆盖），则：
  $$P(A)=\sum _{i=1}^{n}P(B_i)\cdot P(A|B_i)$$

• 贝叶斯定理 🌟🌟
  $$P(B_i|A)=\frac{P(B_i)\cdot P(A|B_i)}{{\sum }_{j=1}^{n}P(B_j)\cdot P(A|B_j)}$$

• 独立事件 🌟🌟🌟🌟
  若 $P(A\cap B)=P(A)P(B)$，则称事件 $A$ 和 $B$ 独立。
  事件 $A$ 与 $B$ 独立当且仅当：
  $$P(A\cap B)=P(A)\cdot P(B)$$

• 乘法公式🌟🌟🌟🌟
  $$P(A\cap B)=P(B)\cdot P(A|B)$$

---

二、随机变量及其分布

2.0 随机变量

• 离散型：取有限或可数个值
• 连续型：在某区间内取无限多个值

2.0 分布函数（CDF）

$$F(x)=P(X\le x)$$

性质：右连续，单调不减，$0\le F(x)\le 1$

---

2.1 离散型随机变量

• 分布律
  $P(X=x_i)=p_i$，满足 $\sum p_i=1$。

• 常见分布

  • 二项分布 $B(n,p)$
    描述 $n$ 次独立重复试验的成功次数：
    $$P(X=k)=C_n^k{p}^k(1-p{)}^{n-k}$$
    应用场景：产品质检中的合格品数量预测。

  • 泊松分布 $P(\lambda )$
    描述单位时间内事件发生的次数：
    $$P(X=k)=\frac{{\lambda }^k{e}^{-\lambda }}{k!}$$
    应用场景：客服中心每小时接到的电话数。

• 离散型分布🌟🌟

分布	参数	概率质量函数 $P(X=x)$	期望 $E(X)$	方差 $D(X)$
0-1分布	$p$	$P(1)=p,P(0)=1-p$	$p$	$p(1-p)$
二项分布	$n,p$	$P(k)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k(1-p{)}^{n-k}$	$np$	$np(1-p)$
几何分布	$p$	$P(k)=(1-p{)}^{k-1}p$	$\frac{1}{p}$	$\frac{1-p}{p^2}$
泊松分布	$\lambda$	$P(k)=\frac{{\lambda }^k{e}^{-\lambda }}{k!}$	$\lambda$	$\lambda$

---

2.2 连续型随机变量

• 概率密度函数（PDF）
  $f(x)\ge 0$，且 ${\int }_{-\infty }^{+\infty }f(x)dx=1$。

• 常见分布 🌟🌟

  • 正态分布 $N(\mu ,{\sigma }^2)$
    $$f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$
    应用场景：学生考试成绩分布。

  • 指数分布 $Exp(\lambda )$
    $$f(x)=\lambda e^{-\lambda x}(x\ge 0)$$
    应用场景：电子元件的寿命建模。

• 连续型分布

分布	参数	密度函数 $f(x)$	期望 $E(X)$	方差 $D(X)$
均匀分布	$a,b$	$f(x)=\frac{1}{b-a}$, $x\in [a,b]$	$\frac{a+b}{2}$	$\frac{(b-a{)}^2}{12}$
指数分布	$\lambda$	$f(x)=\lambda e^{-\lambda x}$, $x\ge 0$	$\frac{1}{\lambda }$	$\frac{1}{{\lambda }^2}$
正态分布	$\mu ,{\sigma }^2$	$f(x)=\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$	$\mu$	${\sigma }^2$

---

2.3 多维随机变量

2.3.1 联合分布

• 联合分布函数：$F(x,y)=P(X\le x,Y\le y)$
• 联合密度函数：$f(x,y)$（连续）或 $P(X=x,Y=y)$（离散）

2.3.2 边缘分布

$$f_X(x)={\int }_{-\infty }^{\infty }f(x,y)dy,f_Y(y)={\int }_{-\infty }^{\infty }f(x,y)dx$$

2.3.3 条件分布

• 条件密度：$f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)}$

2.3.4 独立性判断

若 $f(x,y)=f_X(x)\cdot f_Y(y)$，则 $X$ 与 $Y$ 独立。

---

三、数字特征

3.1 期望（均值）🌟🌟🌟🌟

• 定义
  离散型： $E(X)=\sum x_{i}P(X=x_i)$
  连续型：$E(X)={\int }_{-\infty }^{+\infty }xf(x)dx$

• 线性性质 🌟🌟
  $$E(aX+b)=aE(X)+b$$

3.2 方差与标准差

• 方差 🌟🌟🌟🌟🌟🌟
  $$D(X)=E[(X-E(X){)}^2]=E(X^2)-[E(X){]}^2$$

• 标准差
  $${\sigma }_X=\sqrt{D(X)}$$

• 性质
  $$D(aX+b)=a^{2}D(X)$$

3.3 协方差与相关系数

• 协方差：
  $$\mathrm{Cov}(X,Y)=E[(X-E(X))(Y-E(Y))]$$
• 相关系数：
  $${\rho }_{XY}=\frac{\mathrm{Cov}(X,Y)}{\sqrt{D(X)}\cdot \sqrt{D(Y)}}$$

---

四、大数定律与中心极限定理

4.1 大数定律

• 弱大数定律
  样本均值依概率收敛于期望：
  $$\frac{1}{n}\sum _{i=1}^n{X}_i\stackrel{P}{\to }\mu (n\to \infty )$$

4.1 大数定律（辛钦）

设 $X_1,...,X_n$ 独立同分布，$E(X_i)=\mu$，则：
$${\overline{X}}_n=\frac{1}{n}\sum _{i=1}^n{X}_i\stackrel{P}{\to }\mu$$

4.2 中心极限定理（CLT）

• 核心结论
  独立同分布随机变量的和近似正态分布，设 $X_i$ 独立同分布，$E(X_i)=\mu ,D(X_i)={\sigma }^2$，则：
  $$\frac{{\sum }_{i=1}^n{X}_i-n\mu }{\sigma \sqrt{n}}\stackrel{d}{\to }N(0,1)$$
  应用场景：民意调查中样本均值的分布。

4.3 切比雪夫不等式

$$P(|X-\mu |\ge \epsilon )\le \frac{D(X)}{{\epsilon }^2}$$

---

五、数理统计基础

5.1 抽样分布

• 样本均值
  $$\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$$

• 样本方差
  $$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2$$

• 样本统计量

• 样本均值：$\overline{X}=\frac{1}{n}\sum X_i$

• 样本方差：$S^2=\frac{1}{n-1}\sum (X_i-\overline{X}{)}^2$

• 三大分布

  • 卡方分布 ${\chi }^2(n)$：若 $X_i\sim N(0,1)$，则 ${\sum }_{i=1}^n{X}_i^2\sim {\chi }^2(n)$
  • t分布 $t(n)$：$T=\frac{\bar{X}-\mu }{S/\sqrt{n}}\sim t(n-1)$
  • F分布 $F(m,n)$：$F=\frac{S_1^2/{\sigma }_1^2}{S_2^2/{\sigma }_2^2}\sim F(m-1,n-1)$

5.2 参数估计

• 点估计：直接用样本统计量估计总体参数

• 区间估计：构造置信区间估计参数

• 最大似然估计（MLE）
  通过最大化似然函数 $L(\theta )=\prod f(x_i;\theta )$ 求解参数。

• 正态总体均值的置信区间

  • $\sigma$已知：$\bar{X}\pm z_{\alpha /2}\frac{\sigma }{\sqrt{n}}$
  • $\sigma$未知：$\bar{X}\pm t_{\alpha /2}(n-1)\frac{S}{\sqrt{n}}$

• 点估计

  • 矩估计法：用样本矩估计总体矩。
  • 最大似然估计（MLE）：最大化似然函数 $L(\theta )=\prod f(x_i;\theta )$。

• 区间估计

  • 正态总体均值置信区间（$\sigma$已知）：
    $$\bar{X}\pm z_{\alpha /2}\frac{\sigma }{\sqrt{n}}$$
  • $\sigma$未知时：
    $$\bar{X}\pm t_{\alpha /2}(n-1)\frac{S}{\sqrt{n}}$$

---

六、假设检验

6.1 检验步骤

1. 提出原假设 $H_0$ 和备择假设 $H_1$。
2. 选择检验统计量（如Z统计量、t统计量）。
3. 确定显著性水平 $\alpha$ （如 0.05）和拒绝域。
4. 求出 P 值或临界值并判断是否拒绝 $H_0$，计算p值并得出结论。

6.2 常见检验方法

• Z检验：已知总体方差时使用。
• t检验：小样本且总体方差未知时使用。
• 卡方检验：检验方差或分布拟合优度。

检验类型	条件	分布
单样本Z检验	$\sigma$已知	$Z\sim N(0,1)$
单样本t检验	$\sigma$未知	$t\sim t(n-1)$
双样本t检验	两正态总体	$t\sim t(n_1+n_2-2)$
卡方检验	适配性、独立性检验	${\chi }^2$ 分布

---

七、回归分析

7.1 一元线性回归

• 模型
  $$Y={\beta }_0+{\beta }_{1}X+ϵ$$

• 最小二乘法估计
  $${\hat{\beta }}_1=\frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x}{)}^2},{\hat{\beta }}_0=\bar{y}-{\hat{\beta }}_1\bar{x}$$

• Python代码示例

  import numpy as np
  from sklearn.linear_model import LinearRegression
  
  X = np.array([1, 2, 3, 4, 5]).reshape(-1, 1)
  y = np.array([2, 4, 5, 4, 5])
  model = LinearRegression().fit(X, y)
  print(f"斜率: {model.coef_[0]:.2f}, 截距: {model.intercept_:.2f}")
  

---

八、其他常用公式

1. 协方差矩阵

$$\Sigma =\left[\begin{array}{cc}D(X)& \mathrm{Cov}(X,Y)\\ \mathrm{Cov}(Y,X)& D(Y)\end{array}\right]$$

2. 标准化公式（Z分数）

$$Z=\frac{X-\mu }{\sigma }\Rightarrow Z\sim N(0,1)$$

---

九、实际应用案例

案例1：正态分布在数据分析中的应用

• 场景：某班级学生身高服从正态分布 ( N(170, 5^2) )，计算身高超过180cm的概率。
  Python实现：

  from scipy.stats import norm
  prob = 1 - norm.cdf(180, loc=170, scale=5)
  print(f"概率: {prob:.4f}")  # 输出：0.0228
  

案例2：假设检验在A/B测试中的应用

• 场景：对比新旧页面转化率，使用Z检验判断差异是否显著。

---