当前位置: 首页 > news >正文

NumPy-统计函数详解

NumPy-统计函数详解

    • 一、基础统计函数:均值、方差、标准差
      • 1. 全局统计:忽略维度的整体计算
      • 2. 按轴统计:指定维度方向的计算
    • 二、位置统计:中位数、分位数、百分位数
      • 1. 中位数计算
      • 2. 分位数与百分位数
    • 三、离散程度:极差、四分位距、变异系数
      • 1. 极差(Range)
      • 2. 四分位距(IQR)
      • 3. 变异系数(Coefficient of Variation)
    • 四、相关分析:协方差与相关系数
      • 1. 协方差矩阵
      • 2. 相关系数矩阵
    • 五、高级应用:加权统计与掩码处理
      • 1. 加权统计
      • 2. 掩码数组:处理缺失值
    • 六、性能优化与注意事项
      • 1. 内存高效的分块计算
      • 2. 统计函数的精度问题
    • 七、实战案例:数据分布分析
      • 1. 数据标准化
      • 2. 异常值检测
      • 3. 数据分布可视化(配合matplotlib)

统计函数是提取数据特征、洞察数据分布的核心工具,NumPy作为Python数值计算的基石,提供了丰富的统计函数库,涵盖均值、方差、中位数、相关系数等多种统计指标。

一、基础统计函数:均值、方差、标准差

1. 全局统计:忽略维度的整体计算

import numpy as np
arr = np.array([[1, 2, 3], [4, 5, 6]])print(np.mean(arr))      # 均值:3.5
print(np.var(arr))       # 方差:2.9166666666666665
print(np.std(arr))       # 标准差:1.707825127659933
print(np.sum(arr))       # 总和:21
print(np.min(arr))       # 最小值:1
print(np.max(arr))       # 最大值:6

2. 按轴统计:指定维度方向的计算

通过axis参数指定统计方向:

  • axis=0:按列方向(跨行统计)
  • axis=1:按行方向(跨列统计)
print(np.mean(arr, axis=0))  # 按列求均值:[2.5 3.5 4.5]
print(np.mean(arr, axis=1))  # 按行求均值:[2. 5.]
print(np.sum(arr, axis=1))   # 按行求和:[ 6 15]

二、位置统计:中位数、分位数、百分位数

1. 中位数计算

中位数是将数据分为上下两部分的数值,对异常值不敏感:

data = np.array([1, 3, 2, 4, 5])
print(np.median(data))  # 输出:3.0(排序后中间的数)# 偶数个元素时取中间两个数的平均值
data = np.array([1, 2, 3, 4])
print(np.median(data))  # 输出:2.5((2+3)/2)

2. 分位数与百分位数

  • 分位数:将数据分为k等份的数值(如四分位数k=4)
  • 百分位数:分位数的特殊情况(k=100)
data = np.array([1, 2, 3, 4, 5])
print(np.percentile(data, 25))  # 第25百分位数:2.0
print(np.percentile(data, 50))  # 第50百分位数(中位数):3.0
print(np.percentile(data, 75))  # 第75百分位数:4.0

三、离散程度:极差、四分位距、变异系数

1. 极差(Range)

最大值与最小值的差值:

data = np.array([1, 3, 2, 4, 5])
print(np.ptp(data))  # 输出:4(5-1)

2. 四分位距(IQR)

第75百分位数与第25百分位数的差值,衡量数据中间50%的离散程度:

q75, q25 = np.percentile(data, [75, 25])
print(q75 - q25)  # 输出:2.0(4-2)

3. 变异系数(Coefficient of Variation)

标准差与均值的比值,用于比较不同数据集的相对离散程度:

def coefficient_of_variation(x):return np.std(x) / np.mean(x)data = np.array([1, 2, 3, 4, 5])
print(coefficient_of_variation(data))  # 输出:0.5270462766947299

四、相关分析:协方差与相关系数

1. 协方差矩阵

衡量两个变量的总体误差,反映变量间的线性关系方向:

x = np.array([1, 2, 3])
y = np.array([4, 5, 6])
print(np.cov(x, y))
# 输出:
# [[ 1.  1.]
#  [ 1.  1.]]
# 对角线为各自的方差,非对角线为协方差

2. 相关系数矩阵

将协方差标准化到[-1,1]区间,更直观地反映相关性强度:

print(np.corrcoef(x, y))
# 输出:
# [[1. 1.]
#  [1. 1.]]
# 完全正相关(相关系数为1)

五、高级应用:加权统计与掩码处理

1. 加权统计

对不同数据点赋予不同权重,计算加权均值、方差等:

data = np.array([1, 2, 3])
weights = np.array([0.1, 0.3, 0.6])
print(np.average(data, weights=weights))  # 加权均值:2.5

2. 掩码数组:处理缺失值

使用np.ma模块创建掩码数组,忽略特定值进行统计:

data = np.array([1, np.nan, 3])
masked_data = np.ma.masked_invalid(data)  # 屏蔽NaN值
print(np.ma.mean(masked_data))  # 输出:2.0(忽略NaN后计算均值)

六、性能优化与注意事项

1. 内存高效的分块计算

处理超大规模数据时,可使用np.nanmean等函数自动处理NaN值,并通过out参数指定输出数组:

# 假设data是一个非常大的数组
result = np.empty(shape=data.shape[1:])
np.mean(data, axis=0, out=result)  # 直接将结果写入预分配内存

2. 统计函数的精度问题

不同数据类型可能导致统计结果精度差异:

arr_float = np.array([1.1, 2.2, 3.3], dtype=np.float64)
arr_float32 = arr_float.astype(np.float32)print(np.sum(arr_float))   # 输出:6.6(高精度)
print(np.sum(arr_float32)) # 输出:6.600000381469727(低精度)

七、实战案例:数据分布分析

1. 数据标准化

将数据转换为均值为0、标准差为1的标准正态分布:

data = np.array([1, 2, 3, 4, 5])
standardized = (data - np.mean(data)) / np.std(data)
print(standardized)  # 输出:[-1.26491106 -0.63245553  0.          0.63245553  1.26491106]

2. 异常值检测

使用四分位距识别异常值:

q1, q3 = np.percentile(data, [25, 75])
iqr = q3 - q1
lower_bound = q1 - 1.5 * iqr
upper_bound = q3 + 1.5 * iqr
outliers = data[(data < lower_bound) | (data > upper_bound)]
print(outliers)  # 输出异常值

3. 数据分布可视化(配合matplotlib)

import matplotlib.pyplot as plt
data = np.random.normal(0, 1, 1000)  # 生成正态分布数据
plt.hist(data, bins=30)
plt.axvline(np.mean(data), color='r', linestyle='dashed', linewidth=2)  # 均值线
plt.axvline(np.median(data), color='g', linestyle='dashed', linewidth=2)  # 中位数线
plt.show()

总结:NumPy统计函数的核心优势:

  1. 高效性:底层用C实现,避免Python循环,处理大规模数据时性能优异
  2. 灵活性:通过axis参数支持多维数组的任意方向统计
  3. 鲁棒性:内置对NaN、Inf等特殊值的处理机制

That’s all, thanks for reading~~
觉得有用就点个赞、收进收藏夹吧!关注我,获取更多干货~

http://www.dtcms.com/a/270059.html

相关文章:

  • UE5内置插件 AnimToTexture 简单入门
  • 一次编码,多端运行:HTML5多终端调用
  • Android 依赖注入框架详解
  • 2025年7月8日学习笔记——模式识别与机器学习绪论
  • bro code Interface
  • 社区云管家 - 智慧生活新方式 ——仙盟创梦IDE
  • 玩转Docker | 使用Docker部署HomeBox家庭库存管理工具
  • NestJS 系列教程(四):中间件、中断器与异常过滤器详解
  • JavaScript基础篇——第一章 JavaScript基础的认识
  • MySQL 【环境安装、基础认识】
  • OpenCV在Visual Studio 2022下的配置
  • 牛市来临之际,如何用期权抢占反弹先机?
  • Centos和麒麟系统如何每天晚上2点10分定时备份达梦数据库
  • VUE 带有搜索功能的穿梭框(简单demo)
  • 【DOCKER】-2 docker基础
  • 科技云报到:云智融合双buff,AI已开挂
  • 数据结构-顺序表-拿硬币
  • Effective Python 条款5 用辅助函数取代复杂的表达式
  • 数据结构:位图
  • 【保姆级目标检测教程】Ubuntu 20.04 部署 YOLOv13 全流程(附训练/推理代码)
  • Rust DevOps框架管理实例
  • 基于SpringBoot+Vue的非遗文化传承管理系统(websocket即时通讯、协同过滤算法、支付宝沙盒支付、可分享链接、功能量非常大)
  • 实时音视频通过UDP打洞实现P2P优先通信
  • C++--AVL树
  • 第一章、RNN(循环神经网络)
  • 怪物机制分析(有限状态机、编辑器可视化、巡逻机制)
  • Android UI 组件系列(四):EditText 使用详解与输入限制
  • 后台设计指南:系统架构、交互规范与工具实战全流程解析
  • 布隆过滤器+缓存穿透
  • 智能推荐社交分享小程序(websocket即时通讯、协同过滤算法、时间衰减因子模型、热度得分算法)