当前位置: 首页 > news >正文

ElasticSearch深入解析(十一):分页

在Elasticsearch中,常用的分页方案有from + sizesearch_afterscroll三种,适用于不同场景。from + size基于偏移量分页,是全局排序后的切片查询,适用于小数据量、浅分页场景,但深度分页性能差,且有默认上限限制。search_after基于游标分页,实现无偏移量的前向分页,无深度分页限制,性能稳定,适合大数据量、实时分页场景,是ES推荐方案,但仅支持“下一页”操作,且排序字段需组合唯一。scroll基于快照批量分页,适合非实时、大数据量导出场景,能避免重复计算,但实时性差,长时间持有会占用集群内存,ES 7.x版本开始标记其为弃用。三种方案各有优劣,建议优先选择search_after,谨慎使用from + size,仅用scroll做离线导出。

一、from + size 查询:基于偏移量的分页

核心原理

通过 from(起始偏移量)和 size(每页数量)参数控制返回结果的范围,本质是全局排序后的切片查询
例如:from=10, size=10 表示跳过前10条数据,返回第11-20条数据。

执行流程
  1. 协调节点向所有分片发送查询请求;
  2. 每个分片根据查询条件(如排序)返回前 from + size 条数据;
  3. 协调节点将所有分片的结果合并,重新排序后取 [from : from+size] 的数据返回。
关键限制与缺陷
  • 深度分页性能差:当 from 很大(如 from=10000)时,每个分片需要返回 10000+size 条数据,网络传输和内存开销随 from 增大呈指数级增长。
  • 默认上限限制:ES 为避免深度分页崩溃,默认限制 from + size ≤ 10000(由 index.max_result_window 控制),超过会直接报错。
  • 排序依赖:若查询未显式排序(默认按 _score 排序),深度分页可能因评分计算的不稳定性导致结果偏移。
适用场景

仅适用于小数据量、浅分页(如 from < 1000)的场景,例如前端常规的“下一页”操作(每页10条,最多翻1000页)。

二、search_after 查询:基于游标(Cursor)的分页

核心原理

通过记录前一页最后一条数据的排序值作为游标(search_after 参数),实现无偏移量的前向分页。每次查询仅需从游标位置往后取数据,避免了 from + size 的全局排序开销。

执行流程
  1. 初始查询:必须显式指定排序字段,并且必须是值唯一的字段,否则会出现数据统计丢失的情况,并返回排序后的第一页数据;
  2. 获取游标:记录当前页最后一条数据的排序值(如 {"timestamp": 1620000000, "id": "doc123"});
  3. 后续查询:将游标作为 search_after 参数,请求下一页数据。
关键特性
  • 无深度分页限制:无需加载 from + size 条数据,每次查询仅需获取 size 条后续数据,性能稳定;
  • 前向分页:仅支持“下一页”操作,无法跳转到任意页(需结合业务层缓存游标);
  • 排序字段唯一性:排序字段需组合唯一(如 [timestamp, id]),避免因排序值重复导致游标失效。
适用场景

适合大数据量、实时分页场景(如日志检索、实时报表),是 ES 推荐的分页方案。

三、scroll 查询:基于快照的批量分页

核心原理

通过 scroll 参数生成一个“搜索上下文快照”(类似数据库的游标),后续请求通过 scroll_id 从快照中获取数据。快照在集群内存中临时保存(通过 scroll=1m 指定超时时间),避免重复计算。

执行流程
  1. 初始化快照:首次查询携带 scroll=1m 参数,ES 返回第一页数据和 scroll_id
  2. 滚动获取数据:后续请求使用 scroll_idscroll=1m 参数,ES 从快照中返回下一页数据;
  3. 释放资源:数据读取完毕后,需显式调用 clear-scroll API 释放快照资源。
关键特性
  • 离线式分页:快照生成后,后续数据变更(增删改)不会影响结果(适合需要一致性的全量导出);
  • 高性能遍历:避免重复排序和计算,适合百万级以上数据的批量拉取;
  • 实时性差:==快照是静态的,无法反映查询后的实时数据变化; ==
  • 资源占用:==长时间持有 scroll_id 会占用集群内存,需谨慎设置超时时间。 ==
适用场景

仅适用于非实时、大数据量导出场景(如数据迁移、离线报表生成)。ES 7.x 版本开始标记 scroll 为弃用(_search/scroll),推荐使用 search_after 替代实时场景。

四、 max_result_window 限制

from + size ≤ index.max_result_window,即总偏移量与页大小之和不能超过该阈值,超过则直接报错(Result window is too large);
对于scroll和search after,单次请求的size ≤ index.max_result_window。

五、三种分页方案对比总结

特性from + sizesearch_afterscroll
核心逻辑偏移量切片游标前向遍历静态快照批量拉取
深度分页支持不支持(from ≤ 10000无限制无限制
实时性高(每次查询最新数据)高(基于实时排序)低(基于快照)
内存/网络开销高(随 from 增大)低(仅获取后续数据)中(快照占用内存)
分页方向任意页(前后跳转)仅前向(下一页)仅前向(下一页)
典型场景小数据量浅分页大数据量实时分页全量数据离线导出

总结建议

  • 优先选择 search_after:适合绝大多数实时分页场景,兼顾性能与灵活性;
  • 谨慎使用 from + size:仅用于小数据量且分页深度较浅的场景;
  • 仅用 scroll 做离线导出:避免长期持有快照,及时释放 scroll_id

相关文章:

  • coze平台实现文生视频和图生视频(阿里云版)工作流
  • C++标准流详解:cin/cout的绑定机制与cerr/clog的缓冲差异
  • Landsat 5介绍
  • [超级简单]讲解如何用PHP实现LINE Pay API!
  • ELF文件详解
  • 解密企业级大模型智能体Agentic AI 关键技术:MCP、A2A、Reasoning LLMs- GPT源代码解析
  • 笔试强训(十七)
  • JMeter同步定时器 模拟多用户并发访问场景
  • Google Earth Engine(GEE) 代码详解:批量计算_年 NDVI 并导出(附 Landsat 8 数据处理全流程)
  • Matlab基于SSA-MVMD麻雀算法优化多元变分模态分解
  • Python爬虫实战:研究JavaScript 环境补全逆向解密
  • 大模型MCP_MCP从流式SSE到流式HTTP_1.8.0支持流式HTTP交互_介绍_从应用到最优--人工智能工作笔记0245
  • 黑马Java跟学.最新AI+若依框架项目开发(一)
  • 手搓传染病模型(SEIARW)
  • AcroForm 格式化文本(域)字段
  • HttpSession 的运行原理
  • 2025-05-13 学习记录--Python-循环:while循环 + for循环 + 循环控制
  • Flannel vxlan模式的优缺点
  • 线性投影层---将输入特征从一个空间映射到另一个空间
  • 数据库数据清洗、预处理与质量监控、 数据质量的核心概念
  • 遭“特朗普关税”冲击,韩国今年经济增长预期“腰斩”降至0.8%
  • 足球少年郎7月试锋芒,明日之星冠军杯构建顶级青少年赛事
  • 反制美国钢铝关税!印度拟对美国部分商品征收关税
  • “80后”李灿已任重庆市南川区领导,此前获公示拟提名为副区长人选
  • 5.19中国旅游日,上海56家景区景点限时门票半价
  • 巴基斯坦总理:希望通过和平对话方式解决与印方问题