Elasticsearch深度分页问题以及Scroll查询的一些总结

本文总结了Elasticsearch深度分页导致的问题,探讨了`max_result_window`参数的意义,以及介绍了Scroll查询作为解决方案的工作原理。深度分页在Query阶段造成性能瓶颈,而Scroll查询提供了一种用于大量数据处理的高效方式,但不适用于实时用户请求。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

背景介绍

我们在 Elasticsearch API的基础上实现了一个日志查询系统,支持最基本的时间范围选择以及关键词搜索高亮,并且日志展示的表格支持异步分页。

有天用户反馈,查询的时候页面报错

Result window is too large, from + size must be less than or equal to: [10000] but was [24600]. See the scroll api for a more efficient way to request large data sets. This limit can be set by changing the [index.max_result_window] index level setting.

这是因为我们的异步分页查询逻辑中使用了 from + size,而 Elasticsearch 默认配置为

“max_result_window”: “10000”

于是, 将这个参数调至 30000, 问题暂时解决。

不过,今天又接到反馈,API报错

Result window is too large, from + size must be less than or equal to: [30000] but was [44600]. See the scroll api for a more efficient way to request large data sets. This limit can be set by changing the [index.max_result_window] index level setting.

一味调整 max_result_window 不是个办法,遂计划详细了解下 wi

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值