java获取elasticsearch所有的数据

本文介绍使用Java High-Level REST Client实现Elasticsearch滚动搜索的方法,详细解释了如何通过循环请求来分页获取大量数据,避免一次性加载过多数据导致内存溢出。文章展示了具体的Java代码示例,包括设置搜索请求、处理查询结果以及重置搜索响应和ID的过程。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 

注意:下面的代码是用的java-high客户端

在贴出程序之前先提出几个问题,首先在搜索引擎中任何时候涉及到批量数据处理的时候,都不可能在一次请求中获取到所有的数据,这样是为了节省内存,而且全部拿到也不现实,一般都是分页获取的,也就是说先给你展示,下一页的话通过你的点击会从上次展示的位置往后获取数据,而这个位置你可以理解为位置指针。就这样循环获取循环请求才能真正的将数据全部拿到。下面的程序我没有做整理,不过认真看的话,你呢个get到你的点。

 public static void ScroolSearchID(String sourceIndex,String desIndex) {
        try {
            SearchRequest searchRequest = new SearchRequest(sourceIndex);
            //请求设置
            SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
            searchSourceBuilder.query(QueryBuilders.matchAllQuery());
            searchSourceBuilder.fetchSource(false);
            searchSourceBuilder.size(1000);
            searchRequest.scroll(TimeValue.timeValueMinutes(5L));
            searchRequest.source(searchSourceBuilder);
//            请求发送
            SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);
            SearchHit[] searchHit = searchResponse.getHits().getHits();
            int i = 1;
            while ((searchHit != null && searchHit.length > 0)) {
                try {
               //自定义处理查询结果代码  searchHit 就是查询结果
                  
                } catch (Exception e) {
                    e.printStackTrace();
                }

//        重置searchResponse 和ID
                String scrollId = searchResponse.getScrollId();
                SearchScrollRequest scrollRequest = new SearchScrollRequest(scrollId);
                scrollRequest.scroll(TimeValue.timeValueMinutes(5));
                searchResponse = client.scroll(scrollRequest, RequestOptions.DEFAULT);
                searchHit = searchResponse.getHits().getHits();
                i++;
            }

        } catch (IOException e) {
            e.printStackTrace();
        }


    }

 

评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

我先森

鼓励一个吧,哈哈

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值