es集群重新分片报错Too many open files解决

于 2024-08-29 18:05:58 发布
阅读量291 收藏 5
点赞数 8
文章标签： elasticsearch 搜索引擎
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_45112997/article/details/141684663
版权

现象

在这里插入图片描述

查看es集群状态

后面所有操作均在开发工具中操作， 命令行是 curl -XGET -uelastic:password http://ip:9200/_cluster/health

GET _cluster/health
在这里插入图片描述

查看解释

GET /_cluster/allocation/explain
在这里插入图片描述

查看es日志

[WARN ][o.e.c.r.a.AllocationService] [node-2] failing shard [failed shard, shard [hotel-operation-platform-points-pro-2024.08.28][2], node[nbf_TjbDQeqC3kTkcm1Ehw], [P], s[STARTED], a[id=5S3X4mw4TMCbGJR0IO35hA], message [shard failure, reason [index id[dfqXm5EBeV79l1m1taGu] origin[PRIMARY] seq#[106704]]], failure [FileSystemException[/data/elasticsearch/data/nodes/0/indices/QAWmzM4HRV6cBn9tRiJDsg/2/index/_1h_Lucene85FieldsIndexfile_pointers_1.tmp: Too many open files]], markAsStale [true]]
java.nio.file.FileSystemException: /data/elasticsearch/data/nodes/0/indices/QAWmzM4HRV6cBn9tRiJDsg/2/index/_1h_Lucene85FieldsIndexfile_pointers_1.tmp: Too many open files

查看es最大打开文件描述符及使用
GET _nodes/stats/process?filter_path=**.max_file_descriptors
在这里插入图片描述
GET _nodes/stats?pretty 之前open_file_descriptors的值已经非常接近设置的65536
在这里插入图片描述

解决

增加最大打开文件描述符
1、/etc/security/limits.conf
es soft nofile 1024000
es hard nofile 1024000
2、启动脚本添加
LimitNOFILE=1024000
LimitNPROC=1024000
在这里插入图片描述
3、systemctl daemon-reload
4、重启es集群(做好启master节点)

要加油呀
关注
ES集群搭建错误～Too many open files
sonia_liss的博客
09-25 534
错误记录 (1) too many open files max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536] 解决办法： 切换到root用户 vim /etc/security/limits.conf * soft nofile 300000 * hard nofile 300000 * soft nproc 102400 * soft memlock unlimi
ElasticSearch报错Too many open files
wang_quan_li的专栏
10-11 944
ubuntu14.04 ElasticSearch-2.3.5 ElasticSearch是ElasticSearch用户启动的， ulimit -a 的结果是1024 但是没有改变的limits.conf如下： shell> cat /etc/security/limits.conf * soft nofile 65535 * hard nofile 65535 后来发
ES：Too many open files in system
bohu83的博客
01-06 1649
测试环境es有warn: [o.e.g.DanglingIndicesState] [elk-app10] failed to list dangling indices java.nio.file.FileSystemException: /data/elasticsearch/data/nodes/0/indices: Too many open files in system at...
es 容器报错 “Too many open files“ 解决办法
Kainx
10-31 5230
现象 之前用k8s集群启动了一款中间件内部依赖es做数据存储,查看日志发现es报错"Too many open files 解决办法 进入容器中执行ulimit -a 查看当前用户的文件句柄限制 发现是满足需求的,那么问题就只可能是出现在宿主机机上了执行cat /etc/sysctl.conf查看句柄数配置,如下: [root@test-node-01 ~]# cat /etc/sysctl.conf vm.max_map_count=262144 fs.file-max=65536 65536远比日志报
ES问题---Too many open file
weixin_30443747的博客
07-10 362
Too many open file现象ES日志报错：too many open file；分析凡是出现此类错误都是因为没有修改系统limit解决修改/etc/security/limits.conf/etc/security/limits.d/90-nproc.conf/etc/profile重启系统，如果有必要需先关闭重分配 转载于:https://www.cnblogs.com/...
解决elasticsearch“Too many open files in system”问题
dhaibo1986的专栏
07-23 1827
在前两次集群扩容的过程中，总是会出现Too many open files in system问题。对于这个问题，困扰了一段时间。由于elasticsearch在非root用户下运行，开始以为只需要调整limit.conf中的句柄数配置就好。但是在我的句柄数已经调到655350之后，还出现这个问题。我通过检查 lsof 命令发现单个节点的句柄数并不在一个数量级。 如上图所示。 现在证明造成打开文件过多的问题的思路并非局限在limit配置。还需要考虑elasticsearch何时会创建大批量的文件？ 仔细查
解决elasticsearch集群Unassigned Shards无法reroute的问题
dhaibo1986的专栏
07-28 2203
1.背景&问题描述 接上篇文章https://blog.youkuaiyun.com/dhaibo1986/article/details/107564968 在上一篇文章中，由于系统宕机，导致大量索引出现了Unassigned 状态。在上一篇文章中，我们通过reroute API进行了操作，对主分片缺失的索引，经过上述操作之后，分配了主分片。但是在接下来的操作中，对于副本分片，reroute出错！ 如下是索引 alarm-2017.08.12，第0个分片的副本没有分配： 下面执行语句： POST /_c
【ElasticSearch】ES中显示打开文件数过多问题解决
a6458360的博客
04-27 3419
最近公司一个项目es集群连续出现多次打开文件数过多。跟老大讨论并且一起百度翻了翻相关资料。 我们的句柄数已经调到1048576，但是还是一直出现该问题，所以我们考虑es为何会打开如此多文件数。 下面是搜索的一些信息： 造成打开文件过多的问题的思路并非局限在limit配置。 官网有如下描述： 由于自动刷新流程每秒会创建一个新的段，这样会导致短时间内的段数量暴增。而段数目太多会带来较大的麻烦。 每一个段都会消耗文件句柄、内存和cpu运行周期。更重要的是，每个搜索请求都必须轮流检查每个段；所以段越多，搜索也就慢。
ES报错too-many-open-files解决
zoubf的专栏
05-23 5585
昨天，项目的 ElasticSearch 服务挂了，我说的挂可不是进程没了，因为有 Supervisor 保护，而是服务不可用了。以前曾经出现过一次因为 ES_HEAP_SIZE 设置不当导致的服务不可用故障，于是我惯性的判断应该还是 ES_HEAP_SIZE 的问题，不过登录服务器后发现日志里显示大量的「Too many open files」错误信息。那么 ElasticSearch 设置的最
定时频繁的查询es导致Too many open files 与 java.lang.OutOfMemoryError
qq_43380361的博客
04-18 638
出现这种问题是因为打开过多的句柄(或者请求链接)，超出系统设定的句柄数。我这里是因为系统定时的去调用接口，由于使用线程池并发调用接口次数过多，导致超出系统设定的请求链接次数。上面的问题是句柄数不够，这个出现这种问题的原因是内存不足的造成的，可以从代码优化，以及系统调优两个方面解决。最好的是优化代码，实在不行再去系统调优。3、永久生效（需要重启）1、查看句柄限制数量。
单节点es 打开文件过多(too many open files)
最新发布
大叶子不小的博客
12-12 649
然后，我想起来了，我的es是设置了systemctl 系统服务启动的，然后查看自己的elasticsearch.service文件，如下图。translog过多的问题没有解决，然后观察了一会，es打开文件的数量缓慢上升，唉，还是没有真正解决translog问题，再查查资料把！我改过后，重启es，es依然报同样的错误，一时不知道怎么办，然后尝试前台启动es后，es正常起来了，今天重启es后，发现es服务是启动了，但是实时数据并未写入es数据库，查看日志发现，报错如下图。进入kibana界面，
【踩坑日记】Docker elasticsearch too many open files问题处理
huang_550的专栏
09-26 942
elasticsearch too many open files
Elasticsearch: too many open files
vincent_duan的专栏
07-31 913
elasticsearch在平衡分片的过程中，有一些分片尝试过5次移动分片之后，未成功，就会停止移动，查看分片信息，显示too many open files 在elasticsearch日志中有类似下面的日志内容： ... Caused by: java.io.FileNotFoundException: /esdata/elasticsearch/elasticsearch-cluster001/nodes/0/indices/.marvel-20 14.10.27/0/index/_fo.fdt (T
elasticsearch too many open files
donlian的专栏
07-11 402
详细解法见：http://www.elasticsearch.org/tutorials/too-many-open-files/ 总体意思是，在linux系统中，使用了非root用户启动的elasticsearch，但Linux对这些非特权用户打开的文件格式做了限制。导致elasticsearch报错。   修改方法，使用root编辑/etc/security/limits.conf，在...
elasticsearch打开文件数过多“Too many open files in system”
qq_34412985的博客
05-18 1721
最近公司一个项目es集群连续出现多次打开文件数过多。跟老大讨论并且一起百度翻了翻相关资料。 我们的句柄数已经调到1048576，但是还是一直出现该问题，所以我们考虑es为何会打开如此多文件数。 在这里插入图片描述 下面是搜索的一些信息： 造成打开文件过多的问题的思路并非局限在limit配置。 官网有如下描述： 由于自动刷新流程每秒会创建一个新的段，这样会导致短时间内的段数量暴增。而段数目太多会带来较大的麻烦。 每一 个段都会消耗文件句柄、内存和cpu运行周期。更重要的是，每个搜索请求都必须轮流检查每个段；所
too many open files(打开的文件过多)解决方法
热门推荐
muzlei的博客
11-08 2万+
https://www.cnblogs.com/conanwang/p/5818441.html SU: failed to execute /bin/bash:系统中打开的文件过多 一、产生原因 too many open files(打开的文件过多)是Linux系统中常见的错误，从字面意思上看就是说程序打开的文件数过多，不过这里的files不单是文件的意思，也包括打开的通讯链接(比如sock...
elasticsearch Too many open files 异常
王百林的博客
06-06 2927
如果你使用的是Ubuntu,你可以这样设置:在文件 /etc/security/limits.conf 添加一行，如:elasticsearch - nofile 32768可以把 elasticsearch替换成你运行elasticsearch和elasticsearch的用户。如果你用两个用户，你就需要配两个。还有配nproc hard 和 soft limits. 如:elas...
Elasticsearch 5.6.10版本特性与配置指南
4. 文件描述符限制：Elasticsearch默认使用大量的文件描述符，用户需要在操作系统层面对文件描述符的限制进行调整，以避免“Too many open files”的错误。 5. 磁盘空间和数据路径：Elasticsearch需要足够的磁盘空间...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值