ELK-ES集群master、data节点拆分

已于 2025-04-11 13:19:00 修改
阅读量776 收藏 6
点赞数 11
CC 4.0 BY-SA版权
分类专栏： ELK 文章标签： elk
于 2025-03-14 09:49:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_40770523/article/details/146237919

ES集群master节点拆分

背景：

公司ES集群内存在20个node节点，每个节点的角色即是master又是data角色

目标：

新增3个节点作为master使用，原20个节点全部转换为data角色，尽量不丢数据！！！

别问为什么尽量，因为之前第4步重启es集群，不是依次重启，全部重启，然后集群挂掉了，铲掉es集群后，新建的es集群发现elk里面索引模板都没了，要是严谨一点，可以把 生命周期管理策略和索引模板先备份一下，保存好输出。

get  _template
get  _template/eapvm-log-template
get _index_template
get _index_template/apc-node-template
get /_ilm/policy
get /_ilm/policy/30-days-default

操作步骤：

1.新增3个节点加入现有ES集群中

配置文件如下：

[root@s1prod-es13 ~]# cat /data01/es/elasticsearch.yml
cluster.name: "es-uat-cluster"
cluster.max_shards_per_node: 10000
node.name: s1prod-es13	#注意修改为本节点主机名
node.attr.box_type: cold		    #注意修改
network.host: 0.0.0.0
network.publish_host: 10.11.20.54	#注意修改为本节点IP
discovery.seed_hosts: ["10.11.20.76", "10.11.20.77", "10.11.20.78"]	#注意修改，改为目前运行的节点
bootstrap.memory_lock: true
xpack.monitoring.collection.enabled: true
cluster.initial_master_nodes: ["10.11.20.76", "10.11.20.77", "10.11.20.78"]	#注意修改，改为最新作为master节点的地址
node.master: true	    #新加入的节点，master为true
node.data: false		#新加入的节点，data为false
xpack.license.self_generated.type: basic
xpack.security.enabled: false
cluster.routing.allocation.same_shard.host: true
cluster.routing.allocation.disk.watermark.low: "90%"
cluster.routing.allocation.disk.watermark.high: "95%"
#cluster.routing.allocation.disk.watermark.low: "85%"
#cluster.routing.allocation.disk.watermark.high: "90%"
cluster.info.update.interval: "30s"
cluster.routing.allocation.disk.include_relocations: true
cluster.routing.allocation.disk.threshold_enabled: true
http.max_content_length: 800mb
http.max_initial_line_length: 100kb
http.max_header_size: 40kb

[root@s1prod-es13 es]# cat docker-compose.yml
version: '3'
services:
  elasticsearch:
    image: '10.11.20.102:80/public/elasticsearch:7.16.2'
    network_mode: host
    restart: always
    environment:
      ES_JAVA_OPTS: '-Xms32G -Xmx32G'	#内存为虚拟机的一半
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - "/data01/es/data:/usr/share/elasticsearch/data"
      - "/data01/es/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml"
  elasticsearch-exporter:
    image: '10.11.20.102:80/public/elasticsearch-exporter:1.3.0'
    command:
      - '--es.uri=http://localhost:9200'
    restart: always
    network_mode: host
    depends_on:
      - elasticsearch

启动服务，加入集群

docker-compose -f /data01/es/docker-compose.yml up -d

docker ps

docker logs -f  容器名 	#查看容器启动日志，检查是否正常启动

在elk上运行

GET /_cat/nodes?

新加入的节点应该如下图

运行如下命令，检查集群状态

GET /_cluster/health?

依次循环，3个master节点均加入集群。

2.将之前20个节点排除master角色候选

运行下面的命令查询cluster.max_voting_config_exclusions的值，默认是10，这里集群改动过了，忽略。

curl -X GET "http://localhost:9200/_cluster/settings?include_defaults=true&filter_path=defaults.cluster.max_voting_config_exclusions,persistent.cluster.max_voting_config_exclusions,transient.cluster.max_voting_config_exclusions&pretty" -H 'Content-Type: application/json'

GET /_cluster/settings?include_defaults=true&filter_path=defaults.cluster.max_voting_config_exclusions,persistent.cluster.max_voting_config_exclusions,transient.cluster.max_voting_config_exclusions&pretty

修改该值为20

  curl -X PUT "http://localhost:9200/_cluster/settings" -H 'Content-Type: application/json' -d'
  {
  "persistent": {
      "cluster.max_voting_config_exclusions": 20
  }
  }'

或者

PUT /_cluster/settings
      {
      "persistent": {
          "cluster.max_voting_config_exclusions": 20
      }
     }

再次检查下配置，核对是否修改为20

GET /_cluster/settings?include_defaults=true&filter_path=defaults.cluster.max_voting_config_exclusions,persistent.cluster.max_voting_config_exclusions,transient.cluster.max_voting_config_exclusions&pretty

去除20个节点的master候选(注意node_names后面改成实际es集群中的node_name)

curl -X POST "http://localhost:9200/_cluster/voting_config_exclusions?node_names=infra-es13,infra-es08,infra-es09,infra-es17,infra-es03,infra-es01,infra-es18,infra-es04,infra-es07,infra-es19,infra-es11,infra-es02,infra-es20,infra-es05,infra-es12,infra-es16,infra-es06,infra-es14,infra-es10,infra-es15"

此时检查集群master状态，是否已经切到新的3个master节点中的一个，并确保集群状态正常，类似下图

get _cat/nodes?

get _cluster/health?pretty

 

3.修改所有ES节点配置

master节点配置更改如下：

[root@s1prod-es13 ~]# cat /data01/es/elasticsearch.yml
cluster.name: "es-uat-cluster"
cluster.max_shards_per_node: 10000
node.name: s1prod-es13	
#node.attr.box_type: cold	        #删除这个标签

node.master: true		            #master为true，千万注意
node.data: false				    #data为false，千万注意

network.host: 0.0.0.0
network.publish_host: 10.11.20.54
discovery.seed_hosts: ["10.11.20.76", "10.11.20.77", "10.11.20.78"]		#更改为3个新master节点地址
bootstrap.memory_lock: true
xpack.monitoring.collection.enabled: true
cluster.initial_master_nodes: ["10.11.20.76", "10.11.20.77", "10.11.20.78"]	#更改为3个新master节点地址
xpack.license.self_generated.type: basic
xpack.security.enabled: false
cluster.routing.allocation.same_shard.host: true
cluster.routing.allocation.disk.watermark.low: "90%"
cluster.routing.allocation.disk.watermark.high: "95%"
cluster.info.update.interval: "30s"
cluster.routing.allocation.disk.include_relocations: true
cluster.routing.allocation.disk.threshold_enabled: true
cluster.max_voting_config_exclusions: 20	#最大限制投票配置排除的数量
http.max_content_length: 800mb
http.max_initial_line_length: 100kb
http.max_header_size: 40kb

data节点配置更改如下：

[root@s1prod-es13 ~]# cat /data01/es/elasticsearch.yml
cluster.name: "es-uat-cluster"
cluster.max_shards_per_node: 10000
node.name: s1prod-es13
node.attr.box_type: cold

node.master: false		    #master为false，千万注意
node.data: true				#data为true，千万注意

network.host: 0.0.0.0
network.publish_host: 10.11.20.54
discovery.seed_hosts: ["10.11.20.76", "10.11.20.77", "10.11.20.78"]		    #更改为3个新master节点地址
bootstrap.memory_lock: true
xpack.monitoring.collection.enabled: true
cluster.initial_master_nodes: ["10.11.20.76", "10.11.20.77", "10.11.20.78"]	#更改为3个新master节点地址
xpack.license.self_generated.type: basic
xpack.security.enabled: false
cluster.routing.allocation.same_shard.host: true
cluster.routing.allocation.disk.watermark.low: "90%"		  #注意
cluster.routing.allocation.disk.watermark.high: "95%"		  #注意
cluster.info.update.interval: "30s"
cluster.routing.allocation.disk.include_relocations: true
cluster.routing.allocation.disk.threshold_enabled: true

cluster.max_voting_config_exclusions: 20	    #最大限制投票配置排除的数量

http.max_content_length: 800mb
http.max_initial_line_length: 100kb
http.max_header_size: 40kb

4.依次迁移分片，逐一重启。

先进行master节点的重启，master节点重启完成后，再执行data节点的重启。

先进行master节点的重启，master节点重启完成后，再执行data节点的重启。

先进行master节点的重启，master节点重启完成后，再执行data节点的重启。

master节点不存储数据，因此可以直接重启。

docker-compose -f /data01/es/docker-compose.yml down

docker-compose -f /data01/es/docker-compose.yml up -d

docker-compose -f /data01/es/docker-compose.yml up -d

docker ps

docker logs -f 容器名 #查看容器启动日志，检查是否正常启动

kibana上运行

get _cat/nodes?

get _cluster/health?pretty

检查节点状态、集群状态，

注意：master节点重启完以后只有 ilmr 这几个角色

将数据节点分片先迁移到其他节点去，kibana运行：

PUT /_cluster/settings?pretty
{
  "transient": {
    "cluster.routing.allocation.exclude._ip": "10.11.27.46"
  }
}

类似46这台机器，执行完以后，等很久，分片归0，下图红框部分

之后登录节点，检查第3步master、data节点配置是否正确，下图

修改20个data节点的配置
node.master: false
node.data: true
discovery.seed_hosts: [新的3个节点IP，以逗号分隔]
cluster.initial_master_nodes: [新的3个节点IP，以逗号分隔]
cluster.max_voting_config_exclusions: 20


修改3个新master节点的配置：
discovery.seed_hosts: [新的3个节点IP，以逗号分隔]
cluster.max_voting_config_exclusions: 20

如正确，执行

docker-compose -f /data01/es/docker-compose.yml down

然后kibana执行

PUT _cluster/settings
{
  "transient" : {
    "cluster.routing.allocation.exclude._ip" : ""
  }
}

将刚刚排除分片的地址释放，检查配置，为空则正常

get _cluster/settings

 

然后启动节点配置

docker-compose -f /data01/es/docker-compose.yml up -d

docker ps

docker logs -f  容器名 	#查看容器启动日志，检查是否正常启动

get _cat/nodes?

注意！！！ master节点全部为：ilmr

                   data节点全部为：cdfhilrstw （中间没有m）

get _cluster/health?pretty

 

循环执行第4步，直至所有集群节点重启一遍。

至此，完成

部署Elasticsearch集群，实现海量航迹数据存储
专注于计算机研发知识和资讯分享
03-20 705
ElasticSearch官网下址: https://www.elastic.co/cn/downloads/elasticsearch。进入解压后的elasticsearch-7.2.0 文件夹中的config文件夹，并修改elasticsearch.yml 文件中的配置。在后台启动elastic search进程，需要在启动时加个。保存并退出后执行命令。
ELK日志分析平台——elasticsearch服务器架构调整（从单点到集群的设计）
weixin_45792518的博客
06-11 521
1.什么是elasticsearch？ Elasticsearch 是一个开源的分布式搜索分析引擎，建立在一个全文搜索引擎库 Apache Lucene基础之上。 Elasticsearch 不仅仅是 Lucene，并且也不仅仅只是一个全文搜索引擎： 一个分布式的实时文档存储，每个字段可以被索引与搜索 一个分布式实时分析搜索引擎能胜任上百个服务节点的扩展，并支持 PB 级别的结构化或者非结构化数据 基础模块 cluster：管理集群状态，维护集群层面的配置信息。 alloction：封装了分片分配相关的功能
ElasticSearch: master,data,client三类节点区别及节点分配简单例举
韩超的博客 (hanchao5272)
10-28 1万+
目录简述三类节点说明其他说明简单举例 简述 默认情况下，ES集群节点都是混合节点，即在elasticsearch.yml中默认node.master: true和node.data: true。 当ES集群规模达到一定程度以后，就需要注意对集群节点进行角色划分。 ES集群节点可以划分为三种：主节点、数据节点和客户端节点。 这是一种分而治之的思想，也是一种术业专攻的体现。 三类节点说明 mas...
es的master节点以及es如何保证读写一致性
qq_39350797的博客
03-01 886
es的master节点以及es如何保证读写一致性
看完肯定会系列之——ELK：ES的安装与配置、head_master和node配置、kibana安装和配置、ELK集群的搭建、logstash实例
wgyzzzz的博客
06-20 382
一、ES安装与配置： ES是一个基于RESTful web接口并且构建在Apache Lucene之上的开源分布式搜索引擎。 特点是：高可用，高扩展，是一种NOSQL的数据存储工具 1、事前准备 elasticsearch-6.2.2.tar.gz elasticsearch-head-master.zip kibana-6.2.2-linux-x86_64.tar.gz logstash-6.2.2.tar.gz node-v8.9.1-linux-x64.tar.gz 还有一个jdk1.8 2、创建虚
ES master data client三种节点
day_ue的博客
05-10 4169
简述 默认情况下，ES集群节点都是混合节点，即在elasticsearch.yml中默认node.master: true和node.data: true。 当ES集群规模达到一定程度以后，就需要注意对集群节点进行角色划分。 ES集群节点可以划分为三种：主节点、数据节点和客户端节点。 这是一种分而治之的思想，也是一种术业专攻的体现。 三类节点说明 master - 主节点： elasticsearch.yml : node.master: true node.data: false 主要功能
elasticsearch节点(角色)类型解释node.master和node.data
a19860903的专栏
05-18 2万+
在生产环境下，如果不修改elasticsearch节点的角色信息，在高数据量，高并发的场景下集群容易出现脑裂等问题。 默认情况下，elasticsearch集群中每个节点都有成为主节点的资格，也都存储数据，还可以提供查询服务。 这些功能是由两个属性控制的。 node.master和node.data 默认情况下这两个属性的值都是true。 下面详细介绍一下这两个属性的含义以及不同
Elasticsearch基础篇(四)：Elasticsearch7.x的官方文档学习(Set up Elasticsearch)
后端开发
10-03 4628
在 Elasticsearch 中，存在一些敏感设置，不能仅仅依赖文件系统权限来保护其值。为了解决这个问题，Elasticsearch 提供了一个密钥库（keystore）以及工具来管理这些敏感设置。
企业运维之 ELK日志分析平台（Elasticsearch）
weixin_54720351的博客
04-10 1955
ELK日志分析平台--Elasticsearch的介绍与安装
1.ELK之Elasticsearch&Kibana一篇入门(安装/分片/操作流程/常用语句/分词)
mijichui2153的博客
08-05 8700
elasticsearch安装
分布式日志分析系统--ELK
flytalei的博客
07-30 1181
ELK是由elastic公司开发的三个开源项目( Elasticsearch、Logstash和Kibana)的首字母缩写，三个项目各有不同的功能。后来elastic又增加了许多新项目，于是从5.X版本后改名为Elastic Stack。Elastic Stack是一套适用于数据采集、扩充、存储、分析和可视化的免费开源工具。
ES节点角色详解
弹指天下
08-13 9725
ES集群中节点角色介绍 ES如果采用单节点部署，不用考虑什么节点角色，默认就好。但是在大规模的ES集群中，一定要根据服务器配置，数据冷热，并发情况等合理配置节点的角色，才能让ES集群节点更好的协调合作，对外提供稳定的服务。
elasticsearch7.x clusterAPI之voting_config_exclusions
荣耀之路
09-15 1187
voting_config_exclusions
ElasticSearch 设置（二）在集群中添加和删除节点
李玉志的博客
08-16 2043
文章目录在集群中添加和删除节点符合主节点的节点添加符合主节点的节点移除符合主节点的节点 在集群中添加和删除节点 当您启动Elasticsearch实例时，您正在启动一个节点。Elasticsearch集群是一组具有相同cluster.name属性的节点。当节点加入或离开集群时，集群会自动重新组织自己，以便在可用节点之间均匀地分布数据。 如果您正在运行单个Elasticsearch实例，则您拥有一个节点集群。所有主分片驻留在单个节点上。不能分配复制分片，因此集群状态保持为黄色。集群功能完整，但在发生故障时存在
elasticsearch一些重要的配置参数
热门推荐
Angus
10-29 39万+
整理了一些Elasticsearch重要的配置参数。
Elasticsearch 主节点选举机制：从原理到实践的深度解析
最新发布
lssffy的博客
04-13 1116
主节点选举是 Elasticsearch 集群在启动或现有主节点失效时，通过分布式一致性算法从主节点候选（Master-Eligible Nodes）中选出一个节点作为主节点的过程。集群状态管理：维护分片分配、索引元数据等。轻量级协调：如创建/删除索引。故障检测：监控节点健康。选举确保集群在故障（如主节点宕机）时快速恢复，避免“脑裂”（Split-Brain）等一致性问题。Elasticsearch 主节点选举通过法定人数投票算法，确保集群高可用和一致性。
elasticsearch集群
fen_dou_shao_nian的博客
08-13 305
一、集群原理 https://www.elastic.co/guide/cn/elasticsearch/guide/current/index.html https://www.elastic.co/guide/cn/elasticsearch/guide/current/distributed-cluster.html elasticsearch 是天生支持集群的，他不需要依赖其他的服务发现和注册的组件，如 zookeeper 这些，因为他内置了一个名字叫 ZenDiscovery 的模块，是 elas
ElasticSearch 实战：elasticsearch.yml配置说明
qq_33240556的博客
04-02 1742
实际使用时，应根据具体的部署环境、硬件资源、业务需求等因素，参考 Elasticsearch 官方文档进行细致的配置。务必在修改配置后重启 Elasticsearch 服务，使新的配置生效。是 Elasticsearch 的主要配置文件，用于定义集群、节点、网络、数据存储、性能调整等多个方面的设置。开启后需要配置用户、角色、权限等。: 配置各种线程池的行为，如队列大小、拒绝策略等。: 配置 shard 分配策略，如节点负载均衡、副本分配偏好等。: 是否启用磁盘使用率阈值检查，防止因磁盘空间不足导致的问题。
ElasticSearch集群
baidu_32223873的博客
07-06 849
服务发现的触发时机：1、启动一个新节点。2、当一个节点认为主节点宕机节点启动时，会根据discovery.seed_hosts的配置+数据目录中保存的集群元数据来发现集群其他节点，向这些节点发送消息，这些节点收到后将自己是否是候选者、自己知道的候选者回复给发送者，如果没有主节点并且已发现足够多的候选者，则开始投票选主。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值