Elasticsearch 集群管理与监控 详解

原创 于 2025-08-20 04:15:48 发布 · 1k 阅读 · 21 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#elasticsearch #集群管理 #集群监控 #学习

Elasticsearch 集群管理与监控 是保障系统高可用、性能稳定、数据安全的核心能力。本文将为你提供一份 全面、可落地的集群管理与监控详解，涵盖节点角色分配、健康状态解读、监控方案与备份恢复机制。

一、节点角色分配（Node Roles）

Elasticsearch 从 7.0 开始采用 显式角色划分，避免“全能节点”带来的资源竞争和故障风险。

1. 核心节点角色

角色配置项说明
Master-Eligiblenode.roles: [master]参与主节点选举，管理集群状态
Data Nodenode.roles: [data]存储分片，执行 CRUD、聚合等操作
Ingest Nodenode.roles: [ingest]执行 pipeline 预处理数据（如 grok 解析）
Coordinating Only无角色（默认）仅协调请求，不存储数据
Remote Clientnode.roles: [remote_cluster_client]用于跨集群搜索

✅ 一个节点可拥有多个角色，但生产环境建议 角色分离。

2. 推荐部署架构（生产环境）

节点类型数量配置建议说明
Master-Eligible316GB RAM, 4CPU, SSD奇数个，避免脑裂
Data NodeN64GB+ RAM, 多核 CPU, 大容量磁盘存储主/副本分片
Ingest NodeK32GB RAM, 高 CPU执行日志解析等预处理
Coordinating OnlyM16GB RAM, 低磁盘接收客户端请求，负载均衡

✅ 示例：

  • es-master-01：node.roles: [master]
  • es-data-01：node.roles: [data]
  • es-ingest-01：node.roles: [ingest]

3. 配置示例（elasticsearch.yml）

# es-master-01
node.name: es-master-01
node.roles: [ master ]
discovery.seed_hosts: ["es-master-01", "es-master-02", "es-master-03"]
cluster.initial_master_nodes: ["es-master-01", "es-master-02", "es-master-03"]

# es-data-01
node.name: es-data-01
node.roles: [ data ]
discovery.seed_hosts: ["es-master-01", "es-master-02", "es-master-03"]

二、集群健康状态解读（GET _cluster/health）

通过 GET /_cluster/health 查看集群整体状态。

1. 返回示例

{
  "cluster_name": "my-cluster",
  "status": "green",
  "timed_out": false,
  "number_of_nodes": 5,
  "number_of_data_nodes": 3,
  "active_primary_shards": 10,
  "active_shards": 20,
  "relocating_shards": 0,
  "initializing_shards": 0,
  "unassigned_shards": 0
}

2. 关键字段说明

字段说明
status集群健康状态（green/yellow/red）
number_of_nodes在线节点数
number_of_data_nodes数据节点数
active_primary_shards主分片正常分配数量
active_shards主 + 副本分片总数
unassigned_shards未分配分片数（>0 表示异常）
relocating_shards正在迁移的分片数
initializing_shards正在初始化的分片数

3. 健康状态含义

状态说明是否可用
🟢 green所有主分片和副本都正常分配✅ 完全正常
🟡 yellow主分片正常，副本未全部分配⚠️ 可用，但无高可用
🔴 red有主分片未分配，部分数据不可用❌ 部分数据不可访问

✅ 生产环境应尽量保持 green。

三、集群监控方案

方案 1：Kibana Monitoring（推荐用于快速上手）

Kibana 内置的 Stack Monitoring 模块，可直接监控：

  • 集群健康、节点负载、索引性能；
  • JVM 内存、GC、线程池；
  • 分片分布、磁盘使用率。
启用方式
# kibana.yml
xpack.monitoring.enabled: true
xpack.monitoring.elasticsearch.hosts: ["http://es-node1:9200"]

访问 Kibana → Stack Monitoring → 查看图表。

方案 2：Prometheus + Grafana（推荐用于生产）

使用 Elasticsearch Exporter 将指标暴露给 Prometheus。

1. 部署 Exporter
docker run -d \
  -p 9114:9114 \
  quay.io/justwatch/elasticsearch_exporter:latest \
  --es.uri=http://es-node1:9200
2. Prometheus 配置
scrape_configs:
  - job_name: 'elasticsearch'
    static_configs:
      - targets: ['localhost:9114']
3. Grafana 看板

导入官方看板：

  • Elasticsearch Dashboard（ID: 2322）
  • 关键面板：
    • 集群健康状态
    • 节点 CPU / 内存 / 磁盘
    • 索引吞吐（indexing rate）
    • 查询延迟（query latency）
    • 分片未分配告警

4. 关键监控指标

指标说明
elasticsearch_cluster_health_status0=red, 1=yellow, 2=green
elasticsearch_nodes_jvm_memory_used_percentJVM 内存使用率
elasticsearch_thread_pool_write_rejected写入拒绝数
elasticsearch_indices_search_query_time_seconds查询延迟
elasticsearch_indices_store_size_bytes索引大小
elasticsearch_shard_state{state="UNASSIGNED"}未分配分片

四、备份与恢复：Snapshot & Restore API

1. 创建快照仓库（Snapshot Repository）

快照存储在共享文件系统或云存储中。

示例：S3 仓库
PUT /_snapshot/my_backup
{
  "type": "s3",
  "settings": {
    "bucket": "es-snapshots-prod",
    "region": "us-west-1",
    "access_key": "AKIA...",
    "secret_key": "..."
  }
}
其他类型：
  • fs：本地共享存储（NFS）
  • gcs：Google Cloud Storage
  • azure：Azure Blob Storage

✅ 仓库只需创建一次。

2. 创建快照（Backup）

全量备份
PUT /_snapshot/my_backup/snapshot-2024-06-01?wait_for_completion=true
指定索引备份
PUT /_snapshot/my_backup/snapshot-logs
{
  "indices": "logs-*",
  "include_global_state": false
}

wait_for_completion=true 表示同步等待完成。

3. 查看快照状态

GET /_snapshot/my_backup/_all
GET /_snapshot/my_backup/snapshot-2024-06-01

4. 恢复快照（Restore）

恢复全部索引
POST /_snapshot/my_backup/snapshot-2024-06-01/_restore
恢复指定索引并重命名
POST /_snapshot/my_backup/snapshot-2024-06-01/_restore
{
  "indices": "logs-2024-05-*",
  "rename_pattern": "logs-(.+)",
  "rename_replacement": "restored-logs-$1"
}

⚠️ 恢复前确保目标索引不存在或已关闭。

5. 自动化备份（ILM + Scheduled Job）

使用 Curator 或定时脚本：

# 每天凌晨备份
0 2 * * * curl -X PUT "http://localhost:9200/_snapshot/my_backup/daily-$(date +\%Y-\%m-\%d)"

或使用 Elastic Agent + Fleet 实现自动化运维。

五、最佳实践 checklist ✅

项目建议
节点角色生产环境分离 master/data/ingest
主节点数3 或 5，奇数
集群健康监控 unassigned_shards
监控方案Prometheus + Grafana（生产）
快照仓库使用 S3/OSS 等持久化存储
备份频率每日一次，保留 7~30 天
恢复演练每季度执行一次灾备恢复测试
elasticsearch集群监控插件
08-29
bigdesk是elasticsearch集群的监控插件，可以监控集群里的CPU，内存，HTTTP连接数
Elasticsearch 集群运维常用命令详解
最新发布
lixinkuan的博客
06-04 859
如下图 1 所示，当我们通过 Client 对集群执行写入操作时，请求首先到达的节点 1 被称为协调节点，协调节点 1 根据请求信息计算出主分片所在节点 3，并将请求转发至该节点 3，节点 3 在主分片写入成功后，再同步将请求转发至副本分片所在的节点 1 和 2，待副本分片所在节点都写入成功后，节点 3 返回请求给协调节点 1，协调节点 1 再返回写入成功信息给 Client。那么针对这种情况，如果客户能够接收丢失一个分片数据，则可以通过如下 API 来分片一个空数据的主分片，以让集群恢复 green。
Elasticsearch 监控 Elasticsearch 集群
爱死亡机器人
03-12 570
文章目录1. Elasticsearch Stats 相关的 API2. Elasticsearch Task API3. The Index & Query Slow Log4. 如何创建监控 Dashboard5. demo 1. Elasticsearch Stats 相关的 API Elasticsearch 提供了多个监控相关的 API Node Stats： _nodes/stats Cluster Stats: _cluster/stats Index Stats: index_n
ElasticSearch 集群信息监控
http://www.54tianzhisheng.cn/
10-15 2205
最近在做 ElasticSearch 的信息（集群和节点）监控，特此稍微整理下学到的东西。这篇文章主要介绍集群的监控。 要监控哪些 ElasticSearch metricsElasticsearch 提供了大量的 Metric，可以帮助您检测到问题的迹象，在遇到节点不可用、out-of-memory、long garbage collection times 的时候采取相应措施。但是指标太多了，
Elasticsearch(ES)集群监控
龚帅立的博客
07-17 1083
Elasticsearch(ES)集群监控
ElasticSearch监控集群状态
jsugs的博客
05-17 2141
注： 部分概念介绍来源于网络 Elasticsearch集群监控状态指标分三个级别 集群级别：集群级别的监控主要是针对整个Elasticsearch集群来说，包括集群的健康状况、集群的状态等。 节点级别：节点级别的监控主要是针对每个Elasticsearch实例的监控，其中包括每个实例的查询索引指标和物理资源使用指标。 索引级别：索引级别的监控主要是针对每个索引来说，主要包括每个索引的性能指标。 一、集群级别 1.1...
ElasticSearch集群管理与监控工具ElasticHQ详解
随着 ElasticSearch 集群规模的不断扩大，其运维复杂度也显著上升，如何高效地进行集群管理、性能监控、索引操作和查询调试成为运维人员与开发人员面临的重要挑战。为此，社区中涌现出许多辅助工具，其中 **...
【ES专题】ElasticSearch集群架构剖析_es集群
2401_84159688的博客
04-28 1379
诸如。
Linux Docker 部署 Elasticsearch (ES) 集群详解教程
广阔天地，大有作为
10-31 1664
Elasticsearch 集群是一种分布式架构，通过水平扩展节点来提升系统的容量和性能。在生产环境中，通常会通过独立的配置文件来指定节点角色，确保 Master 节点和 Data 节点的职责明确。无论是单节点还是集群部署，Docker 都能提供一致的运行环境，极大地提高了灵活性和可维护性。该配置文件定义了 3 个 Elasticsearch 节点，它们组成一个集群，每个节点都将数据存储在独立的卷上。在生产环境中，确保集群健康是非常重要的，可以通过设置警报和自动化监控来及时检测和修复问题。
Elasticsearch集群搭建与配置详解
本文档详细介绍了如何安装和配置Elasticsearch集群，特别是针对Elasticsearch 6.8.0版本。...这对于理解和操作Elasticsearch集群环境非常实用，尤其对于初学者和系统管理员来说是一份宝贵的参考资料。
ElasticSearch如何监控集群状态？
qq_33240556的博客
02-02 665
总之，为了全面监控Elasticsearch集群状态，应结合使用原生API、官方及第三方可视化工具，并针对特定需求配置适当的监控项和报警机制。监控Elasticsearch集群状态是确保其健康运行和性能优化的重要环节。
Elasticsearch 集群管理与监控
Flying_Fish_roe的博客
12-14 943
在 Elasticsearch 中，集群（Cluster）是由一组相互协作的节点（Node）组成的系统。集群用于分布式存储和搜索数据，提供了横向扩展和高可用性。一个集群可以包括多个节点，这些节点通过协作处理索引操作、查询请求以及数据分片的分配等任务。每个集群都有一个唯一的名称，节点通过集群名称互相识别。横向扩展：可以通过添加更多节点来扩展存储和计算能力。高可用性：即使部分节点或硬件出现故障，集群仍然可以继续工作，保证数据的持久性和服务的可用性。
【ElasticSearch】ES集群搭建、监控、故障转移
llg___的博客
07-13 2837
海量数据存储问题单点故障问题因此，考虑使用ES集群：海量数据存储问题：将索引库从逻辑上拆分为N个分片（shard），存储到多个节点。如此，ES的存储能力就是所有节点存储能力的总和单点故障问题：将分片数据在不同的节点备份（replica），即主分片和副本分片不能在同一个节点。
【Elasticsearch监控】集群查看
qq_44849679的博客
02-22 2299
这个API返回基本的索引指标(分片数、存储大小、内存使用情况)和关于当前集群节点的信息(数量、角色、操作系统、jvm版本、内存使用情况、cpu和已安装的插件)。例如，任务管理、节点状态和节点信息都可以报告一组经过筛选的节点的结果，而不是所有节点的结果。响应提供集群名称、集群状态的总压缩大小(序列化以便在网络上传输时的大小)和集群状态本身，可以对其进行筛选，以只检索感兴趣的部分。返回的统计信息是在索引级别聚合的，包含初选和总聚合，其中初选仅是主分片的值，而total是主分片和复制分片的累计值。
如何监控Elasticsearch集群状态？
java1234的博客
11-27 1274
如何监控Elasticsearch集群状态？
如何监控 Elasticsearch 集群状态？
m0_67266585的博客
04-12 1464
Marvel 让你可以很简单的通过 Kibana 监控 Elasticsearch。你可以实时查看你的集群健康状态和性能，也可以分析过去的集群、索引和节点指标。
elasticsearch宝典（1）-常用集群状态监控查询
chy2z的专栏
07-07 931
软件环境 elasticsearch 6.2.4 推荐集群监控工具： Cerebro Elasticsearch elasticsearch-head 集群健康状态 _cat/health http://127.0.0.1:9200/_cat/health?v 过滤属性h=status,shards http://127.0.0.1:9200/_cat/health...
ES（六）| ES集群搭建、使用cerebro来监控ES集群状态
慌途L
08-25 1405
ES（六）| ES集群搭建、使用cerebro来监控ES集群状态
ElasticSearch监控与告警：实时监控集群健康状态
AI天才研究院
01-28 1776
1.背景介绍 1. 背景介绍 ElasticSearch是一个开源的搜索和分析引擎，它可以为应用程序提供实时的、可扩展的搜索功能。ElasticSearch是一个分布式系统，它可以在多个节点上运行，以实现高可用性和高性能。在生产环境中，监控和告警是关键的，以确保集群的健康状态和性能。 在本文中，我们将讨论ElasticSearch监控和告警的核心概念、算法原理、最佳实践和应用场景。我们还将提...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值