prometheus获取的HDFS重要指标（不定时更新）

最新推荐文章于 2024-07-22 04:01:13 发布
最新推荐文章于 2024-07-22 04:01:13 发布
阅读量1.6k 收藏 2
点赞数 1
CC 4.0 BY-SA版权
文章标签： hdfs prometheus hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_44328192/article/details/127106731
本文详细解读了Hadoop进程中的JVM监控参数，包括内存使用、线程状态，以及NameNode和DataNode的监控指标，如文件数量、磁盘使用、线程等待等，帮助理解并优化集群性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

在这里插入图片描述

一、进程JVM监控

参数解释
Hadoop_DataNode_MemHeapUsedM和Hadoop_NameNode_MemHeapUsedM堆内存使用监控，通过监控改参数可以查看进程的gc时间和gc发生之后释放多少内存和进程的内存使用情况
Hadoop_DataNode_ThreadsBlocked和Hadoop_NameNode_ThreadsBlocked线程阻塞数量，问题发生时线程的阻塞状况
jvm_threads_currentjvm进程的当前启动的线程数
Hadoop_DataNode_ThreadsWaiting和Hadoop_NameNode_ThreadsWaiting线程等待数量，问题发生时线程的等待状况
Hadoop_DataNode_ThreadsTimedWaiting和Hadoop_Name_ThreadsTimedWaiting线程超时等待数量，问题发生时线程的超时等待状况
Hadoop_DataNode_ThreadsRunnable和Hadoop_NameNode_ThreadsRunnable线程运行数量
Hadoop_DataNode_ThreadsTerminated和Hadoop_NameNode_ThreadsTerminated线程终止运行数量

二、NameNode监控指标

参数解释
Hadoop_NameNode_TotalFiles监控和预警文件数的总量，可以通过其看出是否有任务突然大量写文件和删除大量文件
Hadoop_NameNode_TotalBlocks表示集群的block数量，作用同上
Hadoop_NameNode_PercentUsed监控集群的hdfs的使用情况，使用率不宜太高，因为需要预留磁盘空间给任务计算使用
Hadoop_NameNode_BlockPoolUsedSpace可以监控不同namespace的hdfs的使用情况
Hadoop_NameNode_Total显示集群整体容量情况
Hadoop_NameNode_Used集群hdfs已使用的容量大小
Hadoop_NameNode_NumLiveDataNodes存活的DataNode数量
Hadoop_NameNode_NumDeadDataNodes丢失的DataNode数量。丢失节点，如果过多可能会引起丢块
Hadoop_NameNode_VolumeFailuresTotal坏盘的数量，应该设定阀值，达到一定数量时处理
Hadoop_NameNode_MissingBlocks丢失的block数量，丢失重要的块会引起任务报错

三、DataNode监控指标

参数解释
Hadoop_DataNode_ReadBlockOpAvgTime读取block的平均时间，如果该机器在某个时段平均时间突然升高，可能网络有打满或磁盘读取速度存在问题
Hadoop_DataNode_WriteBlockOpAvgTime写数据块的平均时间
yi个达不刘
关注
HBase与Prometheus：监控指标收集存储
AI天才研究院
05-04 635
在当今的分布式系统和云计算环境中，监控指标的收集和存储至关重要。它可以帮助运维人员实时了解系统的运行状态，及时发现并解决潜在的问题，保障系统的稳定性和可靠性。本文章的目的在于深入探讨HBase和Prometheus在监控指标收集存储方面的应用，分析它们的优缺点、适用场景以及如何结合使用。范围涵盖了HBase和Prometheus的核心概念、算法原理、实际应用案例以及相关工具和资源的推荐。本文将按照以下结构进行阐述：首先介绍HBase和Prometheus的核心概念与联系，包括它们的架构和工作原理；
大数据领域 HDFS 数据质量监控与管理
最新发布
大数据洞察的博客
05-14 770
随着大数据技术的广泛应用，HDFS作为Hadoop生态系统的核心存储组件，承载着企业关键数据的存储任务。然而，数据量的爆炸式增长使得数据质量问题日益突出。HDFS数据质量的核心指标定义数据质量监控的技术实现方案数据质量问题的检测与修复方法生产环境中的最佳实践首先介绍HDFS基础和数据质量概念深入分析数据质量监控的核心技术通过数学模型和算法原理揭示底层机制展示完整的项目实现案例讨论实际应用场景和工具推荐最后总结发展趋势和挑战HDFS。
HDFS监控方法以及核心指标
李姓门徒
01-11 2296
整理日常工作中hdfs的监控方法和监控项，梳理核心指标
【Hadoop_exporter】prometheus监控hadoop
BIG BOSS的博客
01-30 5497
下载jmx_prometheus_javaagent-0.15.0.jar https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.15.0/ 写需要监控的角色专属yaml namenode.yaml startDelaySeconds: 0 #master为本机IP（一般可设置为localhost）；1234为想设置的jmx端口 hostPort: localhost:1234 #jmxUrl: servi
prometheus监控概述
02-23
监控系统在这里特指对数据中心的监控，主要针对数据中心内的硬件和软件进行监控和告警。企业的IT架构逐步从传统的物理服务器，迁移到以虚拟机为主导的IaaS云。无论基础架构如何调整，都离不开监控系统的支持。不仅如此。越来越复杂的数据中心环境对监控系统提出了更越来越高的要求：需要监控不同的对象，例如容器，分布式存储，SDN网络，分布式系统。各种应用程序等，种类繁多，还需要采集和存储大量的监控数据，例如每天数TB数据的采集汇总。以及基于这些监控数据的智能分析，告警及预警等。在每个企业的数据中心内，或多或少都会使用一些开源或者商业的监控系统。从监控对象的角度来看，可以将监控分为网络监控，存储监控，服务器监
prometheus监控hadoop
Magic_Music的博客
08-12 3343
prometheus监控hadoop
获取hdfs_生产大数据集群资源监控HDFS指标获取(含code)
weixin_39715513的博客
01-12 543
本篇文章接着上篇内容继续，地址：生产大数据集群资源监控--指标获取(含code)在获取了对应的IDC机器自身的指标之后，还需要对Hadoop集群中HDFS和YARN的指标进行采集，大体思路上可以有2种：第一种当然还是可以延用CM API去获取，因为CM中的tssql提供了非常丰富的各种指标监控。第二种即通过jmx去获取数据，其实就是通过访问上述这些相关的URL，然后将得到的json进行解...
快速导出Hadoop HDFS统计信息至Prometheus监控系统
这意味着用户无法通过Prometheus获取最新的HDFS性能指标和统计数据。尽管如此，对于需要长期趋势分析和检测HDFS集群潜在问题的场景，这种定时更新的数据通常是足够的。 Hadoop HDFS FSImage Exporter的标签包括...
【HDFS热备不求人】：datanode快速恢复与故障应对策略
![【HDFS热备不求人】：datanode快速恢复与故障应对策略](https://img-blog.csdnimg.cn/2018112818021273.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9...本章将从HDFS的
【HDFS故障诊断与恢复】：快速恢复HDFS集群的秘诀
![【HDFS故障诊断与恢复】：...然而，HDFS作为分布式系统的一部分，不可避免地会遇到各种故障问题，无论是由硬件故障、软件bug、网络问题还是用户错误操作引发的。在本章中，我们将概述故障诊断与恢复的重要性，并简
hadoop-hdfs-fsimage-exporter：将Hadoop HDFS内容统计信息导出到Prometheus
02-03
Prometheus Hadoop HDFS FSImage导出器 | 将Hadoop HDFS统计信息导出到包括 总数/每个用户/每个组/每个配置的目录路径/每个路径集 目录数 文件数 文件大小和大小分布（可选） 块数 文件复制（总体/每个用户摘要） 导出器使用解析FSImage。 这种方法的优点是 快速（2.6 GB FSImage〜50s） 不会给HDFS NameNode增加额外的负担（没有NameNode查询，您可以在第二个NameNode上运行它） 缺点是 没有实时更新，仅在NameNode写入FSImage时每6小时更新一次。 但是对于大多数情况（长期趋势，检测HDF
HDFS核心指标
zhinengyunwei的博客
01-19 1380
作者：焦振清 时间：2018-06-26 基于Google的监控方案，将ES监控归为两大类五个子类，分别是黑盒监控和白盒监控（四个黄金指标），详情可以参考书籍《SRE Google运维解密》第53页 黑盒监控 功能监控 白盒监控 错误 MissingBlocks（坏块） NumDeadDataNodes（故障节点） CorruptBlocks UnderReplicatedBlocks ...
部署Promethuse监控Hadoop节点
qq_44643155的博客
08-05 1153
以datanode为例，datanode运行期间的日志会写在/usr/local/hadoop/logs/hadoop-root-datanodex.log中，如果启动datanode进程失败，失败原因在log中也没有记录的话，可以查看/usr/local/hadoop/logs/hadoop-root-datanodex.out.x文件，可能会有帮助。已经存在开源工具帮助我们做这一步，笔者本文使用的是JMX Exporter，但是刚发现了更契合的工具hadoop_exporter，感兴趣的自行搜索。
HDFS & Yarn 即Hadoop by Jmx on Promethues + Grafana的监控（二） —— Promethues数据源配置
weixin_44500374的博客
01-22 2136
注意：如果还未安装Promethues，参考HDFS & Yarn on Promethues + Grafana的监控（一） —— Promethues的安装 一、配置Promethues的数据源 1、下载jmx_prometheus_javaagent-0.13.0.jar包： wget https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.13.0/jmx_prometheus_java
Prometheus 监控 Hadoop3（docker）部署
桃李不言的博客
05-18 1910
普罗米修斯是一款非常有前景也十分便利的运维监控软件，Prometheus+Grafana 可以实现非常美观的运维监控画面，并且部署起来也非常简单。 1.下载安装Prometheus和Grafana prometheus官网下载：prometheus 和node_exporter组件 https://prometheus.io/download/ 下载好以后解压就行 Grafana下载安装： https://grafana.com/grafana/download sudo apt-get i
监控建设03 prometheus搭建
hadoopp的博客
09-06 198
1、创建监控程序目录 [root@bigdata3 opt]# mkdir /opt/monitor 2、导入软件 [root@bigdata3 monitor]# ll 总用量 321032 -rw-r--r--. 1 root root 23631797 7月 3 2019 alertmanager-0.17.0.linux-amd64.tar.gz -rw-r--r--. 1 r...
[Hadoop] Hadoop集群一般需要关注的几个重要指标
weixin_34332905的博客
02-09 1365
原文来自hackershell,转载请注明出处 通用监控指标 对于每个RPC服务应该监控 RpcProcessingTimeAvgTime(PRC处理的平均时间) 通常hdfs在异常任务突发大量访问时，这个参数会突然变得很大，导致其他用户访问hdfs时，会感觉到卡顿，从而影响任务的执行时间 CallQueueLength(RPC Call...
prometheus+grafana 监控hadoop、yarn
mnasd的博客
01-29 5073
主要是以jmx_exporter、prometheus为主导进行对hadoop的metrics进行收集，通过grafana进行展示、预警。 1、安装jmx_exporter以及配置文件 1、通过https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.3.1/jmx_prometheus_javaage...
Hadoop重要监控指标
weixin_41432504的博客
07-22 319
在大数据领域，Hadoop已成为处理和存储海量数据的主要框架。作为一个分布式系统，Hadoop需要在多台机器上协调工作，以确保数据的高效处理和存储。因此，监控Hadoop集群的性能和健康状况至关重要。通过监控关键指标，管理员可以及时发现和解决问题，确保系统的稳定运行。本文将深入探讨Hadoop的重要监控指标，详细介绍每个指...
为什么prometheus获取不到exporter采集的指标
10-30
Prometheus 无法获取到 exporter 采集的指标可能是由以下几个原因造成的： 1. **配置错误**：确保 Prometheus 的配置文件 (`prometheus.yml`) 中已经添加了正确的目标 URL 和要收集的 exporter 的服务发现规则。例如，如果你正在使用 `node_exporter`，那么应该包含类似这样的配置项： ``` - job_name: 'node' scrape_interval: 15s static_configs: - targets: ['localhost:9100'] ``` 2. **Exporter 启动问题**：确认 exporter 已经成功启动，并且监听的端口与 Prometheus 配置中的目标相匹配。 3. **防火墙设置**：如果存在防火墙或其他网络安全策略，它可能会阻止 Prometheus 访问 exporter。 4. **服务不可达**：检查网络连接，如果 exporter 位于其他服务器上，确保它们之间可以互相通信。 5. **权限问题**：某些 exporter 可能需要特定的用户权限才能访问其提供的数据。 6. **数据传输问题**：如果 exporter 返回的数据格式或结构不符合 Prometheus 的期望，如 JSON 或文本格式错误，Prometheus 将无法解析。 7. **Prometheus 容错机制**：有时 Prometheus 会暂时停止收集数据，特别是在重启期间。等待一段时间后，如果没有立即恢复，可以尝试重启 Prometheus。 8. **Prometheus 日志检查**：查看 Prometheus 的日志记录，找出关于 exporter 目标采集失败的具体错误信息。 要解决这个问题，应首先定位问题所在，逐个排查上述可能性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值