部署Promethuse监控Hadoop节点

目标

Hadoop本身是对相当数量的指标(metrics)进行实时监控的。但是Hadoop本身并不提供方便快捷的方式进行实时查询。如果你和我一样想要实时监测Hadoop节点的相关指标(比如namenode和datanode的性能),那么本文档可能会适合你。
前提条件,你已经部署好了一个HDFS集群。

安装

在官网上下载最近稳定发行版本并解压

wget https://github.com/prometheus/prometheus/releases/download/v2.46.0/prometheus-2.46.0.linux-amd64.tar.gz
tar -zxvf prometheus-2.46.0.linux-amd64.tar.gz 
mv prometheus-2.46.0.linux-amd64 prometheus

进入目录下,查看默认的配置文件promethues.yml

promethues自己会监控自己的一些指标,我们可以直接执行./promthues启动,然后在web查看9090端口

将hadoop的jmx信息采集到指定端口

我们发现promethues只能处理KV形式的metrics,所以如果我们想要监控Hadoop的性能,必须对Hadoop的指标监控进行预处理。已经存在开源工具帮助我们做这一步,笔者本文使用的是JMX Exporter,但是刚发现了更契合的工具hadoop_exporter,感兴趣的自行搜索。
下载JMX Exporter

wget https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prom
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值