hbase ganglia监控配置

HBase监控与管理:JMX与Ganglia 1.背景介绍 在大数据时代,HBase作为一种分布式、可扩展、支持大规模数据存储的NoSQL数据库,已经在许多大型互联网公司得到了广泛应用。然而,随着数据规模的不断扩大,如何有效地监控和管理HBase的运行状态,成为了我们面临的一大挑战。本文将介绍如何使用JMX和Ganglia两种工具,对HBase进行有效的监控和管理。 阅读详情

 

2015年06月09日 12:35:38 笃志近思 阅读数:3132

hbase ganglia 监控

hbase 配置

  1. hadoop-metrics2-hbase.properties
*.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31  
*.sink.ganglia.period=10  

hbase.sink.ganglia.period=10  
hbase.sink.ganglia.servers=239.2.11.71:8649


hbase.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31
hbase.period=10
hbase.servers==239.2.11.71:8649

jvm.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31
jvm.period=10
jvm.servers==239.2.11.71:8649

rpc.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31
rpc.period=10
rpc.servers==239.2.11.71:8649
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19

修改完配置后重启集群,就可以在ganglia中查看到相应监控信息了 
注意 : 
上面配置项中的IP地址为gmond.conf文件中mcast_join指定的IP地址:

/* Feel free to specify as many udp_send_channels as you like.  Gmond
   used to only support having a single channel */
udp_send_channel {
  #bind_hostname = yes # Highly recommended, soon to be default.
                       # This option tells gmond to use a source address
                       # that resolves to the machine's hostname.  Without
                       # this, the metrics may appear to come from any
                       # interface and the DNS names associated with
                       # those IPs will be used to create the RRDs.
  mcast_join = 239.2.11.71
  port = 8649
  ttl = 1
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13

效果图 ###

hbase监控项

hbase.regionserver.blockCacheCount :内存中缓存块(block cache)数。缓存中StoreFiles(HFiles)的块(block)数量。

hbase.regionserver.blockCacheEvictedCount :因超出堆大小限制,从缓存中释放的块数量。

hbase.regionserver.blockCacheFree: 可用的缓存块容量。

hbase.regionserver.blockCacheHitCachingRatio:缓存块的缓存命中率(0-100)。读取的缓存命中率被配置为查看缓存(如cacheblocks=true)。

hbase.regionserver.blockCacheHitCount :StoreFiles(HFiles) 从缓存中读取的块数量。

hbase.regionserver.blockCacheHitRatio:缓存块的命中率(0-100).包括所有读请求,尽管cacheBlocks=false 的读出会被计为cache丢失。

hbase.regionserver.blockCacheMissCount:被StoreFiles (HFiles)请求但是未从缓存中读出的块数量。

hbase.regionserver.blockCacheSize:内存中块缓存的容量,特指被blockcache占用的内存容量。

hbase.regionserver.compactionQueueSize :Compaction 队列大小,用于compaction的RegionServer中的Store个数。

hbase.regionserver.flushQueueSize :MemStore中等待flush操作的排队region数量。

hbase.regionserver.fsReadLatency_avg_time :文件系统延迟(ms)。从HDFS读操作的平均时间。

hbase.regionserver.memstoreSizeMB :当前RegionServer中所有Memstore的总容量(MB)。

hbase.regionserver.requests :总的读和写请求次数。请求相当于RegionServer的RPC调用,因此一个Get相当于一次请求,但是哪怕Scan的caching值设置为1000,对SCAN每个“下一次”调用仅相当于一次请求,(例如,非每行)。对于大数据块的请求,每个 HFile对应一次请求。

hbase.regionserver.storefileIndexSizeMB:RegionServer中 StoreFile文件索引大小的总和(MB)。

详细监控项可查看http://hbase.apache.org/book.html#rs_metrics

HBase总结(十七)Ganglia监控hadoop、hbase集群 1. 在主节点上安装ganglia-webfrontend和ganglia-monitor sudo apt-get install ganglia-webfrontend ganglia-monitor 复制代码 在主节点上安装ganglia-webfrontend和ganglia-monitor。在其他监视节点上,只需要安装ganglia-monitor即可 将ga 阅读详情

相关推荐

Ganglia资料集合

Ganglia3.4安装配置 Ganlia分布式集群监控系统安装手册 用Ganglia监控hadoop集群

ganglia java开发,linux下ganglia监控系统搭建(转)

Ganglia监控软件主要是用来监控系统性能的软件,如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等,通过曲线很容易见到每个节点的工作状态,对合理调整、分配系统资源,提高系统整体性能起到重要作用。支持浏览器方式访问,但 不能监控节点硬件技术指标,ganglia 是分布式的监控系统,有两个Daemon, 分别是:客户端Ganglia Monitoring Daemon (gmond)和...

weixin_31111107的博客 206

SAP成本计划BAPI接口BAPI_COSTACTPLN_POSTPRIMCOST深度解析与实战指南

在SAP ERP系统中,成本计划是财务与控制模块的核心功能,它涉及对企业未来成本支出的预测与规划。其原理是通过结构化数据模型,将成本要素分配到具体的成本对象上,以实现预算编制和成本控制。这一技术的核心价值在于实现成本数据的标准化、自动化处理,从而提升财务流程效率与数据准确性。在应用场景上,成本计划广泛应用于年度预算编制、项目成本预测、系统间数据集成以及历史数据迁移等关键业务环节。本文聚焦于实现上述流程自动化的关键技术——SAP标准接口BAPI_COSTACTPLN_POSTPRIMCOST,并深入探讨其在高

weixin_29657209的博客 350

Ganglia的安装与部署以及监控hbase

1.Ganglia了解 安装部署Ganglia之前我们要了解下Ganglia是什么 对于这个工具,大家可能比较陌生,但是它功能非常强大,如果我们想收集所有服务器、网络设备的数据,那么ganglia绝对是首选,在深入学习之前,还是先从基础概念了解起吧! Ganglia是一款为HPC(高性能计算)集群而设计的可扩展的分布式监控系统,它可以监视和显示集群中的节点的各种状态信息,它由运行在各个节点上的gmond守护进程来采集CPU 、内存、硬盘利用率、I/O负载、网络流量情况等方面的数据,然后汇总到gmeta

astudybear的博客 3813

数据分析(二):学生成绩预测分析报告

表1 特征变量描述变量描述school学生的学校sex学生的性别age学生的年龄address学生的家庭住址类型famsize家庭规模Pstatus父母同居状况Medu母亲的教育Fedu父亲的教育Mjob母亲的工作Fjob父亲的工作reason选择学校的理由guardian学生监护人traveltime从家到学校的时间studytime每周学习时间failures过去的类失败次数schoolsup额外的教育支持famsup家庭教育支持。

m0_73963149的博客 4417

macOS Monterey官方镜像高速下载指南(附迅雷链接+兼容性清单)

本文提供macOS Monterey官方镜像的高速下载指南,重点介绍利用迅雷等工具加速下载官方安装包的有效方法。同时,详细列出了系统兼容性清单,帮助用户在下载前确认设备支持,并分享了从下载、验证到安全安装的完整流程与常见问题解决方案。

j7k8l的博客 2200

ganglia安装和配置监控hadoop,hbase,spark

hadoop平台是原生态安装的,安装完各模块发现没有统一监控界面,经网上查询说ganglia是个不错的选择,开始在网上大量搜索关于如何用ganglia监控的资料,碰到各种报错,就是出不来想要的结果,拿就用最原始的方法,看沉下心来看官方文档,理解参数的意义,各种尝试组合,终于在3天下班的前一刻出来自己想要的结果,也许现在的理解还不是最准确的,但是为了以后更好的研究,暂时把自己安装的过程记录下来以便后

蘑菇丁的专栏 2450

禾赛PandarXT-16/阿努比LpmsIG1运行lio-sam

课题是多传感器融合,将GNSS/INS/LIDAR做融合定位导航,故考虑使用lio-sam开源算法,在此记录一下我在适配传感器数据时遇到的一些问题;

qq_44705939的博客 2966

ubuntu安装Ganglia监控Hadoop及Hbase集群性能(安装配置)

1 Ganglia简介 Ganglia 是 UC Berkeley 发起的一个开源监视项目,设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据(如处理器速度、内存使用量等)的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式,才使得 Ganglia 可以实现

雪夕阳 1496

使用ExcelJS向XLSX单元格居中插入图片

本文记录了使用ExcelJS库向XLSX单元格里居中写入图片的方法。本文内容包括:xlsx 文件格式;xlsx 图片定位的长度单位;使用nativeColOff和nativeRowOff进行定位,不要使用官网给的定位方式;添加图片到数据表的总体流程和样例代码;注意事项等。

weixin_43678000的博客 3459

手把手教你为STM32设备生成自定义MAC地址(基于芯片ID的5种算法对比)

本文详细介绍了基于STM32芯片ID生成自定义MAC地址的5种算法,包括直接截取、异或折叠、CRC32哈希、自定义混合运算及SHA-256摘要。通过对比分析各算法的计算复杂度、唯一性及适用场景,帮助嵌入式开发者根据项目规模与资源,选择最合适的方案,确保设备MAC地址的唯一性与合规性。

weixin_29170327的博客 528

Ganglia监控Hadoop及Hbase集群性能(安装配置)

Ganglia简介Ganglia 是 UC Berkeley 发起的一个开源监视项目,设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据(如处理器速度、内存使用量等)的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式,才使得 Ganglia 可以实现良好的扩展

xinxiangsui2008的专栏 1258

新手入门:N-CMAPSS数据集解析与实战指南

本文详细解析了N-CMAPSS数据集的结构与应用,为新手提供航空发动机故障预测的实战指南。通过Python代码示例展示数据加载、探索和特征工程技巧,帮助读者快速掌握剩余寿命(RUL)预测的关键步骤,并分享常见问题解决方案与进阶学习路径。

weixin_29056701的博客 378

ubuntu下配置Ganglia监控hadoop2.2与hbase0.96

                                配置Ganglia监控hadoop2.2与hbase0.96 OS: ubuntu12.04 LTS ganglia版本3.1.7 Hadoop版本2.2.0 Hbase 0.96 1 Ganglia的架构 Ganglia有3部分组成 1. gmond运行在每个节点上监视收集统计信息,同时可以收发统计信息,它可以运...

hdu05051124的专栏 216

【STM32项目】基于stm32智能鱼缸控制系统的设计与实现(完整工程资料源码)

随着现代化经济的快速发展,物质条件富足的人开始追求精神富足,越来越多的人通过饲养观赏鱼来充实生活、释放压力,但并非所有饲养者都有时间和经验来管理好鱼缸。一种由单片机控制,可实时检测和调节鱼缸环境,可把鱼缸环境实时反映给用户并能被用户远程操控的系统,可以解决养鱼成活率低、耗费时间和精力、参与感不强等诸多难题。

嵌入式技术开发 7355

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

wang-----Ganglia监控Hadoop及Hbase集群性能(安装配置)

文章来源:http://blog.youkuaiyun.com/haydenwang8287/article/details/44100651 1 Ganglia简介 Ganglia 是 UC Berkeley 发起的一个开源监视项目,设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据(如处理器速度、内存使用量等)的名为 gmond 的守护进程。它将从操作系统和指定主机

Thinking 867

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

CentOS下安装与配置Ganglia监控Hadoop集群及HBase

 问题导读: 1.什么是ganglia? 2.Ganglia有哪几个守护进程? 3.Gmond集群有哪几种配置方式? 4.为什么现在许多公司监控Hadoop集群几乎用的都是ganglia软件? 5.如何安装与配置ganglia软件? 6.如何在安装完成后配置Hadoop集群及HBase? 1.Ganglia是一套分布式指标收集和展示系统,专为高性能并

zhuzhenyang110的专栏 845

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

第十二章 Ganglia监控Hadoop及Hbase集群性能(安装配置)

1 Ganglia简介   Ganglia 是 UC Berkeley 发起的一个开源监视项目,设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据(如处理器速度、内存使用量等)的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式,才使得 Ganglia 可以实现...

weixin_34220963的博客 127

ganglia安装部署并实现监控Hadoop和Hbase

环境: centos6.10 hadoop-3.1.3 hbase-2.1.10 ganglia-6.8 节点: 主机名:IP地址 进程 myhbase:192.168.130.28(从) secondrynamenode datanode hregionserver xmhl :192.168.130.29(主) namenode datanode hmaster xmhl30:192.168.130.30 (从) datanode hregionserver Ganglia组

weixin_47303949的博客 361
上一篇: HBase启动和停止命令
下一篇: Ganglia的安装、配置、运行 解析详情
王树民
博客等级 码龄10年 912粉丝 560原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值