opentsdb+hbase+grafana

本文介绍HBase监控的具体方法,包括使用hbasemetrichbase.regionserver.metrics来监测表的读写QPS,通过hbase.regionserver.ipc.ProcessCallTime获取处理延迟的95th百分位,监控队列长度的方法为hbase.regionserver.ipc.queueSize,并提供了针对不同主机的监控方式。

hbase 监控
https://blog.bcmeng.com/post/hbase-monitor.html
http://www.54tianzhisheng.cn/2017/10/21/HBase-metrics/

grafana
1.表的读写qps
hbase metric hbase.regionserver.regions.readRequestCount/writeRequestCount
Filters table = iliteral_or(tab1|tab2|tab3) , groupBy = true
2.处理延时
hbase metric
hbase.regionserver.ipc.ProcessCallTime/get/scan…._95th_percentile
tags host=* port=*

http://komi.leanote.com/post/Call-queue-is-full-on-too-many-items-queued
3.队列
hbase.regionserver.ipc.queueSize
tags host=* port=*

4.不同主机方式
Filters host = regexp(tuijian*) , groupBy = true
tags host=* port=*

在风电采集项目中,搭建Flink-Kafka-OpenTSDB-Grafana集成系统需要考虑数据的实时采集、高效处理、稳定存储以及直观可视化。首先,需要了解各个组件的基本功能和它们之间的数据流向。Flume负责数据采集,Kafka作为消息队列中心化处理数据流,Flink进行实时计算,并将结果存储于OpenTSDB,最后Grafana实现数据的可视化。 参考资源链接:[风电实时采集项目:Flink-Kafka-Opentsdb集成部署实战](https://wenku.youkuaiyun.com/doc/646574c75928463033ce12b6?spm=1055.2569.3001.10343) 具体步骤如下: 1. **Flume配置**:在Flume的配置文件中定义source、channel和sink。Source从各个风电场的数据采集点获取数据,channel作为内存队列暂存数据,sink将数据写入Kafka。 2. **Kafka集群搭建**:安装并配置Kafka集群,设置合适的topic来接收来自Flume的数据。同时配置Kafka与Flink的连接参数,确保Flink作业可以顺利读取数据。 3. **Flink集群配置**:配置Flink集群,包括session cluster或jobmanager和taskmanager的设置。在Flink作业中配置Kafka的source function,读取Kafka中的数据,并设置相应的窗口、转换操作进行实时计算。 4. **OpenTSDBHBase集成**:确保HBase集群正常运行,并配置OpenTSDBHBase的连接,以便Flink可以将处理后的数据写入OpenTSDB。 5. **Grafana可视化配置**:在Grafana中配置OpenTSDB为数据源,创建仪表板,设计并展示实时风电数据的可视化图表。 在整个集成过程中,需要保证集群内各节点的时间同步,以及网络通信的稳定性和安全性。此外,合理设置各组件的配置文件和参数是确保系统稳定运行的关键。 如果你希望深入了解集成部署的更多细节,我推荐你阅读《风电实时采集项目:Flink-Kafka-OpenTSDB集成部署实战》这本书。它详细介绍了整个系统的搭建过程,包括数据采集、处理、存储和可视化,适合想要全面掌握风电项目实时数据处理和可视化技术的读者。 参考资源链接:[风电实时采集项目:Flink-Kafka-Opentsdb集成部署实战](https://wenku.youkuaiyun.com/doc/646574c75928463033ce12b6?spm=1055.2569.3001.10343)
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值