Kafka Eagle监控组件

【kafka】Kafka 可视化工具Kafka Eagle安装和使用 一、背景 Kafka产线环境需要管理的Topic和Consumser越来越多,使用命令行工具进行管理会非常繁杂。因此,大数据平台上需要一套Kafka的管理监控系统,Kafka-Eagle。 Kafka Eagle是一个用于监控和管理kafka的开源组件,可以同时监控多个kafka集群。 Kafka Eagle提供了完善的监控页面和kafka常用操作的管理界面,便于管理员对kafka集群进行运维管理。 Kafka Eagle提供了KSQL操作的可视化界面,让你可以非常快速的查看kafka中的消息。 K 阅读详情

历史发布版本
v1.4.5

1. 解压安装包(两次解压,最终目录结构如下)
 [root@bigdata131:kafka-eagle-web-1.4.5]# ls
 bin  conf  db  font  kms  logs
 [root@bigdata131:kafka-eagle-web-1.4.5]# pwd
 /usr/local/kafka-eagle-web-1.4.5
2. 修改相关配置文件
 vim bin/kafka-server-start.sh
 # 修改heap内容开启JMX
 # 将这一行进行修改:export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"
 export KAFKA_HEAP_OPTS="-server -Xmx1G -Xms1G -XX:PermSize=128m -XX:+UseG1GC 
 -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=5 
 -XX:InitiatingHeapOccupancyPercent=70"
 export JMX_PORT="9999"
 # 如果是集群需要所有机器都分发相同的配置

 # 配置eagle根目录到环境变量中
 vi /etc/profile
 export KE_HOME=/usr/local/kafka-eagle-web-1.4.5
 export PATH=$KE_HOME/bin:$JAVA_HOME/bin:$PATH
 cd /etc
 source profile

 # 给启动脚本添加执行文件授权
 cd /usr/local/kafka-eagle-web-1.4.5/bin
 chmod 777 ke.sh

 # eagle系统的配置,eagel可以监控多套kafka集群
 cd /usr/local/kafka-eagle-web-1.4.5/conf
 vi system-config.properties
 # 设置对应的参数
 # 可以配置多个集群,这里只配置一套
 kafka.eagle.zk.cluster.alias=cluster1
 cluster1.zk.list=127.0.0.1:2181,......
 # 显示的broker数量
 cluster1.kafka.eagle.broker.size=20
 # zookeeper客户端线程数
 kafka.zk.limit.size=25
 # eagle端口
 kafka.eagle.webui.port=8048
 # 消费的offset保存位置
 cluster1.kafka.eagle.offset.storage=kafka
 # 是否开启图表并保持30天内容
 kafka.eagle.metrics.charts=true
 kafka.eagle.metrics.retain=30
 # KSQL的查询显示条数
 kafka.eagle.sql.topic.records.max=5000
 # 是否自动fix error
 kafka.eagle.sql.fix.error=false
 # 从界面删除topic的token密码
 kafka.eagle.topic.token=keadmin

 # ================配置元信息数据库(根据需要选择一个即可)====================
 ######################################
 # kafka sqlite jdbc driver address
 ######################################
 kafka.eagle.driver=org.sqlite.JDBC
 # 注意/home/kafka-eagle-web-1.4.5/db/ke.db路径是否具有响应权限
 kafka.eagle.url=jdbc:sqlite:/home/kafka-eagle-web-1.4.5/db/ke.db
 kafka.eagle.username=root
 kafka.eagle.password=root

 ######################################
 # kafka mysql jdbc driver address
 ######################################
 kafka.eagle.driver=com.mysql.jdbc.Driver
 # 注意数据库要提前建好
 kafka.eagle.url=jdbc:mysql://127.0.0.1:3306/kafka_eagle?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
 #连接数据库的用户名和密码
 kafka.eagle.username=kafka
 kafka.eagle.password=123456

 # 注意数据库如果不在一个设备上需要提前授权
 # 创建一个新的数据库:
 create database kafka_eagle;
 # 创建一个新的用户:
 create user 'kafka'@'%' identified by '123456';
 # 给该用户授权
 grant all on kafka_eagle.* TO 'kafka'@'%' identified by '123456';
 # 刷新权限
 flush privileges;	
3. 启动服务
 [root@bigdata131:bin]# ke.sh start
 [2020-04-07 15:54:24] INFO: Starting  kafka eagle environment check ...
 ......
 Welcome to
    __ __    ___     ____    __ __    ___            ______    ___    ______    __     ______
   / //_/   /   |   / __/   / //_/   /   |          / ____/   /   |  / ____/   / /    / ____/
  / ,<     / /| |  / /_    / ,<     / /| |         / __/     / /| | / / __    / /    / __/   
 / /| |   / ___ | / __/   / /| |   / ___ |        / /___    / ___ |/ /_/ /   / /___ / /___   
/_/ |_|  /_/  |_|/_/     /_/ |_|  /_/  |_|       /_____/   /_/  |_|\____/   /_____//_____/   
                                                                                             

Version 1.4.5 -- Copyright 2016-2020
*******************************************************************
* Kafka Eagle Service has started success.
# 访问地址
* Welcome, Now you can visit 'http://192.168.137.131:8048/ke'
# 初始化密码
* Account:admin ,Password:123456					

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

select * from "electrocar" where "partition" in (7,8,9) limit 10 

在这里插入图片描述
在这里插入图片描述

如果出现刷新topic list列表弹窗或者无法通过界面删除topic的现象,
退出当前用户,删除页面cookie信息,重启Eagle服务,再重新登录即可
【Kafka】Kafka-Eagle 和 Kafka-UI 的安装使用 Kafka Eagle 提供了完善的管理页面,可以监控 Kafka 集群的整体运行情况,很方便的去管理和可视化 Kafka 集群的一些信息,例如 Broker 详情、性能指标趋势、Topic 集合、消费者信息等,在生产环境中经常使用。 阅读详情

相关推荐

安装kafka、eagle监控、avro注册表

1.安装kafka 1.1 安装环境 CenterOS、JDK-1.8、依赖zookpeer集群 1.2 下载kafka #切换存放路径 cd /home #下载 curl -o https://dlcdn.apache.org/kafka/3.0.0/kafka_2.13-3.0.0.tgz #解压 tar -xzf kafka_2.13-3.0.0.tgz 1.3 设置kafka、zookpeer集群机器hostname和hosts #集群内每台机器都需要进行该操作 #================

qq_19291205的博客 301

上手第一关,手把手教你安装kafka与可视化工具kafka-eagle

在本篇技术博文中,我们详细地教你如何安装kafka,还有它的可视化工具,中间也列举了一些异常以及它的处理方式,真正做到了手把手教学。那么安装教学就告一段落。在后面的学习中,我们将讲解他们的使用及运行原理,希望同学们能喜欢。

战斧的博客 1万+

Kafka管理工具Kafka Eagle:简化您的数据流

总结起来,Kafka Eagle是一个强大的Kafka管理工具,提供了直观易用的界面和丰富的功能,能够帮助您简化Kafka集群的管理和监控任务。在这篇文章中,我们将介绍一个强大的Kafka管理界面工具——Kafka Eagle,它能够帮助您简化Kafka集群的管理和监控任务。Kafka Eagle是一个开源的Web界面,旨在提供对Kafka集群进行实时监控和管理的功能。它提供了丰富的功能和直观的用户界面,使您可以轻松地查看集群状态、监控指标、消费者组和主题的健康状况,并进行配置和管理操作。

DeoSql的博客 271

【Kafka】Kafka监控工具Kafka-eagle简介

Kafka-eagle是一种基于Web的开源管理工具,可以用来监控、管理多个Kafka集群。下面是使用Docker部署Kafka-eagle的步骤:下载并安装Docker和Docker Compose。等待一段时间后,您可以通过浏览器打开,进入Kafka-eagle Web UI进行操作和管理。注意:如果您使用的是云服务器,则需要确保相关端口已经被正确放行。

后端研发工程师Marion的博客 2811

XGBoost实战:从原理到调参,手把手教你提升模型性能(附Python代码)

本文深入解析XGBoost核心原理,并提供一套从数据准备、系统性调参到生产部署的完整实战指南。通过剖析目标函数、正则化项与分裂算法,帮助读者理解参数背后的数学逻辑,并利用交叉验证、早停法及自动化工具(如Optuna)高效提升模型性能。文中附有详尽的Python代码示例,涵盖类别特征处理、缺失值应对、不平衡数据调整及模型可视化等高级技巧。

weixin_29178069的博客 457

ZEMAX学习第7天-手机镜头光学系统设计全过程案例

接下来对系统微调,依次缩小CRA和畸变,首先对CRA进行依次递减(39°、38°、37°、36°、35°),目前CRA角度40度,每次下降一度进行优化,利用MAXX加OPLT一起控制,控制小于35°。可以看出在标注的三个地方镜头曲率变化,导致PY=1的光线走向奇特,因此需要对矢高进行调整,按照标注的地方依次调整(从右到左)至传函变好,越靠近右边对其余视场影响越小。3.圆锥系数值较大,透镜形状怪异;一、第1,3镜子偏厚,第4镜子偏薄,45镜子间隔边缘偏小,第5片镜子中心厚度与边缘厚度相差较大,需要控制;

liningliwei的博客 1067

Kafka-eagle--可视化监控组件

安装部署 修改 kafka-server-start.sh内容 if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G" fi ==> if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then export KAFKA_HEAP_OPTS="-server -Xms2G -Xmx2G -XX:PermSize=128m -XX:+UseG1GC -XX:MaxGCPause

寒暄的博客 723

kbjdbc: autodetected server-encoding to be ISO-8859-1, if the message is not readable, please check

这条信息是来自 KingbaseES 数据库的一个 JDBC 客户端连接提示。KingbaseES 是一个企业级的关系型数据库管理系统,它兼容 PostgreSQL 的许多特性。如果上述步骤仍然无法解决问题,建议详细查看数据库和客户端的日志文件,以获取更具体的错误信息。此外,也可以考虑联系 KingbaseES 的技术支持获取帮助。项目融合kingbase数据库,输出日志乱码。结果:网上各种调整各种试。

zjy660358的专栏 4843

kafka开源监控组件-kafka-eagle:

kafka开源监控组件-kafka-eagle

LoveYourelf的博客 410

NGSIM数据集字段解析:从车辆轨迹到交通行为分析

本文深度解析NGSIM数据集的核心字段及其在交通行为分析中的应用。详细解读了车辆时空定位、状态属性及交互关系等关键字段,并通过高速路“幽灵堵车”和城市路口左转行为两个实战案例,展示了如何利用该数据集进行微观交通行为建模与驾驶特征提取,为交通流研究和自动驾驶算法测试提供数据基础。

weixin_29172963的博客 147

昇腾310B实战:FFmpeg硬件加速全流程解析与性能优化

本文详细解析了昇腾310B与FFmpeg硬件加速的全流程,包括环境配置、性能优化及常见问题排查。通过实战案例展示,昇腾310B在视频转码中性能提升可达6倍,同时降低功耗,特别适合多媒体处理和高性能计算场景。

m3n5b7v8c9x的博客 734

【收藏】 Kafka监控组件大全

本文使用Burrow和Telegraf搭建Kafka的监控体系。然后,简单介绍一下其他的,比如Kafka Manager,Kafka Eagle,Confluent Control Center等。 如果你对kafka比较陌生,请参考:Kafka基础知识索引 Burrow 依赖路径 使用Burrow拉取kafka的监控信息,然后通过telegraf进行收集,最后写入到influxdb中。使用gra...

weixin_34038652的博客 880

PDN设计

作者:AirCity 2020.2.6 Aircity007@sina.com 本文所有权归作者Aircity所有 PDN设计的目的是降低电源纹波水平,减小电压跌落。我们通常要求LDO的文波水平是30mV,DCDC是50mV,超过这个就需要PDN设计。 PDN设计的方法是用不同的容值,合适的总电容量,降低电源平面与地平面之间的交流阻抗,确定容值总量和电容大小的过程,就是PDN设计过程。 为什么需...

AirCity123的博客 4147

kafka python框架_【收藏】 Kafka监控组件大全

本文使用Burrow和Telegraf搭建Kafka的监控体系。然后,简单介绍一下其他的,比如Kafka Manager,Kafka Eagle,Confluent Control Center等。如果你对kafka比较陌生,请参考:Kafka基础知识索引Burrow依赖路径使用Burrow拉取kafka的监控信息,然后通过telegraf进行收集,最后写入到influxdb中。使用grafana...

weixin_28340315的博客 308

四旋翼飞行器建模(一)

四旋翼飞行器的姿态运动学和姿态动力学建模方法。

加斯顿工程师的博客 685

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

kafka依赖_【收藏】 Kafka监控组件大全

本文使用Burrow和Telegraf搭建Kafka的监控体系。然后,简单介绍一下其他的,比如Kafka Manager,Kafka Eagle,Confluent Control Center等。如果你对kafka比较陌生,请参考:Kafka基础知识索引Burrow依赖路径使用Burrow拉取kafka的监控信息,然后通过telegraf进行收集,最后写入到influxdb中。使用grafana...

weixin_39701861的博客 592

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

「Kafka」监控、集成篇

Kafka-Eagle 监控、Kafka-Kraft 模式、Kafka 集成 Flume、Kafka 集成 Flink、Kafka 集成 SpringBoot、Kafka 集成 Spark 等内容,

How many ten years in the life time? 1828

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

2 .项目构建(实时计算框架和监控kafka,flink的工具)

2 .项目构建(实时计算框架和监控kafka,flink的工具) 注意: 因为我的是分布式,有些配置和伪分布式稍微有以写不同(千万注意) 在我们一个一个启动下面的进程的时候,我们应该时刻关注内存使用情况 top 2.1、框架版本 hadoop 2.7.6 hive 1.2.1 zookeeper 3.4.6 hbase 1.4.6 kafka 1.0.0 Flink 1.1...

weixin_48370579的博客 550

【运维知识大神篇】超详细的ELFK日志分析教程10(kafka集群原理+基本使用+zookeeper和kafka堆内存调优+kafka监控和压力测试+filebeat和logstash对接kafka)

本篇文章继续给大家介绍ELFK日志分析,我们先前介绍了ELFK架构,zookeeper部署使用,kafka的部署,仅差kafka使用就将整个体系融汇贯通了。我们本篇文章将以kafka为核心,详细介绍kafka使用,最终将kafka融入ELFK架构中,大致内容见下面目录。

吾日三省吾身,想出类拔萃,要把知识学牢,学全,学深,学广。 2095

Kafka3.x入门

Kafka是一个开源的分布式事件流平台(Event streaming Platform),被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。

my_study_notes的博客 672

Kafka学习笔记

教学视频 Kafka学习资料 链接:https://pan.baidu.com/s/1oHYCvHZ4Uanll1Bj3v-3Hw 提取码:5afq 01.Kafka入门_课程介绍 Kafka官网主页 Kafka官方文档 02.Kafka入门_定义 Kafka 是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。 03.Kafka入门_消息队列 传统消息队列的应用场景 使用消息队列的好处 解耦(类似Spring的IOC) 允许你独立的扩展或修改两边

KISS 2473

Kafka总结

Kafka总结 一、kafka概述 1.1 kafka定义 Kafka是一个分布式的基于发布/订阅模式的消息队列,主要应用于大数据实时处理领域。 订阅式模式:一对多的关系,一个生产者,数据存储在消息队列中,多个消费者均可从这个消息对列中获取数据,消费者消费数据之后不会清除消息。 1.2 框架说明 一般都是从命令行和API两个方面进行讲解。 数据处理框架需要从数据的安全性以及效率两个方面深入了解。 1.3 Kafka涉及的关键词 1. producer: 消息的生产者,即为向kafka broker

数据开发探索者 1116

Kafka监控组件大全

本文使用Burrow和Telegraf搭建Kafka的监控体系。然后,简单介绍一下其他的,比如Kafka Manager,Kafka Eagle,Confluent Control Center等。 Burrow 依赖路径 使用Burrow拉取kafka的监控信息,然后通过telegraf进行收集,最后写入到influxdb中。使用grafana进行展示。 安装 从github下载二进制...

weixin_43770982的博客 455

中间件-Kafka学习笔记

中间件-Kafka学习笔记

xiaoyixiao_的博客 1153

大数据开发笔记

大数据开发组件 HDFS [atguigu@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh [atguigu@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh http://hadoop102:9870/explorer.html#/ Yarn [atguigu@hadoop102 hadoop-3.1.3]$ sbin/stop-yarn.sh [atguigu@hadoop103 hadoo...

bigdata 745
上一篇: Kafka Topic Java API操作
下一篇: Invalid transition attempted from state INITIALIZING to state ABORTING_TRANSACTION
江湖峰哥
博客等级 码龄11年 5粉丝 46原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值