zookeeper、kafka的安装与测试(Cent OS 7)

kafka报错解决:kafka.zookeeper.ZooKeeperClientTimeoutException: Timed out waiting for connection 出现上述问题,在其他错误都没有的情况下,zookeeper的版本和kafka的libs目录下的zookeeper版本不一致导致的,如图 版本是3.5.6 启动成功如下所示: D:\kafka\kafka_2.12-2.4.0>.\bin\windows\kafka-server-start.bat .\config\server.properties [2020-01-... 阅读详情
zookeeper
1 将下载好的安装包放在/usr/local目录下,解压
2 在conf目录下复制一份配置文件修改内容

[root@Kafka ~]# cd /usr/local/zookeeper-3.4.11/
[root@Kafka zookeeper-3.4.11]# cd conf/
[root@Kafka conf]# cp zoo_sample.cfg zoo_gxl.cfg
[root@Kafka conf]# vi zoo_gxl.cfg
修改一下内容:
dataDir=/usr/local/zookeeper-3.4.11/dataDir_gxl

3 启动zookeeper

[root@Kafka zookeeper-3.4.11]# ./bin/zkServer.sh start conf/zoo_gxl.cfg
ZooKeeper JMX enabled by default
Using config: conf/zoo_gxl.cfg
Starting zookeeper … STARTED

4 如上信息启动成功,启动客户端测试

[root@Kafka zookeeper-3.4.11]# ./bin/zkCli.sh -server 192.168.142.158:2181

5 依次是查看根节点、创建节点、查看节点、节点状态、退出

[zk: 192.168.142.158:2181(CONNECTED) 8] ls /
[zookeeper]
[zk: 192.168.142.158:2181(CONNECTED) 9] create /test ‘this test znode’
Created /test
[zk: 192.168.142.158:2181(CONNECTED) 10] ls /test
[]
[zk: 192.168.142.158:2181(CONNECTED) 11] stat /test
cZxid = 0x4
ctime = Tue Mar 13 15:29:57 CST 2018
mZxid = 0x4
mtime = Tue Mar 13 15:29:57 CST 2018
pZxid = 0x4
cversion = 0
dataVersion = 0
[zk: 192.168.142.158:2181(CONNECTED) 12] quit

kafka
1 将下载好的安装包放在/usr/local目录下,解压
2 打开config目录复制3份配置文件,修改其中内容

[root@Kafka kafka_2.12-1.0.1]# cd config
[root@Kafka config]# cp server.properties servergxl-1.properties
[root@Kafka config]# cp server.properties servergxl-2.properties
[root@Kafka config]# cp server.properties servergxl-3.properties
[root@Kafka config]# vi servergxl-1.properties
[root@Kafka config]# vi servergxl-2.properties
[root@Kafka config]# vi servergxl-3.properties
分别修改一下内容:
/############################# Server Basics #############################
broker.id=1 【根据配置文件的编号分别填入1|2|3】
delete.topic.enable=true
/############################# Socket Server Settings #####################
listeners=PLAINTEXT://192.168.193.128:9092 【同理为9092|9093|9094】
/############################# Log Basics #############################
log.dirs=/usr/kafka_2.11-0.11.0.0/kafka-logs-1
/############################# Zookeeper ##############################
zookeeper.connect=192.168.193.128:2181

3 分别启动

[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-server.sh config/servergxl-1.partitions
[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-server.sh config/servergxl-2.partitions
[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-server.sh config/servergxl-3.partitions

4 创建主题topic名称为mytopic

[root@Kafka ~]# cd /usr/local/kafka_2.12-1.0.1/
[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-topics.sh –zookeeper localhost –create –topic mytopic –partitions 3 –replication-factor 3
Created topic “mytopic”.

5 查看topic列表、查看mytopic状态

[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-topics.sh –zookeeper localhost –list
mytopic
[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-topics.sh –zookeeper localhost –describe –topic mytopic
Topic:mytopic PartitionCount:3 ReplicationFactor:3 Configs:
Topic: mytopic Partition: 0 Leader: 1 Replicas: 1,3,2 Isr: 1,3,2
Topic: mytopic Partition: 1 Leader: 2 Replicas: 2,1,3 Isr: 2,1,3
Topic: mytopic Partition: 2 Leader: 3 Replicas: 3,2,1 Isr: 3,2,1

6 新建终端模拟订阅

[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-console-consumer.sh –zookeeper localhost:2181 –topic mytopic –from-beginning
或者:
[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-console-consumer.sh –bootstrap-server 192.168.142.158:9092,192.168.142.158:9093,192.168.142.158:9094 –topic mytopic –from-beginning

7 新建终端模拟发布

[root@Kafka kafka_2.12-1.0.1]# ./bin/kafka-console-producer.sh –broker-list 192.168.142.158:9092,192.168.143.158:9093,192.168.143.158:9094 –topic mytopic

8 输入hello查看订阅端是否接受到信息,有则测试成功

hello

集群参考

http://blog.youkuaiyun.com/zxy987872674/article/details/72466504
http://czj4451.iteye.com/blog/2041096

Cent OS 7命令变化

http://blog.youkuaiyun.com/wzyzzu/article/details/52700296

浅谈车联网概述-1 车联网技术目前在车企中应用广泛,车联网通过车载传感器、无线通信等技术,能够将车辆上百的传感器数据上传至云端,当前智能网联车辆可以理解为一个“大号”手机。 阅读详情

相关推荐

最新版Node.js下载安装及环境配置教程(非常详细)

选择对应你系统的Node.js版本。

DN金猿的博客 12万+

centerOS 安装kafka

centerOS 安装kafka

weixin_41463944的博客 1584

分享一下使用Xilinx FPGA驱动MIPI DSI LCD屏的心路历程

分享一下调试用Xilinx FPGA驱动MIPI DSI LCD屏的心路历程,看到的朋友们,可以避免继续踩坑。

haoxingheng的专栏 5016

【Kafka】关于Kafka启动时报错的解决过程

版本信息: kafka_2.12-3.1.0、apache-zookeeper-3.8.0 报错信息: [2022-03-16 05:30:57,192] WARN An exception was thrown while closing send thread for session 0x100007216820000. (org.apache.zookeeper.ClientCnxn) EndOfStreamException: Unable to read additional data f

cnskylee的博客 1万+

⭐️白嫖的阿里云认证⭐️ 【真题&参考答案】:大模型Clouder认证:利用大模型提升内容生产能力

【摘要】真题「大模型Clouder认证:利用大模型提升内容生产能力」

davidkorhenn的博客 1933

级联H桥构网型储能SVG系统设计与VSG控制策略研究

随着新能源渗透率不断提高,电力系统惯量和阻尼水平持续下降,传统跟网型控制策略在弱电网条件下的稳定性面临严峻挑战。构网型控制以电压源方式运行,能够为系统提供惯量和频率支撑,成为当前研究热点。本文针对10kV/10Mvar级联H桥构网型储能静止无功发生器(SVG),采用星形连接拓扑结构,设计了基于虚拟同步发电机(VSG)的构网型控制策略。文章从主电路拓扑设计、数学建模、VSG控制策略设计、调制策略、直流电压平衡控制、系统参数设计、仿真建模和硬件实现等八个方面展开系统论述,给出了完整的Simulink仿真模型~~

huanghm88的专栏 349

kafka启动时自动挂掉的问题

自己的Kafka用的三台虚拟机跑的。用的时候发现只有一个节点,其他俩台都挂了。 每次启动时jps kafka进程只会存在一会,查看日志发现: (此问题试有人说是zk的myid设置有问题,还有说启动的姿势不对(启动要加-daemon 参数)。本人这里试过不好使。) 大家看下我的日志就会大概知道怎么回事了: Waiting until connected:连接的时候一直等,没连上。so,我直接...

weixin_38069657的博客 4490

ICP-10111气压传感器原理图设计,已量产(压力传感器)

在最近的室内导航定位项目中,我们需要一款能捕捉厘米级垂直高度变化的气压传感器 —— 毕竟室内环境里,哪怕是单个台阶的高度差都得精准识别。对比了几款器件后,最终选定了 ICP-10111:它 ±1Pa 的压差精度刚好能把高度差分辨到 8.5cm,0.4Pa 的低压力噪声能让数据输出足够稳定,再加上 0.5Pa/℃的低温漂特性,长期工作的可靠性也能满足需求。下面聊聊这套适配 ICP-10111 的硬件电路设计细节。

不脱发的程序猿 334

Kafka linux 采坑 | 启动报错: Timed out waiting for connection while in state: CONNECTING

zookeeper 集群启动没有问题,集群状态也正常,但是启动kafka 确报了这个错误: Timed out waiting for connection while in state: CONNECTING (连接超时) [2019-05-07 16:05:46,899] INFO [ZooKeeperClient] Waiting until connected. (kafka.zoo...

qq_41497111的博客 4万+

【WRF理论】配置诊断变量 &diags

【WRF理论】配置诊断变量 &diags

WW、forever的博客 137

手把手教你完成基于YOLOv8的水果/商品/食堂/蔬菜/饮料/书籍识别与计价系统,前台+后台管理系统

手把手教你完成基于YOLOv8的商店的水果/商品/食堂/蔬菜/饮料/书籍识别与计价系统,前台+后台管理员系统,可进行目标检测的操作和展示,实现对图片、视频和摄像头的实时目标检测

在职AI算法工程师,擅长计算机视觉,YOLO目标检测、分割等,擅长web、pyqt界面可视化,好内容持续更新中,来这里跟大家一起学习,共同进步 2457

Kafka安装及部署

Kafka安装及部署 一、环境配置 操作系统:CentOS7 Kafka版本:0.9.0.0 Kafka官网下载:请点击 JDK版本:1.7.0_51 SSH Secure Shell版本:XShell 5 二、操作过程 1、下载Kafka并解压 ...

chudiaolan3797的博客 170

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

kafka系列一、kafka安装及部署、集群搭建

一、环境准备 操作系统:CentOS7 Kafka版本:kafka_2.10 Kafka官网下载:请点击 JDK版本:1.8.0_171 zookeeper-3.4.10 二、kafka安装配置 1、下载Kafka并解压   下载: curl -L -O http://mirrors.cnnic.cn/apache/kafka/0....

weixin_30687811的博客 120

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

ELK kafka zookeeper 安装 学习使用

kafka zookeeper安装 tar -zxvf zookeeper-3.4.6.tar.gz cp zoo_sample.cfg zoo.cfg /bin/zkServer.sh start tar -zxvf kafka_2.11-1.1.0.tgz bin/kafka-server-start.sh config/server.properties bin/kafka-t...

dian张 628

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

Kafka单机、集群模式安装详解(一)

本文环境如下: 操作系统:CentOS 6 32位 JDK版本:1.8.0_77 32位 Kafka版本:0.9.0.1(Scala 2.11) 1. 所需要的环境Kafka需要以下运行环境: Java 安装参考CentOS 6使用rpm方式安装JDK8 Zookeeper 安装参考:CentOS下ZooKeeper单机模式、集群模式安装2. 下载、解压Kafka安装包Ka

Lnho的专栏 2万+

单机环境搭建kafka

单机配置kafka

2551的博客 1397

CentOS6安装各种大数据软件 第六章:HBase分布式集群的配置

相关文章链接 CentOS6安装各种大数据软件 第一章:各个软件版本介绍 CentOS6安装各种大数据软件 第二章:Linux各个软件启动命令 CentOS6安装各种大数据软件 第三章:Linux基础软件的安装 CentOS6安装各种大数据软件 第四章:Hadoop分布式集群配置 CentOS6安装各种大数据软件 第五章:Kafka集群的配置 CentOS6安装各种大数据软件 第六章:...

weixin_30344995的博客 154

Kafka 在CentOS下安装

1、下载 使用wget命令,远程下载kafka wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.8.1/kafka_2.12-2.8.1.tgz --no-check-certificate 2、解压文件 tar -zxvf ./kafka_2.12-2.8.1.tgz -C /usr/local/ 修改名称 mv ./kafka_2.12-2.8.1.tgz kafka2.12 3、修改配置文件 cd kafka2.12 vim c

Tongyao 1万+

Kafka 安装详解

注意:确保有JDK1.8版本及以上 官方文档:https://kafka.apache.org/quickstart 清华镜像下载:https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/ 首先下载安装包,在linux及Windows都可以使用。 1. Centos 安装部署 1.1 下载 将下载好的安装包上传至服务器 解压 tar -zxvf kafka_2.12-2.6.3.tgz 1.2 启动zookeeper 后台启动zookeepe.

Java是世界上最好的语言 5261

centos中安装kafka(不用docker)

其实kafka的安装是非常简单的,大家可以看官网,地址在下面。kafka官网,quickstart点击download,看到下面这个下载地址。

weixin_39766667的博客 2333

centos安装部署配置kafka

4.修改配置,注意:此配置中有一个默认的zookeeper的配置。3.查看版本(验证是否已解压)5.有三个配置要调整。

weixin_43748495的博客 990

yum 快速安装zookeeper、Kafka集群部署

在本文中将从演示如何搭建一个Kafka集群开始,然后简要介绍一下关于Kafka集群的一些基础知识点。但本文仅针对集群做介绍,对于Kafka的基本概念不做过多说明,这里假设读者拥有一定的Kafka基础知识。Broker:一般指Kafka的部署节点Leader:用于处理消息的接收和消费等请求,也就是说producer是将消息push到leader,而consumer也是从leader上去poll消息Follower:主要用于备份消息数据,一个leader会有多个follower。

weixin_44121378的博客 1594

启动kafka时报连接错误Opening socket connection to server **:2181 Will not attempt to authenticate using SASL

启动kafka时的错误: [2021-02-03 12:02:48,119] INFO Initiating client connection, connectString=bigdata112:2181,bigdata113:2181,bigdata114:2181 sessionTimeout=6000 watcher=kafka.zookeeper.ZooKeeperClient$ZooKeeperClientWatcher$@1d296da (org.apache.zookeeper.Zoo

枣泥馅的博客 1万+

windows下zookeeper和kafka的启动和关闭顺序及注意事项

首先:一定要先启动ZooKeeper 再启动Kafka 顺序不可以改变。 先关闭kafka ,再关闭zookeeper。 启动ZooKeeper后不要暴力关闭命令行,否则接下来启动kafka时会连接不上,显示Timeout错误 两个都不能暴力关闭 kafka关闭时: 现象:在windows的命令行里启动kafka之后,当关闭命令行窗口时,就会强制关闭kafka。这种关闭方式为暴力关闭,很可能会导致kafka无法完成对日志文件的解锁。届时,再次启动kafka的时候,就会提示日志文件被锁,无法成功启动。 方案:

wow_awsl_qwq的博客 4518

centeros 7 安装kafka

centeros 安装kafka 1、官网 http://kafka.apache.org/downloads 找到 Scala 2.13 - kafka_2.13-2.7.0.tgz (asc, sha512) 点击下载、上传至 /usr/local/kafka 下 2、解压:tar -zxvf kafka_2.13-2.7.0.tgz 3、创建两个文件夹分别存放 kafka数据 和zookeeper数据 4、修改配置文件 ①zookeeper 配置文件 dataDir :改

weixin_43275578的博客 1428
上一篇: VMware虚拟机克隆CentOS系统,设置java环境
下一篇: Mysql8.0中caching_sha2_password报错解决
litte_frog
博客等级 码龄9年 39粉丝 50原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值