kafka搭建

Kafka【第一篇】Kafka集群搭建 What is Kafka:它是一个分布式消息系统,由linkedin使用scala编写,用作LinkedIn的活动流(Activity Stream)和运营数据处理管道(Pipeline)的基础。具有高水平扩展和高吞吐量。 阅读详情

JDK已经安装好

 

准备安装包

 

将安装包解压

 

查看安装包

 

创建一个数据目录

 

配置环境变量

编辑文件

 

添加内容

 

配置生效

 

启动之前要先启动zookeeper服务器,zookeeper是为kafka提高协调服务的工具。kafka已经内置了一个zookeeper服务器以及一些启动脚本

编辑配置文件zookeeper.properties

 

配置内容

dataDir=/usr/local/kafka_2.12-1.0.0/data/

clientPort=2181

 

启动zookeeper

./zookeeper-server-start.sh ../config/zookeeper.properties

 

启动好zookeeper以后,然后启动kafka服务器

注意:为了启动kafka服务器,要保证刚才启动的zookeeper终端不被关闭。打开一个新的终端

./kafka-server-start.sh ../config/server.properties

 

[KafkaServer id=0] started (kafka.server.KafkaServer)说明kafka服务器启动成功,默认的服务端口是9092

 

查看端口

 

服务器启动后,我们需要创建一个主题(topic)用于消息的发送和接受。

创建一个名称为test的topic

注意:为了要创建topic,要保证刚才启动的zookeeper和kafka的终端不被关闭。打开一个新的终端

测试:该topic只有一个分区(partition),且该partition也只有一个副本(replica)处理消息

命令:./kafka-topics.sh --create --zookeeper localhost:2181 --topic test --partitions 1 --replication-factor 1

 

查看该topic的状态

./kafka-topics.sh --describe --zookeeper localhost:2181 --topic test

 

发送消息,即生产消息。kafka默认提供了脚本工具可以不断的接受标准输入并将他们发送到kafka的某个topic上面,用户在控制台终端下启动该命令,输入一行文本数据,然后该脚本将该行文本封装成一条kafka消息发送给指定的topic。打开新的终端,执行命令

./kafka-console-producer.sh --broker-list localhost:9092 --topic test

 

消费消息,消费者,kafka提供了一对应的脚本用于消费某些topic下的消息并打印到标准输出。打开新的终端。执行如下命令

./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

 

两边可以输

第二章 零差云控关节模组内部构造 对零差云控的eRob70I进行了拆解 阅读详情

相关推荐

R语言安装包镜像报错?5分钟教你快速切换国内镜像源(含清华/阿里云配置)

本文详细介绍了R语言安装包镜像报错的解决方案,包括如何快速切换国内镜像源(如清华、阿里云等),解决'无法读写貯藏處索引'等常见问题。通过图形界面和命令行两种方式,帮助用户高效配置镜像源,提升R语言包安装速度与稳定性。

weixin_29053073的博客 419

2020-08-26

Flink Sql 1.Create语句: 从Kafka源 建表 CREATE TABLE kafkaTable ( user_id BIGINT, item_id BIGINT, category_id BIGINT, behavior STRING, ts TIMESTAMP(3) ) WITH ( ‘connector’ = ‘kafka’, ‘topic’ = ‘user_behavior’, ‘properties...

weixin_42853905的博客 529

海康威视门禁考勤设备数据对接实战:从被动推送到主动拉取

本文深入探讨了海康威视门禁考勤设备数据对接的两种核心方案:HTTP推送与SDK主动拉取。文章对比了两种方式的适用场景、技术实现与优缺点,为开发者提供了从设备配置、代码编写到工程化部署的完整实战指南,帮助读者根据项目规模、网络环境及数据稳定性要求,做出最合适的技术选型。

weixin_29284657的博客 673

FlinkSQL使用DDL语句创建kafka源表

在Flink1.9.x版本中,社区版本的 Flink 新增 了一个 SQL DDL 的新特性,但是暂时还不支持流式的一些概念的定义,比如说水位(watermark). 下面主要介绍一下怎...

JasonLee实时计算 1万+

ubuntu安装eigen3.3.7

查看已安装版本: gedit /usr/include/eigen3/Eigen/src/Core/util/Macros.h 或 gedit /usr/local/include/eigen3/Eigen/src/Core/util/Macros.h 卸载先前版本: sudo updatedb locate eigen3 得到eigen库的位置 卸载: sudo rm -rf /usr/include/eigen3 /usr/lib/cmake/eigen3 ...

reason的博客 1万+

电阻、电容、电感的实际等效模型

1、电阻的等效模型 2、电容的寄生参数 3、电容的等效参数 4、理想铝电解电容与实际铝电解电容的区别 5、电感的等效模型  

鸟宿江边树的博客 4万+

创建Kafka结果表

本页目录 创建Kafka结果表 WITH参数 Kafka版本对应关系 示例 创建Kafka结果表 Kafka结果表需要定义的DDL如下。 create table sink_kafka ( messageKey VARBINARY, `message` VARBINARY, PRIMARY KEY...

weixin_33881753的博客 949

运算放大器噪声分析实战:从理论到TINA-TI仿真的完整指南

本文深入探讨运算放大器噪声分析的完整流程,从基础理论到TINA-TI仿真实践。详细解析噪声来源、运放噪声模型建立、手工计算方法,并结合TI工具进行高效仿真验证,提供低噪声电路设计优化策略,帮助工程师提升精密电子系统性能。

Jerry的专栏 949

Kafka 搭建

Kafka 是由 Apache 软件基金会开发的一个开源流处理平台,由 Scala 和 Java 编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。对于像 Hadoop 一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。

JIE的博客 --- moon_coder 1874

Win10 LTSC 2021 CPU占用率飙升?KB5017308补丁修复全攻略

本文针对Windows 10 LTSC 2021系统中因wsappx进程导致的CPU占用率异常飙升问题,提供了详细的解决方案。核心在于安装微软官方发布的KB5017308补丁,该补丁能从根本上修复系统组件缺陷,使CPU占用恢复正常。文章详解了补丁的下载、安装步骤、注意事项及安装后的验证方法,是解决此问题的权威指南。

python9snake的博客 1281

QT实现计算器(C/C++)

digitClicked()槽函数用于处理数字按钮的点击事件,operatorClicked()槽函数用于处理运算符按钮的点击事件,equalsClicked()槽函数用于处理等号按钮的点击事件。在operatorClicked()槽函数中,我们获取被点击按钮的文本作为当前运算符,并将文本框中的内容转换为双精度浮点数,存储为操作数1。在上述代码中,我们添加了一个私有成员变量m_operand1,用于存储第一个操作数的值,以及一个私有成员变量m_currentOperator,用于存储当前运算符的值。

CyberNova的博客 385

分布式消息流处理平台kafka(一)-kafka单机、集群环境搭建流程及使用入门

自带了zookeeper服务, 不需要额外搭建zookeeper集群服务,如果不想使用也可以使用自己搭建的zookeeper集群。下面主要介绍如何使用自带了zookeeper服务来搭建zookeeper集群主要就是修改$KAFKA_HOME/config/zookeeper.properties, 如果是自己搭建的zookeeper集群, 修改的就是zoo.cfg配置文件, 修改配置文件如下主要就是配置每台zookeeper节点的dataDir参数和增加集群配置,如下。

最爱嫣夜来 3785

STM32入门教程:人脸识别

STM32CubeMX配置 打开STM32CubeMX,创建一个新的工程,并选择你使用的STM32系列和具体型号。根据摄像头模块的规格,将摄像头的输出引脚连接到相应的STM32引脚上。人脸识别是一种非常常见的人工智能应用,它可以通过摄像头捕捉到的图像,识别出图像中的人脸并进行相关的分析和处理。在本教程中,我们将使用STM32开发板和相关传感器,通过指导你搭建一个基于STM32的简单人脸识别系统,并编写相应的代码来实现该功能。另外,为了达到更好的人脸识别效果,可能需要使用更高性能的处理器和更复杂的算法。

吃不胖. 374

Kafka集群搭建

介绍了kafka集群的搭建

凉茶铺的博客 5088

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

快速入门Kafka系列(2)——Kafka集群搭建

        作为快速入门Kafka系列的第二篇博客,本篇为大家带来的是Kafka集群搭建~         码字不易,先赞后看! 文章目录Kafka 集群环境搭建1、初始化环境准备2、下载安装包并上传解压3、node01服务器修改ka...

大数据梦想家 6423

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

基于zookeeper搭建kafka集群

Kafka 是一款开源的分布式流处理平台,最初由 LinkedIn 开发,后由 Apache 基金会维护。它被设计用于高吞吐、可扩展的实时数据管道和流处理场景。Kafka 的核心功能包括发布和订阅消息流、持久化存储数据以及实时处理数据流。其架构基于生产者(Producer)、消费者(Consumer)、主题(Topic)和分区(Partition)等概念,支持水平扩展和高容错性。Kafka 广泛应用于日志收集、消息系统、实时分析和事件溯源等场景,是现代大数据生态系统中不可或缺的组件之一。

muxia_jhy的博客 1757

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

kafka的搭建

kafka的搭建 搭建前说明 这里就不说废话去具体介绍kafka是什么了,只要知道他是一个分布式的队列,作用是缓冲消息的就行了。 kafka的运行是基于zookeeper的,所以运行先要装一个zookeeper。 版本说明:zookeeper-3.4.13、kafka_2.12-2.2.0 说明:本文采用的是自己下载安装的方法进行搭建的。 搭建前准备 需要安装jdk,版本最好在1.8及以上。...

qq_34646817的博客 415

Kafka 集群搭建

Kafka官网:http://kafka.apache.org Kafka相关原理介绍,推荐一篇:https://www.jianshu.com/p/d3e963ff8b70 下面开始动手搭建自己的Kafka集群 搭建Kafka集群前要先搭好zookeeper,本文测试使用单点zookeeper,默认端口2181。 搭建环境:Red Hat 4.4.7-3、JDK8.0、IP:10....

t5721654的专栏 1057

简单易懂Kafka搭建

kafka搭建 cd /usr/local wget http://mirror.bit.edu.cn/apache/kafka/2.2.0/kafka_2.11-2.2.0.tgz 下载完成后解压 tar -zxvf kafka_2.11-2.2.0.tgz cd kafka_2.11-2.2.0 解压后进入看下基本的结构 logs是日志记录的目录,config是基本配置文件的目录...

qq_24347541的博客 6679

kafka集群搭建

这里写自定义目录标题环境准备host配置安装zookeeper集群kafka集群搭建如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 环境准备 搭建之前先做个简短说明。最近一个项目一直在使用kafka和redis,因单节点已完成且运行良好,为了进一步巩固系统稳定性,所以需要

快乐的小豆子的专栏 2677

kafka搭建,原理,以及python操作kafka——总结

Kafka文档 Kafka介绍: Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一...

keeper的博客 6690

搭建kafka集群

准备三台服务器, 安装jdk1.8 ,其中每一台虚拟机的hosts文件中都需要配置如下的内容 192.168.72.141 node01 192.168.72.142 node02 192.168.72.143 node03 安装目录 安装包存放的目录:/export/software 安装程序存放的目录:/export/servers 数据目录:/export/data 日志目录:/e...

独孤一剑 2234

本地搭建kafka

kafka本地环境搭建

guochengabcd的博客 3286

Linux下搭建Kafka集群

搭建Kafka集群需要先搭建好zookeeper集群(具体查看我的上一篇博客)先在/usr/local下下载解压Kafka配置Kafka配置文件(config文件夹下的server.properties)在Kafka的bin目录下启动Kafka 需要先搭建好zookeeper集群(具体查看我的上一篇博客) 先在/usr/local下下载解压Kafka wget http://mirror.bit....

qq_38650808的博客 546

用docker搭建有kafka-manager的kafka集群

前面搭建过单节点zookeeper的kafka集群,但是操作起来很不方便,因此这次试着搭建一个带有管理界面kafka-manager的kafka集群. 1、创建docker-compose的yml文件 创建kafka文件夹,并在目录下编写docker-compose-zoosingle-manage-kafka.yml文件 version: '3' services: zookeeper: ...

sinat_39393179的博客 3337

01 kafka 集群搭建

前言 呵呵 最近有一系列环境搭建的相关需求 记录一下 kafka 三个节点 : 192.168.110.150,192.168.110.151,192.168.110.152 150 为 master, 151 为 slave01, 152 为 slave02 三台机器都做了 trusted shell kafka 单节点 docker 搭建 创建 docker-compose.yml 如下, 然后 docker-compose up -d 启动 kafka 即可使用 .....

970655147的专栏 837
上一篇: kafka分片
下一篇: kafka代码学习
Computer_hello
博客等级 码龄10年 2粉丝 36原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值