初识Kafka----个人理解,希望对喜欢kafka的朋友有帮助

Kafka入门与部署
本文介绍了Kafka的基本概念,包括其作为发布订阅系统的用途、核心组件及术语,并详细讲解了Kafka的安装过程,从搭建Zookeeper集群开始,直至完成Kafka服务的配置与启动。
1、什么是kafka?
kafka是一个发布订阅系统,主要用作缓存
2、核心概念
首先kafka是一个集群,有很多个节点组成。
Broker['brəʊkə]:节点名称每一个节点称作broker
message  ['mesɪdʒ】:就是指发布到kafka的每一条记录。
Message queue:消息队列
Topic ['tɒpɪk]:就是主题,意思是一类消息。我们发送消息时必须指明主题,它可以是订单topic/日志topic。
partition:分区。一个topic可以有多个partition[一个message只能属于一个topic中的某一个partition。目的是为了让同一个topic的数据分散到不同的broker上,实现负载均衡] 例如:订单topic可以按照ip分为不同的partition,一个partition中的数据在一个broker中存储
repilca  ['rɛplɪkə]:相当于把topic的内部消息存放多分在不同的broke上,相当于备份,保证数据的安全
producer:生产者,负责发布消息到kafka的broker
consumer[kən'sjuːmə]:消费者 指订阅消息。

offset(偏移量):偏移量实际上就是数据的索引,类似于数组中的下标;而在kafka中偏移量则指行号。


3.安装kafka
第一:在使用kafka时先有zookeeper的存在;
安装zookeeper-3.4.5.tar.gz上传到linux上
tar -zxvf zookeeper-3.4.5.tar.gz -C /hadoop
mv zookeeper-3.4.5.tar.gz zookeeper
cd /hadoop/zookeeper/conf
mv zoo-s...cfg zoo.cfg
1步:dataDir=/hadoop/zookeeper/data
2步:添加
ckTime=2000
initLimit=10
syncLimit=5
clientPort=2181
在zookeeper下mkdir data--->vi myid--->1 2 3
./zkS...sh start
第二:上传kafka_2.11-0.8.2.2.tgz
tar -zxvf kafka_2.11-0.8.2.2.tgz -C /hadoop
cd  kafka_2.11-0.8.2.2
配置环境变量
  1. vi /etc/profile  
  2.  export KAFKA_HOME=/hadoop/kafka_2.11-0.8.2.2  
  3. export PATH=$PATH:$KAFKA_HOME/bin 
 配置文件server.properties 主要参数
  1. broker.id=115  
  2. host.name=192.168.8.115  
  3. advertised.host.name=192.168.8.115
  4. num.partitions=2  
  5. log.dirs=/hadoop/zookeeper/kafka-logs  [自己创建的存放kafka日志的文件路径]
  6. zookeeper.connect=192.168.8.115:2181

启动服务 之前确保zookeeper 服务是启动的
                 ./bin/kafka-server-start.sh config/server.properties &

这时jps呈现的结果如下:







内容概要:本文档围绕六自由度机械臂的ANN人工神经网络设计展开,涵盖正向与逆向运动学求解、正向动力学控制,并采用拉格朗日-欧拉法推导逆向动力学方程,所有内容均通过Matlab代码实现。同时结合RRT路径规划与B样条优化技术,提升机械臂运动轨迹的合理性与平滑性。文中还涉及多种先进算法与仿真技术的应用,如状态估计中的UKF、AUKF、EKF等滤波方法,以及PINN、INN、CNN-LSTM等神经网络模型在工程问题中的建模与求解,展示了Matlab在机器人控制、智能算法与系统仿真中的强大能力。; 适合人群:具备一定Ma六自由度机械臂ANN人工神经网络设计:正向逆向运动学求解、正向动力学控制、拉格朗日-欧拉法推导逆向动力学方程(Matlab代码实现)tlab编程基础,从事机器人控制、自动化、智能制造、人工智能等相关领域的科研人员及研究生;熟悉运动学、动力学建模或对神经网络在控制系统中应用感兴趣的工程技术人员。; 使用场景及目标:①实现六自由度机械臂的精确运动学与动力学建模;②利用人工神经网络解决传统解析方法难以处理的非线性控制问题;③结合路径规划与轨迹优化提升机械臂作业效率;④掌握基于Matlab的状态估计、数据融合与智能算法仿真方法; 阅读建议:建议结合提供的Matlab代码进行实践操作,重点理解运动学建模与神经网络控制的设计流程,关注算法实现细节与仿真结果分析,同时参考文中提及的多种优化与估计方法拓展研究思路。
Kafka是一种高性能、分布式的流处理平台,广泛应用于实时数据处理和消息传递场景。它提供了高吞吐量、低延迟的数据传输,并具备良好的可扩展性和容错性,还提供了一种高效、可靠的方式来发布和订阅消息,其消息存储机制是核心特性之一[^1][^2]。 为了便于理解Kafka的作用,可通过一个例子说明:在生产者和消费者的关系中,生产者生产鸡蛋,消费者消费鸡蛋。若消费者系统宕机,生产者继续生产,新生产的鸡蛋会丢失;若生产者生产速度远超消费者消费速度,会造成消息堵塞,最终导致系统超时,“鸡蛋”也会丢失。此时,在它们中间放置一个“篮子”,生产的鸡蛋都放入篮子,消费者从篮子里拿鸡蛋,这样鸡蛋就不会丢失,这个“篮子”就是Kafka。这里的“鸡蛋”代表“数据流”,系统间通过“数据流”传输,也称为报文或“消息”。当消息队列满了,即“篮子”满了,可通过增加“篮子”数量实现Kafka的扩容[^3]。 以下是一个简单的Kafka生产者示例代码(使用Python和`kafka-python`库): ```python from kafka import KafkaProducer # 创建一个Kafka生产者实例 producer = KafkaProducer(bootstrap_servers='localhost:9092') # 发送消息到指定的主题 topic = 'test_topic' message = b'Hello, Kafka!' producer.send(topic, message) # 确保所有消息都被发送 producer.flush() # 关闭生产者连接 producer.close() ``` 以下是一个简单的Kafka消费者示例代码: ```python from kafka import KafkaConsumer # 创建一个Kafka消费者实例 consumer = KafkaConsumer( 'test_topic', bootstrap_servers='localhost:9092', auto_offset_reset='earliest' ) # 消费消息 for message in consumer: print(f"Received message: {message.value.decode('utf-8')}") ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值