Kafka Producer 工作流程

Kafka Producer 工作流程

消息发送流程

Kafka Producer 发送消息的两种方式:同步发送、异步发送。

  • 同步发送的流程图

    这里写图片描述

  • 异步发送流程图

    这里写图片描述

发送流程说明(以异步发送为例):

  1. 客户端创建Producer对象:创建该对象时,同时会创建EventHandler、ProducerPool对象。其中ProducerPool中保存对象SyncProducer对象,其初始个数由broker.size确定,该对象与Kafka Broker相连,负责消息的发送。
  2. Producer对象调用send方法时,消息被放到阻塞队列。
  3. Send Thread 从队列里取出消息,并根据消息的partkey计算出消息应该发送到的分片。
  4. Send Thread根据分片信息去ProducerPool中找到对应的SyncProducer对象,发送消息。

Producer的Message Delivery

默认情况下request.required.acks = 0,Producer 只发送,并不保证消息发送成功,类似于HTTP,所以可能会丢消息。
消息的确认模式:
0:不保证消息的到达确认,只管发送,低延迟但是会出现消息的丢失
1:发送消息,并会等待leader 收到确认后,一定的可靠性
-1:发送消息,等待leader收到确认,并进行复制操作后,才返回,最高的

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值