
kafka
文章平均质量分 73
kafka专栏
我要改名字qWq
这个作者很懒,什么都没留下…
展开
-
kafka的幂等性和事务
分布式系统中最难解决的两个问题是: 1.消息顺序保证(Guaranteed order of messages)。 2.消息的精确一次投递(Exactly-once delivery)。https://www.cnblogs.com/smartloli/p/11922639.html幂等性一般指 producer 投递了多少消息,consumer 就消费了多少消息,不会发生消息丢失或者消息重复的情况;幂等性只能保证单个partition的 Exactly-Once 语义的实现Kafka.原创 2021-04-16 14:06:53 · 409 阅读 · 0 评论 -
消费者
消费者:负责订阅kafka中的主题topic,并从订阅的主题上拉取消息。消费者组:多个消费者组成。当消息发布到主题后,只会被投递给订阅他的每个消费者组中的一个消费者, 即每一个分区只能被一个消费者组的一个消费者消费。消费者消费步骤: 1.配合消费者客户端参数及创建相应的消费者实例。 2.订阅主题 3.拉取消息消费 4.提交消费位移 5.关闭消费者实例1.必要的参数配置 bootstrap.servers:连接kafka集群所需的bro...原创 2021-01-05 15:54:30 · 127 阅读 · 0 评论 -
生产者
1.必要的参数配置: bootstrap.servers:用来指定生产者客户端连接kafka集群所需要的的broker地址清单,具体格式为:host1:port1,host2:port2,默认值为''.注意这里并非需要所有的broker地址,因为生产者会送给定的broker找到其他broker信息,但是最少给2个,防止其中一个宕机连接丢失。 key.serializer和value.serializer : broker端接收消息必须以字节数组的形式存在。这两个参数分别用来指定key,val...原创 2021-01-05 15:53:45 · 172 阅读 · 0 评论