kafka的数据存储形式

Kafka的Partition由segment文件组成,每个segment包含一个.index索引文件和.log数据文件。offset是Partition中消息的唯一标识,segment file通过相对offset和position在索引文件中定位消息。数据文件存储Message的offset、MessageSize和data。查找特定offset消息时,通过二分法找到对应索引记录,获取message物理位置。Segment文件命名基于上一个segment的最后一个消息offset。索引文件存储元数据,指向数据文件中message的物理偏移地址。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在这里插入图片描述

partition
在这里插入图片描述

segment
在这里插入图片描述
topic:主题,表示消息属于那种主题(可以理解为消息的分类)

partition:分区,从大的概念来说topic 中的消息都是存放在patition 中,一个topic 可以有多个partition,一个partition 可以有多个副本

offset:偏移量,在kafka 中offset 是partition 中消息序列号,可以认为是这个消息的唯一标识

segment:多个大小相等的segment file (段)组成了一个partition。

segment file 是什么?

每个partition 就相当于一个巨型的文件 里面由多个大小相等的segment file小文件组成,但是每个segment file 的消息数量并不一定相

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

科学的N次方

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值