3.1 Kafka 工作流程及文件存储机制

kafka学习目录：kafka目录

---

3.1、Kafka 工作流程及文件存储机制

3.1.1、工作流程

kafka整体工作流程图：

Kafka 生产端发送消息的机制是 Kafka 高吞吐的基础，生产端的基本流程如下图所示：

Kafka 中消息是以 topic 进行分类的， producer生产消息，consumer消费消息，都是面向 topic的。(从命令行操作看出)

bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test

bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

topic 是逻辑上的概念，而 partition 是物理上的概念。 每个 partition 对应于一个 log 文件，该 log 文件中存储的就是 producer 生产的数据。（topic = N partition，partition = log）

Producer 生产的数据会被不断追加到该log 文件末端，且每条数据都有自己的 offset。 consumer组中的每个consumer， 都会实时记录自己消费到了哪个 offset，以便出错恢复时，从上次的位置继续消费。（produ