本文探讨了Kafka分区数量的合理设置，分享滴滴的实践经验——单节点不超过1000个，同时提及0.10.X版本的元数据处理瓶颈。介绍了如何根据Broker数和副本数调整，并介绍了国内权威社区对于大规模Topic的支持。
Topic官方没有给具体建议数字，我们之前的最佳实践一个集群上有2W+ Topic无压力
Partition官方给过一个公式可以参考：
每个Broker的Partition数量最好限制在100 × b × r（b是Broker数，r是Partition副本数），滴滴的最佳实践是单节点Parttion不易超过1000个，大量小文件容易导致HDD盘的读写性能下降
如果Partiton数过多，对于0.10.X版本的元数据处理有性能瓶颈（主要是频繁读写ZK导致），之后的集群版本支持几十W Partiton没啥问题
国内最大最权威的 Kafka中文社区 ，在这里你可以结交各大互联网Kafka大佬以及近2000+Kafka爱好者，一起实现知识共享，实时掌控最新行业资讯，免费加入中~
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
