HBase Region操作实战分析之Store Compaction

最新推荐文章于 2025-02-13 11:25:38 发布

zjumath

最新推荐文章于 2025-02-13 11:25:38 发布

阅读量6.2k

点赞数

CC 4.0 BY-SA版权

分类专栏： hadoop hbase 文章标签： hbase file merge 算法 null

本文链接：https://blog.youkuaiyun.com/zjumath/article/details/6955082

本文深入探讨了HBase Region的Store Compaction过程，从配置项出发，结合日志分析了如何触发并执行compaction，包括从requestCompaction到compactStores的详细步骤，以及在log_01 store中对多个文件进行合并的细节。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在上一篇HBase Region操作实战分析之Mem Flush里,我从代码和日志层面介绍了region的memstore flush逻辑
在文章最后提到不断的flush会导致store目录下的storefile越来越多,则会触发region的(minor/major)compaction

配置项

hbase.hstore.compaction.max	一次minor compaction的最大file数
hbase.hstore.compactionThreshold	一次minor compaction的最小file数
hbase.hstore.blockingStoreFiles	file数超过此配置,则block flush

我们知道,region进行flush,是因为region的memstoresize>hbase.hregion.memstore.flush.size 条件成立,引发region下所有store(cf)进行flush,在每个store进行flush时,会检测flush之后的文件数是否大于hbase.hstore.compactionThreshold(c-1),如果有一个store在flush时满足(c-1)条件,则在整个region flush完毕之后,会触发一次整个region的compaction.

代码如下:
for (StoreFlusher flusher : storeFlushers) {
boolean needsCompaction = flusher.commit();
if (needsCompaction) {
comp