HBase的RegionServer参数配置

最新推荐文章于 2025-04-01 19:19:05 发布

michael_zhu_2004

最新推荐文章于 2025-04-01 19:19:05 发布

阅读量7k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： Hadoop

本文链接：https://blog.youkuaiyun.com/michael_zhu_2004/article/details/8330798

本文主要讨论了HBase RegionServer的几个关键参数，如hbase.hregion.max.filesize、hbase.regionserver.global.memstore.upperLimit/lowerLimit、hbase.hstore.blockingStoreFiles和hbase.hregion.memstore.block.multiplier。通过调整这些参数，可以优化split和compaction的频率，防止内存占用过高，以及平衡读写性能。手动split和合理设置阈值可以提升HBase系统的稳定性和性能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

hbase.hregion.max.filesize
默认值：256M
说明：在当前ReigonServer上单个Reigon的最大存储空间，单个Region超过该值时，这个Region会被自动split成更小的region。
调优：
小region对split和compaction友好，因为拆分region或compact小region里的storefile速度很快，内存占用低。缺点是split和compaction会很频繁。
特别是数量较多的小region不停地split, compaction，会导致集群响应时间波动很大，region数量太多不仅给管理上带来麻烦，甚至会引发一些Hbase的bug。
一般512以下的都算小region。

大region，则不太适合经常split和compaction，因为做一次compact和split会产生较长时间的停顿，对应用的读写性能冲击非常大。此外，大region意味着较大的storefile，compaction时对内存也是一个挑战。
当然，大region也有其用武之地。如果你的应用场景中，某个时间点的访问量较低，那么在此时做compact和split，既能顺利完成split和compaction，又能保证绝大多数时间平稳的读写性能。

既然split和compaction如此影响性能，有没有办法去掉？
compaction是无法避免的，split倒是可以从自动调整为手动。
只要通过将这个参数值调大到某个很难达到的值，比如100G，就可以间接禁用自动split（RegionServer不会对未到达100G的region做split）。
再配合