南修子学Hbase-Hbase Split流程

这篇博客探讨了HBase在0.94版本前后的Region拆分策略,包括最大文件大小限制和基于内存flush大小的触发条件。0.94之后的策略引入了Region数量的因素,避免了小文件问题。同时,博客建议避免多列族并保持数据增长同步,以及建表时进行预分区来有效管理Region。

0.94版本之前

一个Region里面最大的file大小,如果超过就一分为二

hbase.hregion.max.filesize默认是10G

0.94版本之后

当一个Region中某个Store下面所有的StoreFile的总大小超过Min(R^2 * "hbase.hregion.memstore.flush.size" , "hbase.hregion.max.filesize"),该region就会进行拆分,其中R为当前RegionServer中属于该Table的个数,就是当前这个表的Region数量

 

hbase.hregion.memstore.flush.size会导致小文件问题,比如两个列族的数据增长不均匀,但是这个参数是针对全局的,所以都会进行切分,那么数据比较稀疏的这个就会产生小文件的问题,hbase官方也是建议尽量不要多个列族,如果是多个列族的话要保证多个列族的数据增长保持同步

 

预分区: 建表的时候要预分区,规划好我要建多少个分区,10000-20000,20000-30000,30000-40000

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

南修子

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值