南修子学Hbase-Hbase刷写

HBase的内存管理中,memstore的数据刷写到HDFS受到大小和时间两个因素控制。当RegionServer的全局memstore达到堆内存的40%或单个Region的memstore达到256MB时,会触发flush操作。此外,如果最后一次操作RegionServer内存的时间超过1小时,也会自动进行flush。这些配置参数包括hbase.regionserver.global.memstore.size、hbase.hregion.memstore.flush.size和hbase.regionserver.optionalcacheflushinterval,分别用于控制不同层面的刷写策略。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

hbase的memstore刷写到hdfs是受两个因素控制:大小和时间
以下是找了几个常用的参数,看一下

下面,RegionServer级别的配置,数据量到达RegionServer所运行的JVM的堆内存的40%的时候进行Flushing

    <property>
      <name>hbase.regionserver.global.memstore.size</name>
      <value>0.4</value>
      <description>Maximum size of all memstores in a region server before new updates are blocked and flushes are forced. Defaults to 40% of heap (0.4). Updates are blocked and flushes are forced until size of all memstores in a region server hits hbase.regionserver.global.memstore.size.lower.limit. The default value in this configuration has been intentionally left empty in order to honor the old hbase.regionserver.global.memstore.upperLimit property if present.</description>
    </property>

下面,是Region级别的配置,当Region里面的数据量达道256M的时候进行Flushing

  <property>
      <name>hbase.hregion.memstore.flush.size</name>
      <value>268435456</value>
      <description>
      <description>Memstore will be flushed to disk if size of the memstore exceeds this number of bytes. Value is checked by a thread that runs every hbase.server.thread.wakefrequency.</description>
    </property>

下面,是RegionServer级别的配置,以最后一次操作RegionServer内存的时间开始算,到达1小时就开始刷写

  <property>
      <name>hbase.regionserver.optionalcacheflushinterval</name>
      <value>3600000</value>
      <description>Maximum amount of time an edit lives in memory before being automatically flushed. Default 1 hour. Set it to 0 to disable automatic flushing.</description>
    </property>
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

南修子

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值