Redis采用不同内存分配器碎片率对比

本文对比了Redis在使用tcmalloc、jemalloc和libc三种内存分配器时的性能和碎片率,通过Redis-benchmark进行测试,结果显示tcmalloc在碎片率方面表现最优。

转载:http://www.searchdatabase.com.cn/showcontent_55782.htm


我们知道Redis并没有自己实现内存池,没有在标准的系统内存分配器上再加上自己的东西。所以系统内存分配器的性能及碎片率会对Redis造成一些性能上的影响。

  在Redis的 zmalloc.c 源码中,我们可以看到如下代码:

  48 /* Explicitly override malloc/free etc when using tcmalloc. */
  49 #if defined(USE_TCMALLOC)
  50 #define malloc(size) tc_malloc(size)
  51 #define calloc(count,size) tc_calloc(count,size)
  52 #define realloc(ptr,size) tc_realloc(ptr,size)
  53 #define free(ptr) tc_free(ptr)
  54 #elif defined(USE_JEMALLOC)
  55 #define malloc(size) je_malloc(size)
  56 #define calloc(count,size) je_calloc(count,size)
  57 #define realloc(ptr,size) je_realloc(ptr,size)
  58 #define free(ptr) je_free(ptr)
  59 #endif


  从上面的代码中我们可以看到,Redis在编译时,会先判断是否使用tcmalloc,如果是,会用tcmalloc对应的函数替换掉标准的libc中的函数实现。其次会判断jemalloc是否使得,最后如果都没有使用才会用标准的libc中的内存管理函数。

  而在最新的2.4.4版本中,jemalloc已经作为源码包的一部分包含在源码包中,所以可以直接被使用。而如果你要使用tcmalloc的话,是需要自己安装的。

  下面简单说一下如何安装tcmalloc包,tcmalloc是google-proftools中的一部分,所以我们实际上需要安装google-proftools。如果你是在64位机器上进行安装,需要先安装其依赖的libunwind库。

  wget http://download.savannah.gnu.org/releases/libunwind/libunwind-0.99-alpha.tar.gz
  tar zxvf libunwind-0.99-alpha.tar.gz
  cd libunwind-0.99-alpha/
  CFLAGS=-fPIC ./configure
  make CFLAGS=-fPIC
  make CFLAGS=-fPIC install


  然后再进行google-preftools的安装:

  wget http://google-perftools.googlecode.com/files/google-perftools-1.8.1.tar.gz
  tar zxvf google-perftools-1.8.1.tar.gz
  cd google-perftools-1.8.1/
  ./configure --disable-cpu-profiler --disable-heap-profiler --disable-heap-checker --disable-debugalloc --enable-minimal
  make && make install


  sudo echo "/usr/local/lib" > /etc/ld.so.conf.d/usr_local_lib.conf #如果没有这个文件,自己建一个

  sudo /sbin/ldconfig


  然后再进行Redis的安装,在make时指定相应的参数以启用tcmalloc

  $ curl -O http://redis.googlecode.com/files/redis-2.4.4.tar.gz
  $ tar xzvf redis-2.4.4.tar.gz
  $ cd redis-2.4.4
  $ make USE_TCMALLOC=yes FORCE_LIBC_MALLOC=yes
  $ sudo make install


  再启动Redis后通过info命令就能看到使用的内存分配器了。

  下面回到本文的主题,对于tcmalloc,jemalloc和libc对应的三个内存分配器。其性能和碎片率如何呢?下面是一个简单测试结果,使用Redis自带的redis-benchmark写入等量数据进行测试,数据摘自采用不同分配器时Redis info信息。我们可以看到,采用tcmalloc时碎片率是最低的,为1.01,jemalloc为1.02,而libc的分配器碎片率为1.31,如下所示:

  used_memory:708391440
  used_menory_human:675.57M
  used_memory_rss:715169792
  used_memory_peak:708814040
  used_memory_peak_human:675.98M
  mem_fragmentation_ratio:1.01
  mem_allocator:tcmalloc-1.7
  used_memory:708381168
  used_menory_human:675.56M
  used_memory_rss:723587072
  used_memory_peak:708803768
  used_memory_peak_human:675.97M
  mem_fragmentation_ratio:1.02
  mem_allocator:jemalloc-2.2.1
  used_memory:869000400
  used_menory_human:828.74M
  used_memory_rss:1136689152
  used_memory_peak:868992208
  used_memory_peak_human:828.74M
  mem_fragmentation_ratio:1.31
  mem_allocator:libc


TechTarget中国原创内容,原文链接:http://www.searchdatabase.com.cn/showcontent_55782.htm


<think>我们正在讨论Redis内存管理策略。根据引用内容,Redis内存管理策略包括内存分配、优化、限制、淘汰、过期和持久化策略。具体来说,我们可以从以下几个方面展开: 1. 内存分配:Redis如何分配内存? 2. 数据存储:Redis如何存储数据以节省内存? 3. 过期策略:如何删除过期的key? 4. 内存淘汰策略:当内存达到上限时,Redis如何选择数据淘汰? 5. 碎片优化:Redis如何减少内存碎片? 引用[1]提到Redis内存管理体系综合了内存分配、优化、限制、淘汰、过期和持久化策略。 引用[2]详细解析了内存管理策略,包括内存分配、数据存储、淘汰机制及碎片优化等。 引用[3]介绍了内存淘汰策略,当内存达到上限时,Redis会使用内存淘汰策略来删除数据。 引用[4]提到了Redis中维护内存的两种策略:设置超时时间和LRU算法。 引用[5]则详细说明了Redis的八种内存淘汰策略,包括LRU和LFU算法。 因此,我们可以将回答分为以下几个部分: 一、内存分配与数据结构优化 二、过期键删除策略 三、内存淘汰策略 四、内存碎片优化 注意:在回答中,我们要自然地添加引用标识。 </think>### Redis 内存管理策略详解 Redis内存管理策略通过多层机制协同工作,在保证高性能的同时优化内存使用。以下是核心策略及其实现原理: --- #### 一、内存分配与数据结构优化 1. **定制化内存分配器** Redis 使用 `jemalloc` 替代标准 `glibc malloc`,通过减少内存碎片和高效管理不同尺寸的内存块,提升分配效率[^1]。 - **优势**:降低内存浪费(碎片率可控制在 1.2 以下) - **监控命令**: ```bash redis-cli info memory | grep mem_fragmentation_ratio ``` 2. **数据结构压缩** | **数据类型** | **优化策略** | **效果** | |--------------------|-----------------------------------------------------------------------------|----------------------------------------| | String | `REDIS_ENCODING_EMBSTR`(≤44字节直接嵌入对象头) | 减少小字符串指针开销[^2] | | Hash/List/Set/ZSet | 元素较少时使用 `ziplist`(连续内存存储)替代哈希表/链表 | 节省 50%-70% 内存[^1] | | HyperLogLog | 稀疏矩阵存储(实测误差 0.81%) | 仅需 12KB 统计十亿级数据 | ```bash # 配置 ziplist 阈值(redis.conf) hash-max-ziplist-entries 512 # Hash元素≤512时用ziplist list-max-ziplist-size -2 # List元素≤8KB时用ziplist ``` --- #### 二、过期键删除策略[^3][^4] Redis 通过 **惰性删除 + 定期删除** 组合释放内存: 1. **惰性删除(Lazy Expire)** - 访问 Key 时检查过期时间,立即删除过期 Key - **优势**:CPU 零额外开销 - **局限**:不访问的 Key 长期占用内存 2. **定期删除(Active Expire)** - 每隔 `100ms` 随机扫描一批 Key(默认 20 个/次) - 删除逻辑: ```python def active_expire(): for key in random.sample(keys, 20): if key.is_expired(): delete(key) if expired_keys > 25%: # 过期率过高则重复扫描 active_expire() ``` - **可调参数**:`hz 10`(控制每秒扫描频次)[^4] --- #### 三、内存淘汰策略(Eviction Policies)[^3][^5] 当内存达上限 `maxmemory` 时触发淘汰机制(共 8 种策略): | **策略类型** | **算法原理** | **适用场景** | |----------------------|-----------------------------------------------------------------------------|----------------------------------| | `volatile-lru` | 从**过期 Key 中**淘汰最近最少使用的 Key(LRU 算法) | 容忍丢失部分缓存数据[^5] | | `allkeys-lru` | 从**所有 Key 中**淘汰最近最少使用的 Key | 纯缓存场景(推荐) | | `volatile-lfu` | 从**过期 Key 中**淘汰使用频率最低的 Key(LFU 算法,衰减计数防早期热点残留) | 长期运行的缓存服务 | | `allkeys-random` | 随机淘汰任意 Key | 数据重要性均等 | | `noeviction` | 拒绝写入新数据(默认策略) | 需绝对数据安全的场景 | > 📊 **算法对比**: > - **LRU**:基于时间局部性,适合突发访问模式 > - **LFU**:基于频率统计,适合稳定热点数据(Redis 4.0+) > ```bash > # 配置示例(redis.conf) > maxmemory 4gb > maxmemory-policy allkeys-lru > ``` --- #### 四、内存碎片优化[^1][^2] 1. **碎片成因** - 频繁更新变长数据(如 String 追加) - 大量删除操作导致内存空隙 2. **解决方案** - **手动整理**:执行 `memory purge`(依赖 jemalloc) - **自动重启**:配置 `activedefrag yes` 启用自动碎片整理 - 触发条件:`碎片率 > 1.5` 且 `CPU < 20%` - **数据分片**:通过 Redis Cluster 分散写入压力 --- #### 五、监控与调优建议 1. **关键指标** ```bash redis-cli info memory # 输出重点: used_memory_human:2.1G # 实际数据内存 mem_fragmentation_ratio:1.3 # >1.5需优化碎片 evicted_keys:1200 # 淘汰Key数量 ``` 2. **最佳实践** - 优先启用 `allkeys-lru` 或 `allkeys-lfu` - 设置合理 `maxmemory`(建议预留 20%-30% 缓冲) - 对长文本使用 Hash 分 field 存储而非大 String --- > 💡 **总结**:Redis 通过 **高效内存分配器 + 惰性/定期删除 + 智能淘汰策略 + 碎片整理** 四层机制,在有限内存下实现高性能与高利用率[^1][^2]。实际部署需根据数据特征(缓存/持久化)选择合适的策略组合。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值