深刻理解Redis集群(上):RDB快照和AOF日志

docker redis 集群设置 1、redis-6.0rc3 redis.conf # Redis configuration file example. # # Note that in order to read the configuration file, Redis must be # started with the file path as first argument: # # ./redis-server /p... 阅读详情

08588be035b8accfdaa4de7c04741916.png

RDB快照

save同步阻塞

  • 客户端

21a4cd866e6b96234f360ceaaff0c4c8.png

  • 服务端

ac5fbe0b1229f3b41730ed278064b28a.png

  • .conf配置文件

# The filename where to dump the DB
dbfilename dump.rdb


# rdb-del-sync-files是Redis配置文件中的一个选项,它的作用是在主节点上执行BGSAVE或AOF持久化操作时,删除同步锁文件,以释放磁盘空间。当这个选项设置为yes时,Redis会自动删除同步锁文件;当这个选项设置为no时,Redis不会自动删除同步锁文件。
rdb-del-sync-files no


# rdb文件保存路径
dir /Users/momoubin/install/redis
  • .rdb快照文件

41db333608e2d59888e017d7ba25ac66.png

053834a423a12f1be82dc168e60d66b8.png

分析

执行save命令会手动触发RDB持久化,但是save命令会阻塞Redis服务,直到RDB持久化完成。当Redis服务储存大量数据时,会造成较长时间的阻塞,不建议使用。

bgsave

  • client

20ad68996c963db7d7fcb248e2ef059b.png

  • server

4347eef9f7956197a990c21891dc15ea.png

分析

20687c7be5338cd5f37cdcdd1f9f1aa5.png

执行bgsave命令也会手动触发RDB持久化,和save命令不同是:Redis服务一般不会阻塞。Redis进程会执行fork操作创建子进程,RDB持久化由子进程负责,不会阻塞Redis服务进程。

RDB优缺点

RDB文件是一个紧凑的二进制压缩文件,是Redis在某个时间点的全部数据快照。

优点缺点
RDB使用RDB恢复数据的速度远远比AOF的快,非常适合备份、全量复制、灾难恢复等场景。每次进行bgsave操作都要执行fork操作创建子经常,属于重量级操作,频繁执行成本过高,所以无法做到实时持久化,或者秒级持久化。

AOF日志

AOF(Append Only File)持久化是把每次写命令追加写入日志中,当需要恢复数据时重新执行AOF文件中的命令就可以了。

AOF解决了数据持久化的实时性,也是目前主流的Redis持久化方式,这里分为四个步骤。

四个步骤

  1. 命令追加(append):所有写命令都会被追加到AOF缓存区(aof_buf)中。

  2. 文件同步(sync):根据不同策略将AOF缓存区同步到AOF文件中。

  3. 文件重写(rewrite):定期对AOF文件进行重写,以达到压缩的目的。

  4. 数据加载(load):当需要恢复数据时,重新执行AOF文件中的命令。

4a88aaa752801eecb79f9979faf8dba9.png

文件同步策略

AOF持久化流程中的文件同步有以下几个策略:

  1. always:每次写入缓存区都要同步到AOF文件中,硬盘的操作比较慢,限制了Redis高并发,不建议配置。

  2. no:每次写入缓存区后不进行同步,同步到AOF文件的操作由操作系统负责,每次同步AOF文件的周期不可控,而且增大了每次同步的硬盘的数据量。

  3. eversec:每次写入缓存区后,由专门的线程每秒钟同步一次,做到了兼顾性能和数据安全。是建议的同步策略,也是默认的策略。

配置文件

  • conf配置文件

# appendonly改为yes,开启AOF
appendonly yes
# AOF文件的名字
appendfilename "appendonly.aof"
# AOF文件的写入方式
# everysec 每个一秒将缓存区内容写入文件 默认开启的写入方式
appendfsync everysec
# 运行AOF重写时AOF文件大小的增长率的最小值
auto-aof-rewrite-percentage 100
# 运行AOF重写时文件大小的最小值
auto-aof-rewrite-min-size 64mb

手动触发

  • client

Background append only file rewriting started
127.0.0.1:6379> Set 1 1
OK
127.0.0.1:6379> set name bryant
OK
127.0.0.1:6379> hset name-list bryant mo
(integer) 1
  • server

12d74426badc027f925991018f6a948c.png

  • AOF文件

ae220a5cfab7ed87a2357dfebb96f012.png

320ce3b40e624c3208e8e36ea56da183.png

AOF备份的优缺点

AOF持久化流程中的文件重写可以手动触发,也可以自动触发。

优点

缺点

AOF-数据完整性

  • AOF文件记录了服务器接收到的所有写操作命令,并在服务器启动时,通过重新执行这些命令来重建数据集。

  • 这种方式提供了比RDB更高的数据安全性,因为它几乎不会丢失任何已提交的事务。

  • 相比于RDB快照,AOF文件通常会占用更多的磁盘空间,因为它记录了每个写操作的详细信息。

  • 随着时间的推移,如果不进行适当的重写,AOF文件可能会变得非常庞大。

可重写性

  • Redis允许在不中断服务的情况下对AOF文件进行重写,以减少文件体积和提高性能。

  • 如果配置为每次写操作都同步到磁盘,那么会对Redis的性能产生显著影响。

  • 即使是使用每秒同步一次的策略,在高并发场景下也可能导致一定的延迟。

支持不同的同步策略

  • 可以配置AOF同步到磁盘的频率,如每秒同步一次、每次写操作都同步或完全依赖操作系统。

  • 这提供了在性能和数据安全性之间的权衡选择。

  • 在主从复制的场景中,如果主节点频繁地写入AOF文件并需要将其同步到从节点,那么网络延迟可能会成为一个问题。

  • 手动触发:使用bgrewriteaof命令。

  • 自动触发:根据auto-aof-rewrite-min-size和auto-aof-rewrite-percentage配置确定自动触发的时机。

    • auto-aof-rewrite-min-size:表示运行AOF重写时文件大小的最小值,默认为64MB;

    • auto-aof-rewrite-percentage:表示当前AOF文件大小和上一次重写后AOF文件大小的比值的最小值,默认为100。只有前两者同时超过时才会自动触发文件重写。

总结

在真实环境中,Redis确实可以同时使用AOF(Append Only File)和RDB(Redis DataBase)两种持久化方式。这种混合使用的方式可以充分利用两者的优势,以达到更好的数据安全性和性能平衡。

AOF与RDB混用的优势

  1. 数据安全性增强:

    1. AOF提供了持久化的日志记录,能够保证数据的完整性,即使在系统崩溃的情况下也能最大程度地恢复数据。

    2. RDB则提供了定期的快照备份,可以在短时间内快速恢复大量数据。

  2. 性能优化:

    1. RDB的快照机制可以在后台异步执行,对Redis的性能影响较小。

    2. AOF的日志追加操作相对较轻量,但在高并发写入场景下可能会产生较大的磁盘I/O压力。通过RDB快照,可以减少AOF文件的大小,从而降低后续的日志重写和恢复成本。

  3. 灵活性提升:

    1. 结合使用AOF和RDB可以根据实际需求调整持久化策略,如在业务低峰期执行RDB快照,在高峰期依赖AOF日志保证数据实时性。

实施步骤与注意事项

  1. 配置启用AOF和RDB:

    1. 在Redis配置文件中同时开启save指令(用于触发RDB快照)和appendonly yes指令(启用AOF持久化)。

  2. 设置合理的同步策略:

    1. 调整appendfsync参数以控制AOF日志同步到磁盘的频率,默认走everysec(每秒同步一次)。

  3. 监控与维护:

    1. 定期检查AOF文件和RDB快照的健康状况,确保它们没有损坏且能够正常恢复。

    2. 使用Redis提供的工具如redis-check-aof和redis-check-rdb来验证文件的完整性。

  4. 故障恢复流程:

    1. 在发生故障时,首先尝试加载最新的RDB快照以快速恢复大部分数据。

    2. 随后应用AOF日志中的增量更新,以达到数据的最终一致性。

其他文章

Kafka消息堆积问题排查

基于SpringMVC的API灰度方案

理解到位:灾备和只读数据库

SQL治理经验谈:索引覆盖

Mybatis链路分析:JDK动态代理和责任链模式的应用

大模型安装部署、测试、接入SpringCloud应用体系

Mybatis插件-租户ID的注入&拦截应用

Redis持久化机制:RDB与AOF原理及实践指南 数据持久化是数据库系统的核心机制,通过将内存数据持久化到磁盘确保系统可靠性。Redis作为高性能内存数据库,提供了RDB快照和AOF日志两种持久化方式。RDB通过定时生成二进制压缩的快照文件,具有恢复速度快、文件体积小的特点,适合备份场景;AOF则记录每个写操作命令,支持秒级数据同步,提供更高的数据安全性。在分布式系统与高并发场景下,合理配置持久化策略能有效预防缓存雪崩等故障。本文结合电商大促等典型应用场景,详解如何通过混合持久化策略平衡性能与可靠性,并给出容器化部署时的优化建议。 阅读详情

相关推荐

Redis Streams vs Kafka:轻量级消息队列选型指南

本文深入比较了Redis Streams与Kafka在消息队列选型中的关键差异,涵盖架构设计、消息持久化、消费者模型、运维复杂度等7个核心维度。通过真实项目案例和性能数据,帮助架构师根据业务场景(如电商秒杀、物联网平台)做出最优选择,特别适合需要平衡性能与可靠性的技术决策者。

weixin_30832143的博客 453

Redis配置文件详解

本文按照模块,详细分析了Redis的配置文件。我们可以从Redis配置文件中了解Redis的组成部分、运行机制,从而更好的使用Redis。

u012948302的专栏 548

腾讯会议录屏损坏修复:使用 recover_mp4 工具的完整解决方案

腾讯会议录屏损坏修复指南 当腾讯会议录屏因电脑蓝屏等意外导致MP4文件损坏时,可使用recover_mp4工具结合FFMPEG进行修复。操作步骤包括:1)准备相同参数正常视频作为参考;2)分析正常视频生成结构文件;3)分离损坏视频的音视频流;4)使用FFMPEG重新封装。该方法能有效修复因意外中断导致的视频索引损坏问题。修复前需将工具和文件放在同一目录下,并确保参考视频与损坏录屏的参数完全一致。

m0_62498496的博客 2627

Redis持久化策略AOF、RDB详解及源码分析

Redis持久化策略AOF、RDB详解及源码分析

weixin_46935110的博客 1847

解决 PyInstaller 与 `pathlib` 包不兼容的问题

为了避免 PyInstaller 和pathlib包的兼容性问题,最简单的解决办法就是卸载不必要的pathlib包。只需在命令行中运行卸载命令,然后重新打包即可。

Winfredzhang的博客 3225

告别Arduino IDE!用VSCode搭建Arduino UNO R3开发环境(含代码补全配置)

本文详细指导如何用VSCode替代Arduino IDE搭建Arduino UNO R3开发环境,包含代码补全配置和高效开发技巧。通过安装必要插件、配置项目结构和优化工作流,可显著提升开发效率,特别适合复杂项目开发。文章还提供了常见问题解决方案和高级功能调优方法。

weixin_30698297的博客 479

Redis持久化-RDB

目录 1 官网介绍 2 什么是RDB 3 Fork 4 dump.rdb 文件 4 如何触发RDB快照 5 RDB的优缺点 1 官网介绍 在指定的时间间隔内将内存中的数据集快照写入磁盘,也就是行话讲的Snapshot快照,它恢复时是将快照直接读到内存里 2 什么是RDB Redis会单独创建一个(fork)子进程来进行持久化,会先将数据写到一个临时文件中,待持久化过程都结束了,在用这个临时文件替换上次持久化的文件。整个过程中,主进程是不进行任何IO...

爪哇人的博客 1319

Abel逆变换及其求解方法

Abel逆变换常应用在轴对称的、光学薄的火焰、羽流或等离子体重建。

weixin_49783507的博客 8372

第四章_Redis持久化

将Redis执行过的所有写指令记录下来(读操作不记录),只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。2:与此同时,主进程会将新接收到的写指令一边累积到内存缓冲区中,一边继续写入到原有的AOF文件中,这样做是保证原有的AOF文件的可用性,避免在重写过程中出现意外。4:当追加结束后,redis就会用新AOF文件来代替旧AOF文件,之后再有新的写指令,就都会追加到新的AOF文件中。

sinat_31583645的博客 700

Python爬虫实战:如何爬取汽车之家报价信息

本文通过实战介绍了如何使用Python编写爬虫,抓取汽车之家网站的车型、价格、配置等信息。在爬虫实现过程中,我们使用了requests库来发送HTTP请求,使用解析HTML页面,提取嵌入的JSON数据,并将数据存储到CSV文件中。同时,我们还介绍了如何使用反爬虫策略(如随机User-Agent、请求延时、代理池等)来规避反爬虫机制,确保爬虫的稳定性。

2201_76125261的博客 1594

5.17华为OD机试真题 新系统 - 输出二叉树后序遍历结果 (Java/Py/C/C++/Js/Go)

5.17华为OD机试真题 新系统 - 输出二叉树后序遍历结果 (Java/Py/C/C++/Js/Go)

算法大师! 518

【优质推荐】RedisCluster集群模式深入分析

Redis集群的做法是 将数据划分为 16384(2的14次方)个哈希槽(slots),如果你有多个实例节点,那么每个实例节点将管理其中一部分的槽位,槽位的信息会存储在各自所归属的节点中。Redis 集群的节点采用 Gossip 协议来广播信息,每个节点都会定期向其他节点发送ping命令,如果接受ping消息的节点在指定时间内没有回复pong,则会认为该节点失联了(PFail),则发送ping的节点就把接受ping的节点标记为主观下线。另外,单台服务机硬件扩容也是有限制的,不可能无限操作。

优秀技术文章收录 658

Altium Designer(AD24/25)PCB编辑的几种方法介绍

本文介绍了Altium Designer(AD24/25)软件中PCB编辑的四种操作方法:1)通过菜单栏"Place→Component"激活;2)点击工具栏元器件图标;3)右键快捷菜单选择;4)快捷键P+C组合操作。建议初学者先通过菜单栏和快捷菜单熟悉操作,熟练后转为工具栏和快捷键以提高效率。文章配有操作示意图,帮助用户快速掌握PCB元器件放置技巧。

fydar的博客 946

深入了解Redis:基础概念与架构全面解析

Redis(Remote Dictionary Server)是一个开源的、高性能的键值对数据库。与传统的关系型数据库不同,Redis通过内存存储数据,并提供持久化机制,因此其读写性能极高,适用于对性能要求较高的场景。Redis的设计理念是简单、高效、轻量,它支持多种数据类型和丰富的操作命令,能满足各种应用需求。Redis作为一款高效的开源键值数据库,其内存存储架构、数据类型、持久化机制及高可用性设计为其提供了卓越的性能和可靠性。

一碗黄焖鸡三碗米饭的博客 465

精密加工零件自动报价智能体设计与实现

摘要 本文设计并实现了一个精密加工零件自动报价智能体系统。该系统通过计算机视觉和几何分析技术,自动读取3D图纸(STEP/STL格式),提取影响加工成本的几何特征,实现精准报价。系统采用模块化设计,包含3D模型解析、特征提取、成本计算和报价生成四个核心模块。关键技术包括:使用PythonOCC处理STEP文件,Trimesh处理STL网格;实现体积、表面积、包围盒等基础几何量计算;开发特征提取算法识别复杂曲面、深孔等加工难点;基于规则库进行可加工性评分和成本估算。相比传统人工报价方式,该系统能显著提高报价效

AI的内部世界的博客 112

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

追求性能极致 - Redis:Redis or MemCache

本文做了比较详细的介绍和比较,总的来说Redis基本覆盖Memcache的能力。这也是为什么现在的互联网缓存组件优先选择Redis的原因。

smart_an的专栏 1130

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

Redis面试核心知识点与实战技巧解析

Redis作为高性能的内存数据库,其核心价值在于提供亚毫秒级的数据访问能力。通过精心设计的数据结构如SDS动态字符串、跳表和压缩列表,Redis在内存操作效率上达到极致。在分布式系统中,Redis常被用作缓存、消息队列和分布式锁等关键组件。理解其持久化机制(RDB/AOF)和高可用架构(主从复制、哨兵、集群)是保障数据可靠性的基础。针对面试场景,需要重点掌握数据结构底层实现、性能优化策略以及典型应用场景设计,例如使用ZSET实现排行榜或通过Lua脚本保证分布式锁的原子性。本文结合Redis 6/7新特性,系

weixin_30791095的博客 399

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

1.4 java面试题 ,Redis 必问三大块,哨兵,集群

从 Java 面试之王的角度,Redis 必问三大块:数据结构与使用场景、缓存三大问题及解决方案、分布式锁与高可用。我会把这些拆成能直接背的干货,配上代码和血泪教训。面试官最爱问“你用 Redis 做过什么”,你必须把数据结构和业务场景对应起来。血泪教训:别用 HGETALL 扫描大 Hash,拆成小 Hash 或改用 String + JSON 分页。现象:恶意请求 直接打到 DB。 方案: 缓存空值:null 也缓存,过期时间设短(如 60s)。 2. 缓存击穿(热点 key 过期) 现象:某热门

你是人间四月天 237

Redis与Memcached缓存策略:技术面试必备的终极指南

在技术面试中,缓存策略是系统设计环节的核心考点,而Redis与Memcached作为最主流的两种缓存解决方案,常常成为面试官考察的重点。本文将从基础特性、适用场景到高级优化,全面解析这两种缓存技术的核心差异与实战策略,帮助你在面试中脱颖而出。 ## 一、缓存技术基础:为什么Redis与Memcached是面试高频题? 缓存作为提升系统性能的关键技术,能够有效减轻数据库压力、降低响应时间。在技术

gitblog_00403的博客 877

redis每一个版本升级说明

深度理解Redis版本演进是非常有价值的。这不仅展示你对核心技术的掌握深度,也能在面试中应对关于Redis选型、特性、最佳实践和问题排查的深入问题。

2401_89221704的博客 1211

Redis主从复制

由于复制只能从主节点到从节点,对于从节点的任何修改主节点都是无法感知的,修改从节点会造成主从数据不一致。当主从复制过程中,如果出现网络闪断或者命令丢失等异常情况时,从节点会向主节点要求补发丢失的命令数据,如果主节点的复制积压缓冲区内存在这部分数据则会直接发给从节点。全量复制:一般用于初次复制的场景,Redis早期支持的复制功能只有全量复制,他会把主节点全部数据一次性发送给从节点,当数据量较大时,会对主从节点和网络造成很大的开销。从节点每秒钟上报自身的复制偏移量给主节点,因此主节点也会保存从节点复制偏移量。

KellenKellenHao的博客 836

高级java每日一道面试题-2024年11月09日-缓存中间件篇-Redis和Memecache有什么区别?

Redis提供了丰富的数据类型、持久化机制、内存管理策略、事务支持、脚本执行、发布/订阅模式和高可用性支持,适用于多种复杂的应用场景。Memcached功能相对简单,主要提供高性能的键值对缓存,适用于不需要持久化和复杂操作的简单缓存场景。在选择使用哪种内存键值存储系统时,应根据具体的应用需求和场景来决定。理解这些区别有助于你在面试中展示对这两种技术的深刻理解。

qq_43071699的博客 1421

Redis高可用架构分析

主从复制实现了数据的单向同步,从节点作为主节点的精确副本。从最初简单的主从备份,到如今成熟的分布式集群与云服务,Redis高可用架构的演进史,正是一部互联网基础设施追求韧性、透明与智能的缩影。它提醒我们,技术架构的选择没有银弹,唯有深刻理解业务需求与技术组件的内在权衡,才能设计出真正坚如磐石的系统。在瞬息万变的数字世界中,构建这样的高可用架构,已不仅是技术任务,更是保障业务生命线的战略投资。在当今的互联网架构中,Redis以其卓越的性能和灵活的数据结构,已成为缓存、会话存储和消息队列等场景的核心组件。

mwjzef_021的博客 180

Redis vs MySQL:如何根据业务场景选择最佳数据库组合(附实战案例)

本文深入探讨了Redis与MySQL的核心差异与适用场景,为数据库选型提供了清晰的决策框架。通过分析数据模型、性能瓶颈及经典缓存模式,并结合电商系统等实战案例,指导开发者根据业务的数据一致性、读写模式与延迟要求,合理组合使用两者,以构建高性能、高可用的应用架构。

weixin_28365523的博客 574
上一篇: 深刻理解Redis集群(中):Redis主从数据同步模式
下一篇: 线程安全反思录(上):ThreadLocal到底安全不?
后台技术汇
博客等级 码龄11年 670粉丝 531原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

后台技术汇

对你的帮助,是对我的最好鼓励。

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值