什么是持久化
指将存储在内存中的数据保存到磁盘中,以便在 Redis 服务器重启、宕机或断电后,仍能恢复之前的数据,防止数据丢失
Redis持久化
Redis 支持 RDB 和 AOF 两种持久化机制,持久化功能有效地避免因进程退出造成数据丢失问题,当下次重启时利用之前持久化的文件即可实现数据恢复
RDB
RDB 持久化是把当前进程数据生成快照保存到硬盘的过程,触发 RDB 持久化过程分为手动触发和自动触发。
触发机制
手动触发
手动触发分别对应 save 和 bgsave 命令:
- save 命令:阻塞当前 Redis 服务器,直到 RDB 过程完成为止,对于内存比较大的实例会造成长时间阻塞
- bgsave 命令:Redis 进程执行 fork 操作创建子进程,RDB 持久化过程由子进程负责,完成后自动结束。阻塞只发生在 fork 阶段,一般时间很短
Redis 内部的所有涉及 RDB 的操作都采用类似 bgsave 的方式。
自动触发
除了手动触发之外,Redis 运行自动触发 RDB 持久化机制,这个触发机制可以在配置文件中(通常是redis.conf)进行设置
- 使用 save 配置。 “save m n” 表示在 m 秒内数据集发生了 n 次修改,则自动触发 RDB 持久化
save 900 1 # 表示在900秒(15分钟)内,如果至少有1个键发生变化,就会触发RDB快照保存。
save 300 10 # 表示在300秒(5分钟)内,如果至少有10个键发生变化,就会触发RDB快照保存。
- 从节点进行全量复制操作时,主节点自动进行 RDB 持久化,随后将 RDB 文件内容发送给从结点。
- 执行 shutdown 命令关闭 Redis 时,执行 RDB 持久化。
注意:
生成一次 rdb 快照成本较高,最好不要执行太频繁
但这样也导致了一些问题,就是数据不是同步的。快照里的数据,和当前实时的数据情况可能存在偏差。可能在8:10生成了rdb文件,8:15开始接受到大量key,但是下次rdb生成时间是在8:25,此时redis挂了,就会丢失大量数据(可以用AOF解决)
手动触发bgsave后运行流程
bgsave 是主流的 RDB 持久化方式,其运作流程如下:
- 执行 bgsave 命令,Redis 父进程判断当前进是否存在其他正在执行的子进程,如 RDB/AOF 子进程,如果存在 bgsave 命令直接返回。
- 父进程执行 fork 创建子进程,fork 过程中父进程会阻塞,通过 info stats 命令查看 latest_fork_usec 选项,可以获取最近一次 fork 操作的耗时,单位为微秒。
- 父进程 fork 完成后,bgsave 命令返回 “Background saving started” 信息并不再阻塞父进程,可以继续响应其他命令。
- 子进程创建 RDB 文件,根据父进程内存生成临时快照文件,完成后对原有文件进行原子替换。执行 lastsave 命令可以获取最后一次生成 RDB 的时间,对应 info 统计的 rdb_last_save_time 选项。
- 进程发送信号给父进程表示完成,父进程更新统计信息。
RDB 文件的处理
保存:
RDB 文件保存在 dir 配置指定的目录(默认 /var/lib/redis/)下,文件名通过 dbfilename 配置(默认 dump.rdb)指定。在 Redis 运行时使用config set dir {newDir} 和 config set dbfilename {newFilename} 命令动态更改保存目录和文件名,当下次运行时 RDB 文件会保存到新目录。
CONFIG SET dir /new/directory/
CONFIG SET dbfilename newdump.rdb
压缩:
Redis 默认采用 LZF 算法对生成的 RDB 文件做压缩处理,压缩后的文件远远小于内存大小,默认开启,可以通过参数 config set rdbcompression {yes|no} 动态修改。
CONFIG SET rdbcompression yes # 开启RDB文件压缩
CONFIG SET rdbcompression no # 禁用RDB文件压缩
压缩 RDB 会消耗 CPU,但可以大幅降低文件的体积,方便保存到硬盘或通过网络发送到从节点
校验:
如果 Redis 启动时加载到损坏的 RDB 文件会拒绝启动。这时可以使用 Redis 提供的 redis-check-dump 工具检测 RDB 文件并获取对应的错误报告
RDB 的优缺点
- 优点
- RDB 是一个紧凑压缩的二进制文件,代表 Redis 在某个时间点上的数据快照。适用于备份,全量复制等场景。比如每 6 小时执行 bgsave 备份,并把 RDB 文件复制到远程机器或者文件系统中(如 hdfs)用于灾备
- Redis 加载 RDB 恢复数据远远快于 AOF 的方式。
- 缺点
- RDB 方式数据没办法做到实时持久化 / 秒级持久化。因为 bgsave 每次运行都要执行 fork 创建子进程,属于重量级操作,频繁执行成本过高。
- RDB 文件使用特定二进制格式保存,Redis 版本演进过程中有多个 RDB 版本,兼容性可能有风险。
rdb 文件出现错误
如果文件末尾错误,不会影响前面的内容。如果是中间位置错误,则不一定不会影响前面的内容