Redis持久化
RDB快照(snapshot)
在默认的情况下Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中。
可以在redis.conf文件中查看dir查看dump.rdb所处路径
可以对Redis进行设置,让它在“N秒内数据集至少有M个改动”这一条件满足时,进行保存一次数据集。
save 60 10000 当60秒内至少有10000个键被改动时,自动保存一次数据集。
还可以手动执行命令生成RDB快照,进入Redis客户端执行命令save或者bgsave可以生成dump.rdb文件,每次命令执行都会将所有的redis内存快照到一个新的rdb文件里,并覆盖原有的rdb快照文件。
save与bgsave对比
命令 | save | bgsave |
---|---|---|
IO类型 | 同步 | 异步 |
是否阻塞redis其他命令 | 是 | 否(在生成子进程执行调用fork函数时会有短暂的阻塞) |
复杂度 | O(n) | O(n) |
优点 | 不会额外消耗内存 | 不会阻塞客户端命令 |
缺点 | 阻塞客户端命令 | 需要fork子进程,消耗内存 |
bgsave的写时复制(COW)机制
Redis借助操作系统提供的写时复制技术(Copy-On-Write),在生成快照的同时,依然可以正常处理命令。简单来说,bgsave子进程是由主线程fork生成的,可以共享主线程的所有内存数据。bgsave子进程运行后,开始读取主线程的内存数据并将它们写入rdb文件。此时,如果主线程对着数据是进行读操作,那么互不影响。如果主线程进行写操作时,那么这块数据也会备份一份,生成该数据的副本,然后就bgsave子进程会把这个副本数据写入RDB文件中。而在这个过程中,主线程仍可以直接修改原本的数据。
AOF(Append-Only File)
将修改的每一条指令记录文件appendonly.aof中(先写入os cache,每隔一段时间fsync到磁盘)
在redis.conf文件中appendonly修改为yes开启AOF,默认为no
每当redi执行一个改变数据集的命令时,这个命令就会被追加到AOF文件的末尾。这样的话,当Redis重新启动时,程序就可以通过重新执行AOF文件中的命令来达到重建数据集的目的
Redis.conf可以配置多久才将数据fsync到磁盘一次
- appendfsync always:每次有新命令追加到AOF文件时就执行一次fsync,非常慢但非常安全。
- appendfsync everysec:每秒fsync一次,足够快,并且在故障的时候只会丢失1秒的数据
- appendfsync no:从不fsync,将数据交给操作系统来处理。更快,也更不安全。
AOP重写
当AOF文件中存在太多没用的指令时,AOF会定期根据内存的最新数据生成aof文件
如下命令
如下两个配置可以控制AOF自动重写频率
auto‐aof‐rewrite‐min‐size 64mb //aof文件至少要达到64M才会自动重写,文件太小恢复速度本来就很快,重写的意义不大
auto‐aof‐rewrite‐percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写
当然AOF也可以手动重写,进入redis客户端执行命令bgrewriteaof重写AOF
注意:AOF重写redis会fork出一个子进程去做(与bgsave命令相似),不会对redis正常命令处理有太多影响
AOF和RDB的选择
命令 | RDB | AOF |
---|---|---|
启动优先级 | 低 | 高 |
体积 | 小 | 大 |
恢复速度 | 快 | 慢 |
数据安全性 | 容易丢数据 | 根据策略决定 |
生产环境可以都启用,redis启动时如果既有RDB又有AOF,则优先选择AOF文件恢复数据,因为AOF一般来说数据更全一点。
Redis4.0混合持久化
重启Redis时,我们很少使用RDB来恢复内存状态,因为会丢失大量数据。通常我们使用AOF日志重放,但是AOF重放相对于RDB来说要慢很多,这样在Redis实例很大的情况下,启动需要花费很长的时间。Redis4.0为了解决这个问题,带来了一个新的持久化选项——混合持久化。
通过配置可以开启混合持久化(必须要先开启AOF)
如果开启了混合持久化,AOF在重写时, 不再是单纯的将内存数据转换成RESP命令写入AOF文件,而是将重写这一刻之前的内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令放在一起,都写入新的AOF文件,新的文件一开始不叫appendonly.aof,等到重写完新的AOF文件才会进行改名,覆盖原有的AOF文件,完成新旧两个AOF文件的替换。
于是在Redis重启的时候,可以先加载RDB的内容,然后再重放新增AOF日志就可以完全替代之前的AOF全量文件重放,因此重启效率得到大幅度提升。
Redis数据备份策略
- 写crontab定时调度脚本,每小时都copy一份rdf或aof的备份到一个目录中去,仅仅保留最近48小时的备份。
- 每天都保留一份当日的数据备份到另外一个目录中去,可以保留最近1个月的备份
- 每次copy备份的时候,都把太旧的备份给删除
- 每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏。