Redis持久化_reading the configuration file, at line 2297 redis-优快云博客

本文链接：https://blog.youkuaiyun.com/weixin_54624846/article/details/145235455

Redis为什么需要做持久化

Redis 需要持久化主要是为了确保数据在服务器重启或崩溃后不会丢失。

Redis持久化方案有三种 RDB快照，AOF以及 Redis 4.0 混合持久化

RDB快照（snapshot）

在默认情况下， Redis 将内存数据库快照保存在名字为 dump.rdb 的二进制文件中。（在某个时刻达到某个条件一次性把缓存中的数据写入到rdb文件中）。

你可以对 redis.conf进行设置，让它在“ N 秒内数据集至少有 M 个改动”这一条件被满足时，自动保存一次数据集。

save命令有一个缺点：redis内存可能会比较大，他是一个同步命令，在执行时会阻塞Redis的主线程，导致Redis处理不了其他的请求，所以就需要用到下面这种机制

bgsave的写时复制(COW)机制

Redis 借助操作系统提供的写时复制技术（Copy-On-Write, COW），在生成快照的同时，依然可以正常

处理写命令。简单来说，bgsave 子进程是由主线程 fork 生成的，可以共享主线程的所有内存数据。

bgsave 子进程运行后，开始读取主线程的内存数据，并把它们写入 RDB 文件。此时，如果主线程对这些

数据也都是读操作，那么，主线程和 bgsave 子进程相互不影响。但是，如果主线程要修改一块数据，那

么，这块数据就会被复制一份，生成该数据的副本。然后，bgsave 子进程会把这个副本数据写入 RDB 文

件，而在这个过程中，主线程仍然可以直接修改原来的数据。

save与bgsave对比：

命令	save	bgsave
IO类型	同步	异步
是否阻塞redis其它命令	是	否(在生成子进程执行调用fork函数时会有短暂阻塞)
复杂度	O(n)	O(n)
优点	不会消耗额外内存	不阻塞客户端命令
缺点	阻塞客户端命令	需要fork子进程，消耗内存

配置自动生成rdb文件后台使用的是bgsave方式。

示例：

假设 BGSAVE 开始时，内存中有键 key1 的值为 A：

子进程开始写入 key1=A 到 RDB 文件。
主线程将 key1 修改为 B。
Redis 会复制 key1 的内存页，子进程继续写入 key1=A，而主线程使用新的内存页存储 key1=B。
写入完成后，用新的 RDB 文件替换旧的 RDB 文件。

由此可以看出：在 Redis 执行 BGSAVE 时，只能保证最终一致性，而不能保证实时一致性。

bgsave是一条命令所以我们可以在连接客户端之后输入bgsave运行

rdb这种持久化方式可能会导致我们丢数据：

RDB 是周期性执行的（例如每 5 分钟或 1 小时一次）。
如果在上一次快照后 Redis 崩溃，那么从上一次快照到崩溃之间的所有写操作都会丢失。

AOF（append-only file）

你可以通过修改配置文件（redis.conf）来打开 AOF 功能：

1 # appendonly yes

从现在开始，每当 Redis 执行一个改变数据集的命令时（比如 SET），这个命令就会被追加到 AOF 文件的末尾。

这样的话，当 Redis 重新启动时，程序就可以通过重新执行 AOF 文件中的命令来达到重建数据集的目的。

你可以配置 Redis 多久才将数据 fsync 到磁盘一次。

有三个选项：

1 appendfsync always：每次有新命令追加到 AOF 文件时就执行一次 fsync ，非常慢，也非常安全。

2 appendfsync everysec：每秒 fsync 一次，足够快，并且在故障时只会丢失 1 秒钟的数据。

3 appendfsync no：从不 fsync ，将数据交给操作系统来处理。更快，也更不安全的选择。

推荐（并且也是默认）的措施为每秒 fsync 一次，这种 fsync 策略可以兼顾速度和安全性。

AOF 持久化，将 修改的每一条指令记录进文件appendonly.aof中(先写入os cache，每隔一段时间 fsync到磁盘)

比如执行命令 “set liuyulin 666”，aof文件里会记录如下数据

1 *3

2 $3

3 set

4 $5

5 liuyulin

6 $3

7 666

这是一种resp协议格式数据，星号后面的数字代表命令有多少个参数，$号后面的数字代表这个参数有几个字符

示例：

注意，如果执行带过期时间的set命令，aof文件里记录的是并不是执行的原始命令，而是记录key过期的 时间戳

比如执行 “set liuyulin 888 ex 1000”，对应aof文件里记录如下

1 *3

2 $3

3 set

4 $8

5 liuyulin

6 $3

7 888

8 *3

9 $9

10 PEXPIREAT

11 $8

12 liuyulin

13 $13

14 1604249786301

AOF重写

AOF文件里可能有太多没用指令，所以AOF会定期根据 内存的最新数据生成aof文件

例如，执行了如下几条命令：

1 127.0.0.1:6379> incr readcount

2 (integer) 13 127.0.0.1:6379> incr readcount

4 (integer) 2

5 127.0.0.1:6379> incr readcount

6 (integer) 3

7 127.0.0.1:6379> incr readcount

8 (integer) 4

9 127.0.0.1:6379> incr readcount

10 (integer) 5

重写后AOF文件里变成

1 *3

2 $3

3 SET

4 $2

5 readcount

6 $1

7 5

如下两个配置可以控制AOF自动重写频率

1 # auto ‐aof‐rewrite‐min‐ size 64mb //aof文件至少要达到64M才会自动重写，文件太小恢复速度本来就很快，重写的意义不大

2 # auto ‐aof‐rewrite‐ percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写

当然AOF还可以手动重写，进入redis客户端执行命令 bgrewriteaof重写AOF

注意， AOF重写redis会fork出一个子进程去做(与bgsave命令类似)，不会对redis正常命令处理有太多 影响

RDB 和 AOF ，我应该用哪一个？

命令	RDB	AOF
启动优先级	低	高
体积	小	大
恢复速度	快	慢
数据安全性	容易丢数据	根据策略决定

生产环境可以都启用，redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据，因为aof一般来说数据更全一点。

Redis 4.0 混合持久化

重启 Redis 时，我们很少使用 RDB来恢复内存状态，因为会丢失大量数据。我们通常使用 AOF 日志重放，但是重放 AOF 日志性能相对 RDB来说要慢很多，这样在 Redis 实例很大的情况下，启动需要花费很长的时间。 Redis 4.0 为了解决这个问题，带来了一个新的持久化选项——混合持久化。

通过如下配置可以开启混合持久化( 必须先开启aof)：

1 # aof ‐use‐rdb‐preamble yes

如果开启了混合持久化， AOF在重写时，不再是单纯将内存数据转换为RESP命令写入AOF文件，而是将重写 这一刻之前的内存做RDB快照处理，并且将RDB快照内容和 增量的AOF修改内存数据的命令存在一起，都写入新的AOF文件，新的文件一开始不叫appendonly.aof，等到重写完新的AOF文件才会进行改名，覆盖原有的AOF文件，完成新旧两个AOF文件的替换。

于是在 Redis 重启的时候，可以先加载 RDB 的内容，然后再重放增量 AOF 日志就可以完全替代之前的AOF 全量文件重放，因此重启效率大幅得到提升。

混合持久化AOF文件结构如下

redis7.0开始就把这个aof拆分成三个文件以优化重写过程并提高可靠性。

示例

1. `appendonly.aof.1.base.rdb`

作用：这是 AOF 重写过程中生成的 基础 RDB 文件。
生成时机：当 Redis 执行 AOF 重写时，会先创建一个 RDB 文件，保存当前内存中的数据快照。
内容：包含 AOF 重写开始时 Redis 内存中的所有数据。
特点：
- 文件格式是 RDB 格式，而不是 AOF 格式。
- 作为 AOF 重写的基础数据文件。

2. `appendonly.aof.1.incr.aof`

作用：这是 AOF 重写过程中生成的 增量 AOF 文件。
生成时机：在 AOF 重写期间，Redis 会继续处理写操作，这些写操作会被记录到增量 AOF 文件中。
内容：包含 AOF 重写期间发生的所有写操作。
特点：
- 文件格式是 AOF 格式。
- 与基础 RDB 文件（appendonly.aof.1.base.rdb）结合，可以完整恢复数据。

3. `appendonly.aof.manifest`

作用：这是一个 清单文件，用于管理 AOF 文件的版本和组成。
内容：记录了当前 AOF 文件的组成，包括基础 RDB 文件和增量 AOF 文件的名称和顺序。
特点：
- 文件格式是文本格式，内容类似于：
  
  plaintext
  
  复制
```
file appendonly.aof.1.base.rdb seq 1 type b
file appendonly.aof.1.incr.aof seq 1 type i
```
- Redis 在启动时会读取 manifest 文件，确定需要加载的 AOF 文件。
这些文件是 Redis 混合持久化机制的体现，结合了 RDB 和 AOF 的优点，既能快速恢复数据，又能保证数据的实时性和完整性。