4.1--Redis总结之高可用篇(主从复制)---(温故而知新篇)--加油呀

文章详细介绍了Redis的主从复制机制,包括第一次全量复制的过程,主从服务器的命令传播,以及在网络断开后的增量复制策略。主从复制确保数据一致性,通过readwrite分离减轻主服务器压力,并讨论了如何通过调整repl_backlog_buffer大小来优化增量复制的性能。

关于主从复制

主从复制是怎么实现的?
在这里插入图片描述
主从复制模式:
这个模式可以保证多台服务器的数据一致性,且主从服务器之间采用的是「读写分离」的方式。

主服务器可以进行读写操作,当发生写操作时自动将写操作同步给从服务器,而从服务器一般是只读,并接受主服务器同步过来写操作命令,然后执行这条命令。

在这里插入图片描述
1.第一次同步

通过什么方式来确定谁是主服务器,或者谁是从服务器呢?

1.使用 replicaof(Redis 5.0 之前使用 slaveof)命令形成主服务器和从服务器的关系。

比如,现在有服务器 A 和 服务器 B,我们在服务器 B 上执行下面这条命令:

# 服务器 B 执行这条命令
replicaof <服务器 A 的 IP 地址> <服务器 A 的 Redis 端口号>

服务器 B 就会变成服务器 A 的「从服务器」,然后与主服务器进行第一次同步

主从服务器间的第一次同步的过程可分为三个阶段:

第一阶段是建立链接、协商同步;
第二阶段是主服务器同步数据给从服务器;
第三阶段是主服务器发送新写操作命令给从服务器。

在这里插入图片描述
第一阶段:建立链接、协商同步

执行了 replicaof 命令后,从服务器就会给主服务器发送 psync 命令,表示要进行数据同步
psync 命令包含两个参数,分别是主服务器的 runID 和复制进度 offset

主服务器收到 psync 命令后,会用 FULLRESYNC 作为响应命令返回给对方。

这个响应命令会带上两个参数:主服务器的 runID 和主服务器目前的复制进度 offset。从服务器收到响应后,会记录这两个值。

FULLRESYNC 响应命令的意图是采用全量复制的方式

第二阶段:主服务器同步数据给从服务器

主服务器会执行 bgsave 命令来生成 RDB 文件,然后把文件发送给从服务器。
从服务器收到 RDB 文件后,会先清空当前的数据,然后载入 RDB 文件
(主服务器生成 RDB 这个过程是不会阻塞主线程的,因为 bgsave 命令是产生了一个子进程来做生成 RDB 文件的工作,是异步工作的,这样 Redis 依然可以正常处理命令)

这期间的写操作命令并没有记录到刚刚生成的 RDB 文件中,这时主从服务器间的数据就不一致了。

为了保证主从服务器的数据一致性
主服务器在下面这三个时间间隙中将收到的写操作命令,写入到 replication buffer 缓冲区里:

1.主服务器生成 RDB 文件期间;
2.主服务器发送 RDB 文件给从服务器期间;
3.「从服务器」加载 RDB 文件期间;

第三阶段:主服务器发送新写操作命令给从服务器

1.主服务器生成的 RDB 文件发送完,从服务器收到 RDB 文件后,丢弃所有旧数据,将 RDB 数据载入到内存。完成 RDB 的载入后,会回复一个确认消息给主服务器。
2.接着,主服务器将 replication buffer 缓冲区里所记录的写操作命令发送给从服务器,从服务器执行来自主服务器 replication buffer 缓冲区里发来的命令,这时主从服务器的数据就一致了。

2.命令传播

主从服务器在完成第一次同步后,双方之间就会维护一个 TCP 连接。

在这里插入图片描述

后续主服务器可以通过这个连接继续将写操作命令传播给从服务器,然后从服务器执行该命令,使得与主服务器的数据库状态相同。

这个连接是长连接的,目的是避免频繁的 TCP 连接和断开带来的性能开销

3.分摊主服务器的压力
主从服务器在第一次数据同步的过程中,主服务器会做两件耗时的操作:生成 RDB 文件和传输 RDB 文件。

主服务器是可以有多个从服务器的,如果从服务器数量非常多,而且都与主服务器进行全量同步的话,就会带来两个问题:

1.由于是通过 bgsave 命令来生成 RDB 文件的,那么主服务器就会忙于使用 fork() 创建子进程,如果主服务器的内存数据非大,在执行 fork() 函数时是会阻塞主线程的,从而使得 Redis 无法正常处理请求;
2.传输 RDB 文件会占用主服务器的网络带宽,会对主服务器响应命令请求产生影响

主服务器生成 RDB 和传输 RDB 的压力可以分摊到充当经理角色的从服务器
在这里插入图片描述

怎么做到的呢?

在「从服务器」上执行下面这条命令,使其作为目标服务器的从服务器

replicaof <目标服务器的IP> 6379

如果目标服务器本身也是「从服务器」,那么该目标服务器就会成为「经理」的角色,不仅可以接受主服务器同步的数据,也会把数据同步给自己旗下的从服务器,从而减轻主服务器的负担。

4.增量复制

只会把网络断开期间主服务器接收到的写操作命令,同步给从服务器。

主要有三个步骤

  1. 从服务器在恢复网络后,会发送 psync 命令给主服务器,此时的 psync 命令里的 offset 参数不是 -1;
    2.主服务器收到该命令后,然后用 CONTINUE 响应命令告诉从服务器接下来采用增量复制的方式同步数据;
    3.然后主服务将主从服务器断线期间,所执行的写命令发送给从服务器,然后从服务器执行这些命令

主服务器怎么知道要将哪些增量数据发送给从服务器呢?

1.repl_backlog(积压)_buffer(缓冲器),是一个「环形」缓冲区,用于主从服务器断连后,从中找到差异的数据;
2.replication(复制) offset,标记上面那个缓冲区的同步进度,主从服务器都有各自的偏移量,主服务器使用 master_repl_offset 来记录自己「写」到的位置,从服务器使用 slave_repl_offset 来记录自己「读」到的位置。

repl_backlog_buffer 缓冲区是什么时候写入的呢?

在主服务器进行命令传播时,不仅会将写命令发送给从服务器,还会将写命令写入到 repl_backlog_buffer 缓冲区里,因此这个缓冲区里会保存着最近传播的写命令

网络断开后,当从服务器重新连上主服务器时,从服务器会通过 psync 命令将自己的复制偏移量 slave_repl_offset 发送给主服务器,主服务器根据自己的 master_repl_offset 和 slave_repl_offset 之间的差距,然后来决定对从服务器执行哪种同步操作:

1.如果判断出从服务器要读取的数据还在 repl_backlog_buffer 缓冲区里,那么主服务器将采用增量同步的方式;
2.如果判断出从服务器要读取的数据已经不存在 repl_backlog_buffer 缓冲区里,那么主服务器将采用全量同步的方式。

当主服务器在 repl_backlog_buffer 中找到主从服务器差异(增量)的数据后,就会将增量的数据写入到 replication buffer 缓冲区

在这里插入图片描述

repl_backlog_buffer 缓行缓冲区的默认大小是 1M,由于它是一个环形缓冲区,所以当缓冲区写满后,主服务器继续写入的话,就会覆盖之前的数据。
因此,当主服务器的写入速度远超于从服务器的读取速度,缓冲区的数据一下就会被覆盖。

那么在网络恢复时,如果从服务器想读的数据已经被覆盖了,主服务器就会采用全量同步,这个方式比增量同步的性能损耗要大很多。

为了避免在网络恢复时,主服务器频繁地使用全量同步的方式,我们应该调整下 **repl_backlog_buffer 缓冲区大小,尽可能的大一些,**减少出现从服务器要读取的数据被覆盖的概率,从而使得主服务器采用增量同步的方式。

repl_backlog_buffer 缓冲区具体要调整到多大呢?

在这里插入图片描述

second 为从服务器断线后重新连接上主服务器所需的平均 时间(以秒计算)。
write_size_per_second 则是主服务器平均每秒产生的写命令数据量大小。

为了应对一些突发的情况,可以将 repl_backlog_buffer 的大小设置为此基础上的 2 倍,也就是 10 MB。

关于 repl_backlog_buffer 大小修改的方法,只需要修改配置文件里下面这个参数项的值就可以。

repl-backlog-size 1mb

总结
主从复制共有三种模式:全量复制、基于长连接的命令传播、增量复制。

1.主从服务器第一次同步的时候,就是采用全量复制,此时主服务器会两个耗时的地方,分别是生成 RDB 文件和传输 RDB文件。为了避免过多的从服务器和主服务器进行全量复制,可以把一部分从服务器升级为「经理角色」,让它也有自己的从服务器,通过这样可以分摊主服务器的压力。

2.第一次同步完成后,主从服务器都会维护着一个长连接,主服务器在接收到写操作命令后,就会通过这个连接将写命令传播给从服务器,来保证主从服务器的数据一致性。

3.如果遇到网络断开,会增量复制,不过这个还跟 repl_backlog_size 这个大小有关系。

(如果它配置的过小,主从服务器网络恢复时,可能发生「从服务器」想读的数据已经被覆盖了,那么这时就会导致主服务器采用全量复制的方式)
所以为了避免这种情况的频繁发生,要调大这个参数的值,以降低主从服务器断开后全量同步的概率。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值