redis系列5-集群

本文围绕Redis展开,介绍了主从复制,包括配置、延迟处理、复制流程和同步数据方式等;阐述了集群可解决主节点性能局限,采用虚拟槽分区;还讲解了哨兵机制,其能自动完成故障发现和转移,包含任务、主观与客观下线判断及故障转移流程。

1.主从复制

在从节点配置文件中加上slaveof 主节点ip,并且设置上只读slave-read-only=yes。主从复制肯定是有延迟的,repl-disable-tcp-nodelay参数决定是否关闭TCP_NODELAY,默认为关闭。关闭时无论大小都会及时发布到从节点,占带宽,适用于主从网络好的场景。开启时主节点合并所有数据成TCP包节省带宽,默认为40毫秒发一次。
主从复制时,为提供主节点的高并发,可以让从节点进行持久化。
(1)复制的流程

  • 保存主节点信息
  • 主从建立socket连接
  • 发送ping命令
  • 权限验证
  • 同步数据集

(2)同步数据
redis 2.8版本以上使用psync命令完成同步,过程分全量与部分复制。
全量复制:一般用于初次复制场景(第一次建立SLAVE后全量)
部分复制:网络出现问题,从节占再次连主时,主节点补发缺少的数据,每次 数据增加同步
心跳:主从有长连接心跳,主节点默认每10S向从节点发ping命令,repl-ping-slave-period控制发送频率。

2.集群

主从复制有个问题是主节点的内存、并发性能毕竟还是有限的。集群可以解决这个问题,将数据存储和访问分散到不同节点。
(1)分布规则
分区规则有hash分区和顺序分区。我们平时用的都是hash分区。

2.1 hash分区

hash分区有取余、一致性哈希分区和虚拟槽分区。redis用了虚拟槽分区。
所有的键根据哈希函数(CRC16[key]&16383)映射到0-16383槽内,共16384个槽位,每个节点维护部分槽及槽所映射的键值数据。
注意:在集群中,不同的key可能分布在不同节点,所以批量如mset等操作不支持。而且事务也只支持单节点,数据库只有0一个。复制结构只支持单层结构,不支持树型结构。

3.哨兵

当主节点出现故障时,由哨兵自动完成故障发现和转移,并通知应用方,实现高可用性。如果有多个哨兵,会通过Raft算法实现选举机制,选出一个哨兵节点来完成转移和通知。

3.1哨兵的任务

哨兵有三个定时监控任务完成对各节点的发现和监控。
(1)每个哨兵节点每10秒会向主节点和从节点发送info命令获取最拓扑结构图,哨兵配置时只要配置对主节点的监控即可,通过向主节点发送info,获取从节点的信息,并当有新的从节点加入时可以马上感知到。
(2)每个哨兵节点每隔2秒会向redis数据节点的指定频道上发送该哨兵节点对于主节点的判断以及当前哨兵节点的信息,同时每个哨兵节点也会订阅该频道,来了解其它哨兵节点的信息及对主节点的判断,其实就是通过消息publish和subscribe来完成的。
(3)每隔1秒每个哨兵会向主节点、从节点及其余哨兵节点发送一次ping命令做一次心跳检测,这个也是哨兵用来判断节点是否正常的重要依据。

3.2 主观下线和客观下线

主观下线:哨兵节点每隔1秒对主节点和从节点、其它哨兵节点发送ping做心跳检测,当这些心跳检测时间超过down-after-milliseconds时,哨兵节点则认为该节点错误或下线,这叫主观下线;这可能会存在错误的判断。
客观下线:当有节点被主观判断下线后,此时该哨兵节点会通过指令sentinel is-masterdown-by-addr寻求其它哨兵节点对主节点的判断,当超过quorum(法定人数)个数,此时哨兵节点则认为该主节点确实有问题,这样就客观下线了。
主观下线会触发客观下线。
当客观下线节点是主节点时候,触发故障转移。

3.3 故障转移

发生故障的时候,需要选举出来一个哨兵进行故障转移工作。
领导者哨兵选举流程:
(1)每个在线的哨兵节点都可以成为领导者,当它确认主节点下线时,会向其它哨兵发is-master-down-by-addr命令,征求判断并要求将自己设置为领导者,由领导者处理故障转移;
(2)当其它哨兵收到此命令时,可以同意或者拒绝它成为领导者;
(3)如果哨兵发现自己在选举的票数大于等于num(sentinels)/2+1时,将成为领导者,如果没有超过,继续选举。
故障转移流程:
(1)由Sentinel节点定期监控发现主节点是否出现了故障
sentinel会向master发送心跳PING来确认master是否存活,如果master在“一定时间范围”内不回应PONG 或者是回复了一个错误消息,那么这个sentinel会主观地(单方面地)认为这个master已经不可用了
(2)当主节点出现故障,此时3个Sentinel节点共同选举了Sentinel3节点为领导,负载处理主节点的故障转移,
(3)由Sentinel3领导者节点执行故障转移。
首先选择主节点:

  • 过滤掉不健康的(下线或断线),没有回复过哨兵ping响应的从节点
  • 选择salve-priority从节点优先级最高(redis.conf)
  • 选择复制偏移量最大,指复制最完整的从节点

(4)主节点选择后,它脱离原从节点,升级主节点。其他从节点指向新的主节点,原主节点变成从节点,指向新的主节点,通知客户端主节点已更换。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值