Redis 主从复制 哨兵模式 集群 原理和流程

本文介绍了Redis主从复制的工作原理、全量与增量复制的区别,如何配置多台Redis从服务器,哨兵模式的监控与故障转移,以及集群的部署、槽位分配和故障恢复策略。还涉及了JedisSentinelPool的使用和Redis集群的优势与不足。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1在这里插入图片描述

复制原理

 Slave启动成功连接到master后会发送一个sync命令
  
Master接到命令启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令,
 在后台进程执行完毕之后,  master将传送整个数据文件到slave,以完成一次完全同步

全量复制:而slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。

增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步

 但是只要是重新连接master,一次完全同步(全量复制)将被自动执行

.主从复制

拷贝多个redis.conf文件include(写绝对路径)

开启daemonize yes

Pid文件名字pidfile

指定端口port

Log文件名字

dump.rdb名字dbfilename

Appendonly 关掉或者换名字

.新建redis6379.conf,填写以下内容
include /myredis/redis.conf

pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb

在这里插入图片描述

新建redis6380.conf,填写以下内容
在这里插入图片描述

新建redis6381.conf,填写以下内容

在这里插入图片描述
slave-priority 10
设置从机的优先级,值越小,优先级越高,用于选举主机时使用。默认100

查看三台主机运行情况

info replication

打印主从复制的相关信息

在这里插入图片描述

.配从(库)不配主(库)

slaveof  <ip><port>

成为某个实例的从服务器
1、在6380和6381上执行: slaveof 127.0.0.1 6379

2、在主机上写,在从机上可以读取数据
在从机上写数据报错

3、主机挂掉,重启就行,一切如初

4、从机重启需重设:slaveof 127.0.0.1 6379

.薪火相传

上一个Slave可以是下一个slave的Master,Slave同样可以接收其他 slaves的连接和同步请求,那么该slave作为了链条中下一个的master, 可以有效减轻master的写压力,去中心化降低风险。

用 slaveof  <ip><port>

中途变更转向:会清除之前的数据,重新建立拷贝最新的

风险是一旦某个slave宕机,后面的slave都没法备份

主机挂了,从机还是从机,无法写数据了
在这里插入图片描述在这里插入图片描述

反客为主

当一个master宕机后,后面的slave可以立刻升为master,其后面的slave不用做任何修改。

用 slaveof  no one  将从机变为主机。

在这里插入图片描述

哨兵模式

能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库

怎么设置哨兵模式

调整为一主二仆模式,6379带着6380、6381
在这里插入图片描述
自定义的/myredis目录下新建sentinel.conf文件,名字绝不能错

文件内容为

sentinel monitor mymaster 127.0.0.1 6379 1

其中mymaster为监控对象起的服务器名称, 1 为至少有多少个哨兵同意迁移的数量。

执行命令

执行

redis-sentinel  /myredis/sentinel.conf 

在这里插入图片描述

当主机挂掉,从机选举中产生新的主机

(大概10秒左右可以看到哨兵窗口日志,切换了新的主机)

哪个从机会被选举为主机呢?根据优先级别:slave-priority
原主机重启后会变为从机。

在这里插入图片描述

复制延时

由于所有的写操作都是先在Master上操作,然后同步更新到Slave上,所以从Master同步到Slave机器有
一定的延迟,当系统很繁忙的时候,延迟问题会更加严重,Slave机器数量的增加也会使这个问题更加严重。

故障恢复

优先级在redis.conf中默认:slave-priority 100,值越小优先级越高

偏移量是指获得原主机数据最全的

每个redis实例启动后都会随机生成一个40位的runid

在这里插入图片描述

优先级在redis.conf中默认:slave-priority 100,值越小优先级越高
偏移量是指获得原主机数据最全的

偏移量是指 哪一台从机与主机的同步的数据哪个最多
每个redis实例启动后都会随机生成一个40位的runid

哨兵模式配置JedisSentinelPool

    private static JedisSentinelPool jedisSentinelPool = null;

    public static Jedis getJedisFromSentinel() {
        if (jedisSentinelPool == null) {
            Set<String> sentinelSet = new HashSet<>();
            sentinelSet.add("192.168.11.103:26379");

            JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
            jedisPoolConfig.setMaxTotal(10); //最大可用连接数
            jedisPoolConfig.setMaxIdle(5); //最大闲置连接数
            jedisPoolConfig.setMinIdle(5); //最小闲置连接数
            jedisPoolConfig.setBlockWhenExhausted(true); //连接耗尽是否等待
            jedisPoolConfig.setMaxWaitMillis(2000); //等待时间
            jedisPoolConfig.setTestOnBorrow(true); //取连接的时候进行一下测试 ping pong

            jedisSentinelPool = new JedisSentinelPool("mymaster", sentinelSet, jedisPoolConfig);
            return jedisSentinelPool.getResource();
        } else {
            return jedisSentinelPool.getResource();
        }
    }
解释

sentinelSet.add(“192.168.11.103:26379”); 这个为 哨兵模式的ip 和端口号

jedisSentinelPool = new JedisSentinelPool(“mymaster”, sentinelSet, jedisPoolConfig); mymaster为监控对象起的服务器名称

集群

问题
容量不够,redis如何进行扩容?

并发写操作, redis如何分摊?

另外,主从模式,薪火相传模式,主机宕机,导致ip地址发生变化,应用程序中配置需要修改对应的主机地址、端口等信息。

之前通过代理主机来解决,但是redis3.0中提供了解决方案。就是无中心化集群配置。

什么是集群

Redis 集群实现了对Redis的水平扩容,即启动N个redis节点,将整个数据库分布存储在这N个节点中,每个节点存储总数据的1/N。

Redis 集群通过分区(partition)来提供一定程度的可用性(availability): 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。

实现集群

删除持久化数据
将rdb,aof文件都删除掉。

制作6个实例,6379,6380,6381,6389,6390,6391

配置基本信息

开启daemonize yes

Pid文件名字

指定端口

Log文件名字

Dump.rdb名字

Appendonly 关掉或者换名字

redis cluster配置修改



cluster-enabled yes    打开集群模式

cluster-config-file nodes-6379.conf  设定节点配置文件名

cluster-node-timeout 15000   设定节点失联时间,超过该时间(毫秒),集群自动进行主从切换。
include /home/bigdata/redis.conf
port 6379
pidfile "/var/run/redis_6379.pid"
dbfilename "dump6379.rdb"
dir "/home/bigdata/redis_cluster"
logfile "/home/bigdata/redis_cluster/redis_err_6379.log"
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000

修改好redis6379.conf文件,拷贝多个redis.conf文件
在这里插入图片描述

如果是虚拟机
redis.conf中要添加 bind  虚拟机ip -: : 1,否则后面无法合体  (未测试过)

使用查找替换修改另外5个配置文件
在这里插入图片描述
在这里插入图片描述

启动6个redis服务
在这里插入图片描述
将六个节点合成一个集群

组合之前,请确保所有redis实例启动后,nodes-xxxx.conf文件都生成正常。

在这里插入图片描述
合体:

redis1 安装地址
cd  /opt/redis-6.2.1/src

注意 老版本的Redis 是没有Ruby 环境 需要安装 环境

安装指南

进入 src 文件中 执行

注意ip 是你真实的地址 不要用127.0.0.1,


redis-cli --cluster create --cluster-replicas 1 192.168.11.101:6379 192.168.11.101:6380 192.168.11.101:6381 192.168.11.101:6389 192.168.11.101:6390 192.168.11.101:6391

1 代表一个主有1个从,如果是2就代表一个主要有2个从

如果设置密码的

设置密码的 在这串后面加上  -a redis密码

查看命令用法: redis-cli --cluster help

此处不要用127.0.0.1, 请用真实IP地址

–replicas 1 采用最简单的方式配置集群,一台主机,一台从机,正好三组。

在这里插入图片描述
在这里插入图片描述
创建结束 会返回一个 16384 slots covered

普通方式登录

可能直接进入读主机,存储数据时,会出现MOVED重定向操作。所以,应该以集群方式登录。

在这里插入图片描述

-c 采用集群策略连接,设置数据会自动切换到相应的写主机

在这里插入图片描述
通过 cluster nodes 命令查看集群信息
在这里插入图片描述

redis cluster 如何分配这六个节点?

一个集群至少要有三个主节点。
选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。
分配原则尽量保证每个主数据库运行在不同的IP地址,每个从库和主库不在一个IP地址上。

什么是slots

[OK] All nodes agree about slots configuration.

Check for open slots…

Check slots coverage…

[OK] All 16384 slots covered.

一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个 

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

集群中的每个节点负责处理一部分插槽。 举个例子, 如果一个集群可以有主节点, 其中:

节点 A 负责处理 0 号至 5460 号插槽。
节点 B 负责处理 5461 号至 10922 号插槽。
节点 C 负责处理 10923 号至 16383 号插槽。

在集群中录入值

在redis-cli每次录入、查询键值,redis都会计算出该key应该送往的插槽,如果不是该客户端对应服务器的插槽,redis会报错,并告知应前往的redis实例地址和端口。

redis-cli客户端提供了 –c 参数实现自动重定向。

如 redis-cli -c –p 6379 登入后,再录入、查询键值对可以自动重定向。

不在一个slot下的键值,是不能使用mget,mset等多键操作。

在这里插入图片描述
可以通过{}来定义组的概念,从而使key中{}内相同内容的键值对放到一个slot中去。

在这里插入图片描述

查询集群中的值

CLUSTER GETKEYSINSLOT < slot > < count > 返回 count 个 slot 槽中的键。

在这里插入图片描述

故障恢复

如果主节点下线?从节点能否自动升为主节点?注意:15秒超时

从节点变为 主节点
在这里插入图片描述

原主节点恢复后,主从关系会如何?原主节点回来变成从机。

在这里插入图片描述

如果所有某一段插槽的主从节点都宕掉,redis服务是否还能继续?

如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为yes ,那么 ,整个集群都挂掉

如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为no ,那么,该插槽数据全都不能使用,也无法存储。

redis.conf中的参数 cluster-require-full-coverage

集群的Jedis开发

即使连接的不是主机,集群会自动切换主机存储。主机写,从机读。
无中心化主从集群。无论从哪台主机写的数据,其他主机上都能读到数据。

public class JedisClusterTest {
  public static void main(String[] args) { 
     Set<HostAndPort>set =new HashSet<HostAndPort>();
     set.add(new HostAndPort("192.168.31.211",6379));
     JedisCluster jedisCluster=new JedisCluster(set);
     jedisCluster.set("k1", "v1");
     System.out.println(jedisCluster.get("k1"));
  }
}

Redis 集群提供了以下好处

实现扩容
分摊压力
无中心配置相对简单

Redis 集群的不足

多键操作是不被支持的

多键的Redis事务是不被支持的。lua脚本不被支持

由于集群方案出现较晚,很多公司已经采用了其他的集群方案,而代理或者客户端分片的方案想要迁移至redis cluster,需要整体迁移而不是逐步过渡,复杂度较大。

### Redis 主从复制Redis架构中,主从复制是一种常见的高可用方案。通过`--cluster-replicas`参数指定每个主节点拥有的从属数量[^1]。这种配置使得即使某个主节点发生故障,其对应的从节点也能接管服务,从而提高系统的稳定性可靠性。 对于主从复制的具体实现,在启动多个Redis实例作为不同的节点时,可以通过命令行分别运行带有特定配置文件的Redis服务器来创建这些实例[^2]: ```bash redis-server /path/to/6001/redis.conf redis-server /path/to/6002/redis.conf redis-server /path/to/6003/redis.conf ``` 上述操作会基于各自独立的端口服务配置建立若干个相互关联但又彼此隔离的服务进程。 ### 哨兵机制 为了进一步增强Redis集群的安全性与稳定性,引入了哨兵(Sentinel)监控体系结构。它不仅能够自动检测并报告任何异常情况下的主机切换事件,还支持自动化故障转移过程中的协调工作。一旦发现当前正在使用的主节点出现问题无法正常提供读写访问权限,则由预先设定好的一组Sentinels共同决定选出新的领导者继续承担起原有角色的任务职责。 ### 集群配置与工作原理 关于集群的数据管理方面,值得注意的是集群内的各个成员仅能使用编号为零(即默认)的一个数据库来进行存储操作;相比之下,普通的单一模式下并没有这样的限定条件存在[^3]。这意味着开发者们如果希望利用多库特性的话就必须考虑其他解决方案而非单纯依赖于内置功能。 另外,在涉及到跨机器间传输大量数据的情况下,合理调整复制缓冲区大小(`repl-backlog-size`)及其超时时长(`repl-backlog-ttl`)显得尤为重要[^4]。这有助于确保在网络波动期间仍可顺利完成增量同步任务而不至于因为内存不足而导致全量重传等问题的发生。 最后,整个集群的工作流程大致如下:客户端向任意一个节点发起请求后,该节点负责将指令转发给实际持有目标key所在分片位置的那个具体实例去执行相应动作,并最终把结果返回给最初发出调用的一方完成交互闭环。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值