两台机模拟6个节点,一台机器三个节点,创建出3个master,3个slave环境。
两台虚拟机ip
192.168.8.174
192.168.8.222
1、下载并解压
下载到/root目录
wget http://download.redis.io/releases/redis-3.2.4.tar.gz
tar -zxvf redis-3.2.4.tar.gz
2、编译安装
cd redis-3.2.4
make && make install
3、将 redis-trib.rb 复制到 /usr/local/bin 目录下
cd src
cp redis-trib.rb /usr/local/bin/
4、在/root/redis-3.2.4目录下新建redis_cluster目录
cd /root/redis-3.2.4
mkdir redis_cluster
在 redis_cluster 目录下,创建名为7000、7001、7002的目录,并将 redis.conf 拷贝到这三个目录中
mkdir 7000 7001 7002
cp ../redis.conf 7000
cp ../redis.conf 7001
cp ../redis.conf 7002
分别修改这三个配置文件,修改如下内容
port 7000 //端口7000,7002,7003
bind 本机ip //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群
daemonize yes //redis后台运行
pidfile /var/run/redis_7000.pid //pidfile文件对应7000,7001,7002
cluster-enabled yes //开启集群 把注释#去掉
cluster-config-file nodes_7000.conf //集群的配置 配置文件首次启动自动生成 7000,7001,7002
cluster-node-timeout 15000 //请求超时 默认15秒,可自行设置
appendonly yes //aof日志开启 有需要就开启,它会每次写操作都记录一条日志
另外一台机192.168.8.222的操作重复上面,只是把目录改为7003,7004,7005,配置文件修改规则同上。
5、启动各个节点
在192.168.8.174上执行
redis-server redis_cluster/7000/redis.conf
redis-server redis_cluster/7001/redis.conf
redis-server redis_cluster/7002/redis.conf
在192.168.8.222上执行
redis-server redis_cluster/7003/redis.conf
redis-server redis_cluster/7004/redis.conf
redis-server redis_cluster/7005/redis.conf
6、监控redis进程
在192.168.8.174上执行ps命令
[root@localhost redis-3.2.4]# ps -ef|grep redis
root 78153 1 0 09:18 ? 00:00:00 redis-server 192.168.8.174:7000 [cluster]
root 78163 1 0 09:18 ? 00:00:00 redis-server 192.168.8.174:7001 [cluster]
root 78175 1 0 09:18 ? 00:00:00 redis-server 127.0.0.1:7002 [cluster]
root 78228 72852 0 09:19 pts/0 00:00:00 grep --color=auto redis
[root@localhost redis-3.2.4]# netstat -tnlp |grep redis
tcp 0 0 192.168.8.174:17000 0.0.0.0:* LISTEN 78153/redis-server
tcp 0 0 192.168.8.174:17001 0.0.0.0:* LISTEN 78163/redis-server
tcp 0 0 127.0.0.1:17002 0.0.0.0:* LISTEN 78175/redis-server
tcp 0 0 192.168.8.174:7000 0.0.0.0:* LISTEN 78153/redis-server
tcp 0 0 192.168.8.174:7001 0.0.0.0:* LISTEN 78163/redis-server
tcp 0 0 127.0.0.1:7002 0.0.0.0:* LISTEN 78175/redis-server
在192.168.8.222上执行ps命令
[root@localhost redis-3.2.4]# ps -ef |grep redis
root 7397 1 0 09:18 ? 00:00:00 redis-server 192.168.8.222:7003 [cluster]
root 7401 1 0 09:18 ? 00:00:00 redis-server 192.168.8.222:7004 [cluster]
root 7405 1 0 09:18 ? 00:00:00 redis-server 192.168.8.222:7005 [cluster]
root 7409 7361 0 09:20 pts/2 00:00:00 grep --color=auto redis
[root@localhost redis-3.2.4]# netstat -tnlp |grep redis
tcp 0 0 192.168.8.222:17003 0.0.0.0:* LISTEN 7397/redis-server 1
tcp 0 0 192.168.8.222:17004 0.0.0.0:* LISTEN 7401/redis-server 1
tcp 0 0 192.168.8.222:17005 0.0.0.0:* LISTEN 7405/redis-server 1
tcp 0 0 192.168.8.222:7003 0.0.0.0:* LISTEN 7397/redis-server 1
tcp 0 0 192.168.8.222:7004 0.0.0.0:* LISTEN 7401/redis-server 1
tcp 0 0 192.168.8.222:7005 0.0.0.0:* LISTEN 7405/redis-server 1
7、创建集群
Redis 官方提供了 redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/bin 目录中,但是执行这个工具需要ruby环境,所以需要安装ruby。
安装链接地址参考https://www.cnblogs.com/PatrickLiu/p/8454579.html
安装好之后运行redis-trib.rb命令,见如下:
redis-trib.rb create --replicas 1 192.168.8.174:7000 192.168.8.174:7001 192.168.8.174:7002 192.168.8.222:7003 192.168.8.222:7004 192.168.8.222:7005
8、集群验证
在192.168.8.174上连接7002端口的节点,在192.168.8.222连接7005端口节点,其中一个节点设置,另外一方取值,如下:
[root@localhost 7002]# redis-cli -h 192.168.8.174 -c -p 7002
192.168.8.174:7002> set author huangbaokang
-> Redirected to slot [7142] located at 192.168.8.222:7003
OK
192.168.8.222:7003> keys *
1) "author"
192.168.8.222:7003>
发现被落在了192.168.8.222:7003
另外节点获取:
[root@localhost ruby-2.6.1]# redis-cli -h 192.168.8.222 -c -p 7005
192.168.8.222:7005> keys *
(empty list or set)
192.168.8.222:7005> get author
-> Redirected to slot [7142] located at 192.168.8.222:7003
"huangbaokang"
192.168.8.222:7003> keys *
1) "author"
刚开始查询keys *的时候,是空的,但获取author时,从192.168.8.222:7003获取的
模拟192.168.8.222:7003redis服务宕机。
[root@localhost ruby-2.6.1]# ps -ef|grep redis
root 1404 7361 0 10:57 pts/2 00:00:00 grep --color=auto redis
root 7397 1 0 09:18 ? 00:00:10 redis-server 192.168.8.222:7003 [cluster]
root 7401 1 0 09:18 ? 00:00:10 redis-server 192.168.8.222:7004 [cluster]
root 7405 1 0 09:18 ? 00:00:10 redis-server 192.168.8.222:7005 [cluster]
[root@localhost ruby-2.6.1]# kill -9 7397
从192.168.8.174:7002端口再次尝试获取
[root@localhost 7002]# redis-cli -h 192.168.8.174 -c -p 7002
192.168.8.174:7002> keys *
1) "author"
192.168.8.174:7002> get author
"huangbaokang"
从192.168.8.174:7000端口来获取
[root@localhost 7002]# redis-cli -h 192.168.8.174 -c -p 7000
192.168.8.174:7000> keys *
(empty list or set)
192.168.8.174:7000> get author
-> Redirected to slot [7142] located at 192.168.8.174:7002
"huangbaokang"
192.168.8.174:7002>
发现执行keys *的时候,由于是第一次,显示空,但获取author键值的时候,从192.168.8.174:7002获取的,这个获取是根据一套算法命中的。
集群原理简单说明
redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。
Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候,直接跳转到了7000端口的节点。
Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 。
需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。