keepalived实现主备高可用部署

一、keepalived简介

1、keepalived是什么？

Keepalived 软件起初是专为LVS负载均衡软件设计的，用来管理并监控LVS集群系统中各个服务节点的状态，后来又加入了可以实现高可用的VRRP功能。因此，Keepalived除了能够管理LVS软件外，还可以作为其他服务（例如：Nginx、Haproxy、MySQL等）的高可用解决方案软件。
Keepalived软件主要是通过VRRP协议实现高可用功能的。VRRP是Virtual Router RedundancyProtocol(虚拟路由器冗余协议）的缩写，VRRP出现的目的就是为了解决静态路由单点故障问题的，它能够保证当个别节点宕机时，整个网络可以不间断地运行。
所以，Keepalived 一方面具有配置管理LVS的功能，同时还具有对LVS下面节点进行健康检查的功能，另一方面也可实现系统网络服务的高可用功能。
Keepalived官网：http://www.keepalived.org/

2、Keepalived的重要功能

keepalived 有三个重要的功能，分别是：
（1）管理LVS负载均衡软件
（2）实现LVS集群节点的健康检查
（3）作为系统网络服务的高可用性

3、keepalived高可用故障转移的原理

Keepalived 高可用服务之间的故障切换转移，是通过 VRRP (Virtual Router Redundancy Protocol ,虚拟路由器冗余协议）来实现的。
在 Keepalived 服务正常工作时，主 Master 节点会不断地向备节点发送（多播的方式）心跳消息，用以告诉备 Backup 节点自己还活看，当主 Master 节点发生故障时，就无法发送心跳消息，备节点也就因此无法继续检测到来自主 Master 节点的心跳了，于是调用自身的接管程序，接管主 Master 节点的 IP 资源及服务。而当主 Master 节点恢复时，备 Backup 节点又会释放主节点故障时自身接管的IP资源及服务，恢复到原来的备用角色。

二、keepalived原理

Keepalived高可用对之间是通过VRRP通信的，因此，我们从 VRRP开始了解起：
（1） VRRP,全称 Virtual Router Redundancy Protocol,中文名为虚拟路由冗余协议，VRRP的出现是为了解决静态路由的单点故障。
（2）VRRP是通过一种竟选协议机制来将路由任务交给某台 VRRP路由器的。
（3）VRRP用 IP多播的方式（默认多播地址（224.0.0.18))实现高可用对之间通信。
（4）工作时主节点发包，备节点接包，当备节点接收不到主节点发的数据包的时候，就启动接管程序接管主节点的资源。备节点可以有多个，通过优先级竞选，但一般 Keepalived系统运维工作中都是一对。
（5）VRRP使用了加密协议加密数据，但Keepalived官方目前还是推荐用明文的方式配置认证类型和密码。
介绍完 VRRP,接下来我再介绍一下 Keepalived服务的工作原理：
Keepalived高可用是通过 VRRP 进行通信的， VRRP是通过竞选机制来确定主备的，主的优先级高于备，因此，工作时主会优先获得所有的资源，备节点处于等待状态，当主挂了的时候，备节点就会接管主节点的资源，然后顶替主节点对外提供服务。
在 Keepalived 服务之间，只有作为主的服务器会一直发送 VRRP 广播包,告诉备它还活着，此时备不会枪占主，当主不可用时，即备监听不到主发送的广播包时，就会启动相关服务接管资源，保证业务的连续性.接管速度最快可以小于1秒。

三、keepalived部署

环境准备

主机名	ip	系统
Master	192.168.47.10	centos8
slave	192.168.47.20	centos8
vip	192.168.47.15

1、Master主节点和slave备份

首先关闭防火墙和selinux
配置yum源–阿里源centos8和epel源

//主安装环境部署

[root@ltymaster ~]# yum -y install vim wget gcc gcc-c++ --allowerasing
[root@ltymaster ~]# yum -y install keepalived
[root@ltymaster ~]# yum -y install nginx
[root@ltymaster ~]# echo "This is a Master" >/usr/share/nginx/html/index.html

//备安装环境部署
[root@ltyslave ~]# yum -y install vim wget gcc gcc-c++ --allowerasing
[root@ltyslave ~]# yum -y install keepalived
[root@ltyslave ~]# yum -y install nginx
//在nginx中添加测试网页
[root@ltyslave ~]# echo "This is a slave" > /usr/share/nginx/html/index.html

//在master中添加VIP

[root@ltymaster keepalived]# vim /etc/sysconfig/network-scripts/ifcfg-ens32 
IPADDR1=192.168.47.15
PREFIX1=32
[root@ltymaster keepalived]# systemctl restart NetworkManager
[root@ltymaster keepalived]# ip a
2: ens32: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc fq_codel state UP group default qlen 1000
    link/ether 00:0c:29:5a:68:d1 brd ff:ff:ff:ff:ff:ff
    inet 192.168.47.10/24 brd 192.168.47.255 scope global noprefixroute ens32
       valid_lft forever preferred_lft forever
    inet 192.168.47.15/32 scope global ens32


//修改内核参数，开启侦听VIP功能
该功能可用于仅监听VIP的时候
[root@ltymaster keepalived]# vim /etc/sysctl.conf 
net.ipv4.ip_nonlocal_bind = 1
[root@ltymaster keepalived]# sysctl -p
net.ipv4.ip_nonlocal_bind = 1


备只需修改内核
[root@ltyslave ~]# vim /etc/sysctl.conf 
[root@ltyslave ~]# sysctl -p
net.ipv4.ip_nonlocal_bind = 1

2、keepalived监控nginx负载均衡

[root@master ~]# cd /etc/keepalived/
//先备份下原始文件以防误删
[root@master keepalived]# cp keepalived.conf keepalived.conf.bak
//查看配置文件,先学习了解下
[root@master keepalived]# cat keepalived.conf
! Configuration File for keepalived

global_defs {              //全局配置
   notification_email {     //定义报警收件人邮件地址
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc   //定义报警发件人邮箱
   smtp_server 192.168.200.1    //邮箱服务器地址
   smtp_connect_timeout 30     //定义邮箱超时时间
   router_id LVS_DEVEL         //定义路由标识信息，同局域网内唯一
   vrrp_skip_check_adv_addr
   vrrp_strict
   vrrp_garp_interval 0
   vrrp_gna_interval 0
}

vrrp_instance VI_1 {           //定义实例
    state MASTER           //指定keepalived节点的初始状态，可选值为MASTER/BACKUP
    interface eth0       //VRRP实例绑定的网卡接口，用户发送VRRP包
    virtual_router_id 51  //虚拟路由的ID，同一集群要一致
	priority 100   //定义优先级，按优先级来决定主备角色，优先级越大越优先
    advert_int 1  //主备通讯时间间隔
    authentication {       //配置认证
        auth_type PASS   //认证方式，此处为密码
        auth_pass 1111   //同一集群中的keepalived配置里此处必须一致，推荐使用8为随机数
    }
    virtual_ipaddress {         //配置要使用的VIP
        192.168.200.16
        192.168.200.17
        192.168.200.18
    }
}

virtual_server 192.168.200.100 443 {       //配置虚拟服务器
    delay_loop 6                 //健康检查的时间间隔
    lb_algo rr                    //lvs调度算法
    lb_kind NAT                 //lvs模式
    persistence_timeout 50       //持久化超时时间，单位为秒
    protocol TCP               //4层协议

sorry_server  192.168.200.200 1358 //定义备用服务器，当所有RS都故障时，用sorry_server来响应客户端

    real_server 192.168.201.100 443 {   //定义真是处理请求的服务器
        weight 1        //给服务器指定权重，默认为1
        SSL_GET {
            url {
              path /         //指定要检查的URL路径
              digest ff20ad2481f97b1754ef3e12ecd3a9cc     //摘要信息
            }
            url {
              path /mrtg/
              digest 9b3a0c85a887a256d6939da88aabd8cd
            }
            connect_timeout 3       //连接超时时间
            retry 3             //get尝试次数
            delay_before_retry 3   //在尝试之前延迟多长时间
        }
    }
}

//配置主keepalived，前面的文件内容可以选择全部删除或者选择修改都可

[root@ltymaster keepalived]# cat keepalived.conf 
! Configuration File for keepalived

global_defs {
	   router_id lty01                                       //随意定义值
}

vrrp_instance VI_1 {
    state MASTER                                        //为主机
    interface ens32                                      //自己的网卡名称
    virtual_router_id 51
    priority 100                                          //定义服务器优先级
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {                            //定义vip代理网卡
        192.168.47.15
    }
}

virtual_server 192.168.47.15 80 {         //定义的第一个vip数值变化
    delay_loop 6
    lb_algo rr                                    //为轮询
    lb_kind DR                                  /为DR模式
    persistence_timeout 50
    protocol TCP


    real_server 192.168.47.10 80 {
        weight 1
        TCP_CHECK {
            connect port 80         //连接端口
	        connect_timeout 3         //连接超时时间，默认为5秒
            nb_get_retry 3
            delay_before_retry 3         //在重试之前延迟多少秒
	}	
    }
    real_server 192.168.47.20 80 {
        weight 1
	TCP_CHECK {
	    connect port 80
            connect_timeout 3
	    nb_get_retry 3
	    delay_before_retry 3
        }
    }
}
//重启keepalived，并设置下次启动生效
[root@ltymaster keepalived]# systemctl restart keepalived.service 
[root@ltymaster keepalived]# systemctl enable keepalived.service 
Created symlink /etc/systemd/system/multi-user.target.wants/keepalived.service → /usr/lib/systemd/system/keepalived.service.

备节点操作

[root@ltyslave keepalived]# cat keepalived.conf
/bin/bash: Configuration: command not found
bal_defs {
   router_id lty02
}

vrrp_instance VI_1 {
    state BACKUP
    interface ens32
    virtual_router_id 51
    priority 90                     //备点优先级
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {         
        192.168.47.15
    }
}

virtual_server 192.168.47.15 80 {            //代理连接点
    delay_loop 6
    lb_algo rr
    lb_kind DR
    persistence_timeout 50
    protocol TCP

    real_server 192.168.47.10 80 {      
        weight 1
        TCP_CHECK {
	    connect_port 80
            connect_timeout 3
	    nb_get_retry 3
            delay_before_retry 3
        }
    }


    real_server 192.168.47.20 80 {
        weight 1
        TCP_CHECK { 
	    connect_port 80
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
        }
    }
}
[root@ltyslave keepalived]# systemctl restart keepalived.service
[root@ltyslave keepalived]# systemctl enable keepalived.service
Created symlink /etc/systemd/system/multi-user.target.wants/keepalived.service → /usr/lib/systemd/system/keepalived.service.

3、脚本触发器

//在master上编写脚本

[root@ltymaster ~]# mkdir /scripts
[root@ltymaster ~]# cd /scripts/
//用来测试主备相互备份的脚本
[root@ltymaster scripts]# vim lty.sh
#!/bin/bash
nginx_status=`ps -ef | grep -v "grep" | grep "nginx" | wc -l`
if [ $nginx_status -lt 1 ];then       //当nginx意外关闭时，默认会直接暂停keeppalived服务  
        systemctl stop keepalived
fi
[root@ltymaster scripts]# chmod +x lty.sh 
[root@ltymaster scripts]# ll
total 4
-rwxr-xr-x. 1 root root 137 Oct  8 16:32 lty.sh
//设置触发器
[root@ltymaster scripts]# cat notify.sh 
#!/bin/bash
VIP=$2
sendmail () {            //当lty.sh脚本检测发现nginx被意外关掉，则执行邮件触发器
	subject="${VIP}'s server keepalived state is translate"            //定义好的邮件主题
	content="`date +'%F %T'`: `hostname`'s state change to master"      //内容
	echo $content | mail -s "$subject" liutianyang0223@163.com      //以邮件的形式发送
}
case "$1" in                                      //定义开始的第一个值
	master)
		nginx_status=$(ps -ef  |  grep -Ev "grep  |  $0"|grep '\bnginx\b'|wc -l)   //判断nginx状态
		if [ $nginx_status -lt 1 ];then         //若nginx小于1则启动nginx
			systemctl start nginx
		fi
		sendmail   
;;
	backup)								        //这里由于是备点不能强占master的值
		nginx_status=$(ps -ef|grep -Ev "grep|$0"|grep '\bnginx\b'|wc -l)
		if [ $nginx_status -gt 0 ];then       //当判断进程大于0时停止nginx
			systemctl stop nginx
		fi
;;
*)
	echo "Usage:$0 master|backup VIP"     //这里或表示以上的值如果相应了那个模块则输出，$0表示所有值
;;
esac    //结束


//在master中修改添加数值
[root@ltymaster scripts]# cat /etc/keepalived/keepalived.conf 
! Configuration File for keepalived

global_defs {
   router_id lty01
}

vrrp_script nginx_lty {          //添加
    script "/scripts/lty.sh"
    interval 10
    weight -20
}

vrrp_instance VI_1 {
    state MASTER
    interface ens32
    virtual_router_id 51
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.47.15
    }
    track_script {                         //添加
    nginx_check
    }
    notify_master "/scripts/notify.sh master 192.168.47.15"
    notify_backup "/scripts/notify.sh backup 192.168.47.15"       //结束
}

virtual_server 192.168.47.15 80 {
    delay_loop 6
    lb_algo rr
    lb_kind DR
    persistence_timeout 50
    protocol TCP

[root@ltymaster scripts]# systemctl restart keepalived.service 
[root@ltymaster ~]# systemctl restart NetworkManager
[root@ltymaster ~]# systemctl enable --now nginx

备节点操作
//直接传输过来就好了

[root@ltyslave scripts]# scp root@192.168.47.10:/scripts/lty.sh notify.sh .
root@192.168.47.10's password: 
lty.sh                                          100%  137    99.2KB/s   00:00 
[root@ltyslave scripts]# scp root@192.168.47.10:/scripts/notify.sh .
root@192.168.47.10's password: 
notify.sh                                       100%  591   500.9KB/s   00:00    
[root@ltyslave scripts]# ls
lty.sh  notify.sh

//备节点配置：
[root@ltyslave ~]# cat /etc/keepalived/keepalived.conf
//参考上面添加这一行就好了

    }
    notify_master "/scripts/notify.sh master 192.168.47.15"
    notify_backup "/scripts/notify.sh backup 192.168.47.15"
}

查看双方节点80是否开启

三、模拟测试访问

第一个访问到的是Master服务

//关闭master的nginx服务，自动就转移到备节点中去了
[root@ltymaster ~]# systemctl stop nginx
[root@ltymaster ~]# ss -antl
State Recv-Q Send-Q Local Address:Port Peer Address:Port Process
LISTEN 0 128 0.0.0.0:22 0.0.0.0:*
LISTEN 0 128 [::]:22 [::]😗

ps：做测试的时候有时候网页缓存比较慢，刷新下网卡和keepalived服务就好了