MHA高可用配置及故障切换

一、MHA概述

●传统的MySQL主从架构存在的问题

MySQL主服务器出故障后就无法写入数据了

●MHA简介
一套优秀的MySQL高可用环境下故障切换和主从复制的软件
MySQL故障过程中，MHA能做到0-30秒内自动完成故障切换

●MHA组成
MHA Manager（管理节点）和 MHA Node（数据节点）
MHA Manager 可以单独部署在一台独立的机器上，管理多个 master-slave 集群（Manger是单独一台监控master服务器健康状态的服务器。）；也可以部署在一台 slave 节点上。MHA Node 运行在每台 MySQL 服务器上，MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时，它可以自动将最新数据的 slave 提升为新的 master，然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完 全透明。

●MHA特点（优势）
在 MHA 自动故障切换过程中，MHA 试图从宕机的主服务器上保存二进制日志，最大程度的保证数据的不丢失，但这并不总是可行的。例如，如果主服务器硬件故障或无法通过 SSH 访问，MHA 没法保存二进制日志，就会出现只进行故障转移但丢失了最新的数据的情况。
使用 MySQL 5.5 的半同步复制，可以大大降低数据丢失的风险。MHA 可以与半同步复 制结合起来。如果只有一个 slave 已经收到了最新的二进制日志，MHA 可以将最新的二进 制日志应用于其他所有的 slave 服务器上，因此可以保证所有节点的数据一致性。

●MHA架构
目前MHA支持一主多从架构，最少三台服务，即一主两从

二、MHA高可用案例

实验需求

MHA 监控 MySQL数据库健康状态，在主服务器故障时进行自动切换，不影响业务。

实验环境

实验步骤

MySQL5.6版本主从同步

1.安装编译依赖的环境

yum -y install ncurses-devel gcc gcc-c++ perl-Module-Install

 
 

 
 

2.编译安装的方式安装gmake编译软件

tar zxf cmake-2.8.6.tar.gz
cd cmake-2.8.6/
./configure
gmake && gmake install

 
 

 
 

3.安装MySQL5.6数据库

tar zxf mysql-5.6.36.tar.gz
cd mysql-5.6.36/
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DWITH_EXTRA_CHARSETS=all \
-DSYSCONFDIR=/etc
make && make install
cp support-files/my-default.cnf /etc/my.cnf
cp support-files/mysql.server /etc/rc.d/init.d/mysqld
chmod +x /etc/rc.d/init.d/mysqld
chkconfig --add mysqld
echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
source /etc/profile
groupadd mysql
useradd -M -s /sbin/nologin mysql -g mysql
chown -R mysql.mysql /usr/local/mysql
mkdir -p /data/mysql
/usr/local/mysql/scripts/mysql_install_db \
--basedir=/usr/local/mysql \
--datadir=/usr/local/mysql/data \
--user=mysql

 
 

 
 

4.修改Master的主配置文件/etc/my.cnf文件，三台服务器的server-id不能一样

vim /etc/my.cnf
[mysqld]
server-id=1
log-bin=master-bin
log-slave-updates=true
配置slave服务器的主配置文件/etc/my.cnf
vim /etc/my.cnf
server-id=2
log-bin=master-bin
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index

 
 

 
 

5.mysql1、mysql2、mysql3分别做两个软链接

ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

 
 

 
 

6.mysql1、mysql2、mysql3启动MySQL。

/usr/local/mysql/bin/mysqld_safe --user=mysql&

 
 

 
 

7.配置MySQL服务器：一主、一从/主、一从
（1）先做主从复制的配置，需要注意授权。
在所有数据库节点上授权两个用户，一个是从库同步使用，另外一个是manager使用

grant replication slave on *.* to 'myslave'@'14.0.0.%' identified by 'abc123';
grant all privileges on *.* to 'mha'@'14.0.0.%' identified by 'manager';
flush privileges;

 
 

 
 

（2）下面三条授权按理论是不用添加的，但是做案例实验环境时候通过MHA检查MySQL主从有报错，
报两个从库通过主机名连接不上主库，所以所有数据库要加上下面的授权。

grant all privileges on *.* to 'mha'@'Mysql1' identified by 'manager';
grant all privileges on *.* to 'mha'@'Mysql2' identified by 'manager';
grant all privileges on *.* to 'mha'@'Mysql3' identified by 'manager';
##不加这三条授权mha健康检查时会报错

 
 

 
 

（3）在Mysql1主机上查看二进制文件和同步点

mysql> show master status;

 
 

 
 

（4）接下来在Mysql2和Mysql3分别执行同步

mysql> change master to master_host='14.0.0.10',master_user='myslave',master_password='abc123',master_log_file='',master_log_pos=;
mysql> start slave;

 
 

 
 

（5）查看IO和SQL线程都是yes代表同步是否正常

mysql> show slave status\G;

 
 

 
 

（6）必须设置两个从库为只读模式：

mysql> set global read_only=1;

 
 

 
 

注意：设置完成直接验证主从复制功能

安装MHA软件

1.所有服务器上都安装MHA依赖的环境，首先安装epel源。

yum -y install epel-release --nogpgcheck
yum -y install perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN

 
 

 
 

2.MHA软件包对于每个操作系统版本不一样，这里Centos7.6必须选择0.57版本，
注意：所有服务器上必须安装node组件，最后在MHA-manager节点上安装manager组件

[root@localhost ~]# tar zxf mha4mysql-node-0.57.tar.gz
[root@localhost ~]# cd mha4mysql-node-0.57/
[root@localhost mha4mysql-node-0.57]# perl Makefile.PL
[root@localhost mha4mysql-node-0.57]# make
[root@localhost mha4mysql-node-0.57]# make install

 
 

 
 

3.在MHA-manager上安装manager组件（注意：一定要先安装node组件才能安装manager组件）

[root@localhost ~]# tar zxf mha4mysql-manager-0.57.tar.gz
[root@localhost ~]# cd mha4mysql-manager-0.57/
[root@localhost mha4mysql-manager-0.57]# perl Makefile.PL
[root@localhost mha4mysql-manager-0.57]# make
[root@localhost mha4mysql-manager-0.57]# make install

 
 

 
 

manager安装后在/usr/local/bin下面会生成几个工具，主要包括以下几个
masterha_conf_host 添加或删除配置的server信息
masterha_manager 启动manager的脚本
masterha_check_repl 检查MySQL复制状况
masterha_master_monitor 检测master是否宕机
masterha_check_ssh 检查MHA的SSH配置情况
masterha_master_switch 控制故障转移（自动或者手动）
masterha_check_status 检查当前MHA运行状态
masterha_stop 关闭manager
Manager的脚本触发，无需人为操作）主要如下：
apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的slave
filter_mysqlbinlog 去除不必要的rollback事件（MHA已不再使用这个工具）
purge_relay_logs 清除中继日志（不会阻塞SQL线程）
save_binary_logs 保存和复制master的二进制日志
5.配置无密码认证

（1）在manager上配置到所有数据节点的无密码认证
[root@localhost ~]# ssh-keygen -t rsa   ##一直按回车
[root@localhost ~]# ssh-copy-id 14.0.0.10
[root@localhost ~]# ssh-copy-id 14.0.0.30
[root@localhost ~]# ssh-copy-id 14.0.0.40
（2）在Mysql1上配置到Mysql2和Mysql3的无密码认证
[root@localhost ~]# ssh-keygen -t rsa   ##一直按回车
[root@localhost ~]# ssh-copy-id 14.0.0.30
[root@localhost ~]# ssh-copy-id 14.0.0.40
（3）在Mysql2上配置到Mysql1和Mysql3的无密码认证
[root@localhost ~]# ssh-keygen -t rsa   ##一直按回车
[root@localhost ~]# ssh-copy-id 14.0.0.10
[root@localhost ~]# ssh-copy-id 14.0.0.40
（4）在Mysql3上配置到Mysql1和Mysql2的无密码认证
[root@localhost ~]# ssh-keygen -t rsa   ##一直按回车
[root@localhost ~]# ssh-copy-id 14.0.0.10
[root@localhost ~]# ssh-copy-id 14.0.0.30

 
 

 
 

6.配置MHA

（1）在manager节点上复制相关脚本到/usr/local/bin目录。
[root@localhost ~]# cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin/
#拷贝后会有四个执行文件
[root@localhost ~]# ll /usr/local/bin/scripts/
总用量 32
-rwxr-xr-x. 1 1001 1001  3648 5月  31 2015 master_ip_failover
-rwxr-xr-x. 1 1001 1001  9870 5月  31 2015 master_ip_online_change
-rwxr-xr-x. 1 1001 1001 11867 5月  31 2015 power_manager
-rwxr-xr-x. 1 1001 1001  1360 5月  31 2015 send_report
（2）复制上述的自动切换时vip管理的脚本到/usr/local/bin目录，这里使用脚本管理vip，
[root@localhost ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
（3）删除/usr/local/bin/master_ip_failover原有内容，修改内容如下
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '14.0.0.200';                  #这里改成同网段的一个未使用的ip作为虚拟ip
my $brdc = '14.0.0.255';                #虚拟ip的广播地址
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
exit &main();
sub main {
print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

 
 

 
 

4.创建MHA软件目录并拷贝配置文件

[root@localhost ~]# mkdir /etc/masterha
[root@localhost ~]# cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
[root@localhost ~]# vim /etc/masterha/app1.cnf  ##注意指定的目录下文件是否存在
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_failover_script=/usr/local/bin/master_ip_failover
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=abc123
repl_user=myslave
report_script=/usr/local/send_report
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 14.0.0.30 -s 14.0.0.40
shutdown_script=""
ssh_user=root
user=mha
[server1]
hostname=14.0.0.10
port=3306
[server2]
hostname=14.0.0.30
port=3306
candidate_master=1   #设置为候选master，如果设置该参数以后，发生主从切换以后 会将此从库提升为主库，即使这个主库不是集群中最新的slave。
check_repl_delay=0     #默认情况下如果一个slave落后master 100M的relay logs的话，MHA将不会选择该slave作为一个新的slave，但check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主库。
[server3]
hostname=14.0.0.40
port=3306
[root@localhost bin]# cd /usr/local/bin/scripts/
[root@localhost scripts]# ls
master_ip_failover  master_ip_online_change  power_manager  send_report
[root@localhost scripts]# cp master_ip_online_change ../
[root@localhost scripts]# cp send_report /usr/local/

 
 

 
 

[server default]
manager_log=/var/log/masterha/app1/manager.log #manager日志
manager_workdir=/var/log/masterha/app1 #manager工作目录
master_binlog_dir=/usr/local/mysql/data #master保存binlog的位置
master_ip_failover_script=/usr/local/bin/master_ip_failover #设置自动failover时候的切换脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change #设置手动切换时的切换脚本
password=manager #设置mysql中root用户的密码，这个密码是前面创建监控用户的密码
ping_interval=1 #设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp #设置远端mysql在发生切换时binlog的保存位置
repl_password=abc123 #设置复制用户的密码
repl_user=myslave #设置复制用户的账户
report_script=/usr/local/send_report #设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 14.0.0.30 -s 14.0.0.40
shutdown_script="" #设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂）
ssh_user=root #设置ssh的登录用户名
user=mha #设置监控用户
5.测试ssh无密码认证，如果正常最后会输出successfully，如下所示

[root@localhost scripts]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
...省略内容
Sat Aug 29 12:09:06 2020 - [debug]  Connecting via SSH from root@14.0.0.10(14.0.0.10:22) to root@14.0.0.40(14.0.0.40:22)..
Sat Aug 29 12:09:06 2020 - [debug]   ok.
Sat Aug 29 12:09:07 2020 - [info] All SSH connection tests passed successfully.

 
 

 
 

6.测试mha健康状态，如果正常最后会输出OK，如下所示

[root@localhost scripts]# masterha_check_repl -conf=/etc/masterha/app1.cnf
...省略内容
MySQL Replica：qtion Health is OK.

 
 

 
 

注意：第一次配置需要去master上手动开启虚拟IP

[root@mysql1 ~]# /sbin/ifconfig ens33:1 14.0.0.200/24

 
 

 
 

7.启动MHA

[root@localhost masterha]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
[1] 15486

 
 

–remove_dead_master_conf #代表当发生主从切换后，老的主库的ip将会从配置文件中移除
/var/log/masterha/app1/manager.log #日志存放位置
–ignore_last_failover #在缺省情况下，如果MHA检测到连续发生宕机，且两次宕机间隔不足8小时的话，则不会进行failover，之所以这样是为了避免ping-pong效应。该参数代表忽略上次MHA触发切换产生的文件，默认情况下，MHA发生切换后会在日志中记录，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便这里设置为–ignore_last_failover。

8.查看MHA状态，可以看到当前master是Mysql1节点

[root@localhost masterha]# masterha_check_status --conf=/etc/masterha/app1.cnf  
app1 (pid:15486) is running(0:PING_OK), master:14.0.0.10

 
 

 
 

9.查看MHA日志，可以看到当前master是14.0.0.10

[root@localhost masterha]# cat /var/log/masterha/app1/manager.log
Checking the Status of the script.. OK
Sat Aug 29 17:16:01 2020 - [info]  OK.
Sat Aug 29 17:16:01 2020 - [warning] shutdown_script is not defined.
Sat Aug 29 17:16:01 2020 - [info] Set master ping interval 1 seconds.
Sat Aug 29 17:16:01 2020 - [info] Set secondary check script: /usr/local/bin/masterha_secondary_check -s 14.0.0.30 -s 14.0.0.40
Sat Aug 29 17:16:01 2020 - [info] Starting ping health check on 14.0.0.10(14.0.0.10:3306)..

 
 

 
 

实验验证

将master数据库关闭，模拟宕机

[root@localhost ~]# tail -f /var/log/masterha/app1/manager.log  #动态查看日志，准备观察变化
[root@localhost ~]# pkill -9 mysql                   
##将master数据库关闭，查看MHA中日志变化，如下所示主数据库成功移动到主备数据库上
Sat Aug 29 17:17:32 2020 - [info] Master failover to 14.0.0.30(14.0.0.30:3306) completed successfully.
Sat Aug 29 17:17:32 2020 - [info] Deleted server1 entry from /etc/masterha/app1.cnf .
Sat Aug 29 17:17:32 2020 - [info]
----- Failover Report -----
app1: MySQL Master failover 14.0.0.10(14.0.0.10:3306) to 14.0.0.30(14.0.0.30:3306) succeeded

 
 

 
 

#在主备数据库上查看网卡信息，发现虚拟IP也成功漂移
[root@slave1 ~]# ifconfig
...省略内容
ens33:1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 14.0.0.200  netmask 255.255.255.0  broadcast 14.0.0.255
        ether 00:0c:29:34:57:c1  txqueuelen 1000  (Ethernet)