56MySQL主从复制与读写分离

最新推荐文章于 2024-03-15 13:22:02 发布

戏精吾

最新推荐文章于 2024-03-15 13:22:02 发布

阅读量88

点赞数

文章标签：数据库 mysql java

本文链接：https://blog.youkuaiyun.com/qq_49124206/article/details/126376328

版权

MySQL主从复制与读写分离

在实际生产应用中，成熟的业务通常数据都比较大，单台MySQL在安全性、高可用性和高并发方面都无法满足实际的需求。所以需要配置多台数据库服务器，那么在配置多台数据库服务器时，如何确保各服务器的数据同步呢？

MySQL主从复制原理

主从复制类型

基于语句的复制(STATEMENT, MySQL默认类型)
STATEMENT：基于语句的复制。在服务器上执行sql语句，在从服务器上执行同样的语句，mysql默认采用基于语句的复制，执行效率高。
基于行的复制(ROW)
基于行的复制。把改变的内容复制过去，而不是把命令在从服务器上执行一遍。
混合类型的复制(MIXED)
混合类型的复制。默认采用基于语句的复制，一旦发现基于语句无法精确复制时，就会采用基于行的复制。

主从复制的工作过程

（1）Master节点将数据的改变记录成二进制日志（bin log），当Master上的数据发生改变时，则将其改变写入二进制日志中。
（2）Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变，如果发生改变，则开始一个I/O线程请求 Master的二进制事件。
（3）同时Master节点为每个I/O线程启动一个dump线程，用于向其发送二进制事件，并保存至Slave节点本地的中继日志（Relay log）中，Slave节点将启动SQL线程从中继日志中读取二进制日志，在本地重放，即解析成 sql 语句逐一执行，使得其数据和 Master节点的保持一致，最后I/O线程和SQL线程将进入睡眠状态，等待下一次被唤醒。

注：中继日志通常会位于 OS 缓存中，所以中继日志的开销很小。复制过程有一个很重要的限制，即复制在 Slave上是串行化的，也就是说 Master上的并行更新操作不能在 Slave上并行操作。

当IO监听不到时可能原因：网络故障导致网络不通，网络延迟，网段设置有问题

MySQL读写分离原理

读写分离概念

什么是读写分离

读写分离，基本的原理是让主数据库处理事务性增、改、删操作（INSERT、UPDATE、DELETE），而从数据库处理SELECT查询操作。
数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

为什么要读写分离

因为数据库的“写”（写10000条数据可能要3分钟）操作是比较耗时的。
但是数据库的“读”（读10000条数据可能只要5秒钟）。
所以读写分离，解决的是，数据库的写入，影响了查询的效率。

什么时候要读写分离

数据库不一定要读写分离，如果程序使用数据库较多时，而更新少，查询多的情况下会考虑使用。
利用数据库主从同步，再通过读写分离可以分担数据库压力，提高性能。

主从复制与读写分离

在实际的生产环境中，对数据库的读和写都在同一个数据库服务器中，是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。
因此，通过主从复制的方式来同步数据，再通过读写分离来提升数据库的并发负载能力。
有点类似于rsync，但是不同的是rsync是对磁盘文件做备份，而mysql主从复制是对数据库中的数据、语句做备份。

MySQL主从复制延迟

master服务器高并发，形成大量事务
网络延迟
主从硬件设备导致
cpu主频、内存io、硬盘io
本来就不是同步复制、而是异步复制

从库优化Mysql参数。比如增大innodb_buffer_pool_size，让更多操作在Mysql内存中完成，减少磁盘操作。

从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机，使用物理主机，这样提升了i/o方面性。

从库使用SSD磁盘，网络优化，避免跨机房实现同步

读写分离概述

MySQL 读写分离原理

读写分离就是只在主服务器上写，只在从服务器上读。基本的原理是让主数据库处理事务性操作，而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。

目前较为常见的 MySQL 读写分离分为以下两种：

基于程序代码内部实现

在代码中根据 select、insert 进行路由分类，这类方法也是目前生产环境应用最广泛的。
优点是性能较好，因为在程序代码中实现，不需要增加额外的设备为硬件开支；缺点是需要开发人员来实现，运维人员无从下手。
但是并不是所有的应用都适合在程序代码中实现读写分离，像一些大型复杂的Java应用，如果在程序代码中实现读写分离对代码改动就较大。

基于中间代理层实现

代理一般位于客户端和服务器之间，代理服务器接到客户端请求后通过判断后转发到后端数据库，有以下代表性程序。

（1）MySQL-Proxy。MySQL-Proxy 为 MySQL 开源项目，通过其自带的 lua 脚本进行SQL 判断。

（2）Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上，对其进行了优化，增加了一些新的功能特性。360内部使用Atlas运行的mysql业务，每天承载的读写请求数达几十亿条。支持事物以及存储过程。

（3）Amoeba。由陈思儒开发，作者曾就职于阿里巴巴。该程序由Java语言进行开发，阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

由于使用MySQL Proxy 需要写大量的Lua脚本，这些Lua并不是现成的，而是需要自己去写。这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的。

Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。

搭建

master服务器： 192.168.74.133   mysql5.7
slave1服务器： 192.168.74.132 	mysql5.7
slave1服务器： 192.168.74.134	mysql5.7
Amoeba服务器： 192.168.74.131   jdk1.6、Amoeba
客户端 服务器： 192.168.74.130	  mysql

主从复制服务搭建

主服务器时间同步设置（192.168.74.133）

#关闭防火墙
systemctl stop firewalld
setenforce 0
#安装时间同步软件
yum install ntp -y
#编辑配置文件
vim /etc/ntp.conf
#在最后添加如下配置
server 127.127.74.0 
#设置本地是时钟源    
fudge 127.127.74.0 stratum 8
#网段固定格式127.127.+自己的网段号，stratum时间层级为8（限制在15内）
#启动服务
systemctl start ntpd

从服务器时间同步设置（192.168.74.132,192.168.74.134）

#关闭防火墙
systemctl stop firewalld
setenforce 0
#安装时间同步软件
yum install ntpdate -y
#进行时间同步
/usr/sbin/ntpdate 192.168.74.133
#添加周期性计划，定期同步时间
crontab -e
*/30 * * * * /usr/sbin/ntpdate 192.168.74.133

主服务器配置

vim /etc/my.cnf
#添加如下配置
server-id = 1
log-bin=master-bin        #开启二进制日志
binlog_format=MIXED       #二进制日志格式
log-slave-updates=true    #开启从服务器同步,允许slave从master复制数据时可以写入到自己的二进制日志
#重启服务
systemctl restart mysqld
进入MySQL对从服务器进行授权
mysql -uroot -p123456
GRANT REPLICATION SLAVE ON *.* TO 'myslave1'@'192.168.74.%' IDENTIFIED BY '123456'; 
GRANT REPLICATION SLAVE ON *.* TO 'myslave2'@'192.168.74.%' IDENTIFIED BY '123456'; 
flush privileges;
show master status;		#查看主数据库配置信息

从服务器配置

vim /etc/my.cnf
#添加配置如下
server-id = 2   #id号与主不能一样
(server-id = 3) 
relay-log=relay-log-bin  #开启中继日志，从主服务器上同步日志文件记录到本地
relay-log-index=slave-relay-bin.index #定义中继日志文件的位置和名称
relay_log_recovery = 1   #当slave从库宕机后，假如 relay-log 损坏了，导致一部分中继日志没有处理，则自动放弃所有未执行的 relay-log，并且重新从master上获取日志，这样就保证了relay-log 的完整性。默认情况下该功能是关闭的
#重启服务
systemctl restart mysqld
mysql -uroot -p123456
change master to master_host='192.168.74.133',master_user='myslave1',master_password='123456', master_log_file='master-bin.000001',master_log_pos=902;
(change master to master_host='192.168.74.133',master_user='myslave2',master_password='123456', master_log_file='master-bin.000001',master_log_pos=902;)
#启动slave服务
start slave;
#查看slave状态
show slave status\G;

验证主从同步

#在主服务器上创一个库
create database slave_test;
#在从服务器查看
show databases;

读写分离服务部署

JDK环境安装

Ameoba服务是基于jdk1.5开发的，所以要使用jdk1.5或1.6的版本，不建议使用高版本

1.上传jdk包并安装jdk

cp jdk-6u14-linux-x64.bin /usr/local/
cd /usr/local/
chmod +x jdk-6u14-linux-x64.bin  //bin包需要执行权限
./jdk-6u14-linux-x64.bin         //安装jdk
mv jdk1.6.0_14/ jdk1.6	#改名

2.更改/etc/profile环境变量

vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=:$JAVA_HOME/lib:$JAVA_HOME/jre/bin:$PATH:$HOME/bin
//下面两条是配置amoeba服务的，一起写入
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
3.刷新环境变量
source /etc/profile
java -version   //查看JAVA版本

安装amoeba

1.在/usr/local目录下创建amoeba目录
mkdir /usr/local/amoeba
2.切换至opt解压amoeba
cd /opt/
tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba
cd /usr/local/ 切换至目录查看
3.给目录/usr/local/amoeba赋予执行权限
chmod -R 755 /usr/local/amoeba/
4.运行amoeba
/usr/local/amoeba/bin/amoeba

配置 Amoeba读写分离

备份amoeba配置

cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
cp dbServers.xml dbServers.xml.bak

修改amoeba.xml配置

vim amoeba.xml
30 <property name="user">amoeba</property>
#设置登录用户名
32<property name="password">123456</property>
#设置密码
115<property name="defaultPool">master</property>
#设置默认池为master
118<property name="writePool">master</property>
#设置写池
119<property name="readPool">slaves</property>
#设置读池

修改dbServers.xml

vim dbServers.xml 
23 <!-- <property name="schema">test</property> -->
#23行注释
26<property name="user">test</property>
#设置登录用户
28 <!--  mysql password -->
#删除
29<property name="password">123456</property>
#解决28注释，添加密码
45<dbServer name="master"  parent="abstractServer">
#服务池名
48<property name="ipAddress">192.168.74.133</property>
#添加地址 //填写master服务器地址
//填写slave1的地址，同理填写slave2
52<dbServer name="slave1"  parent="abstractServer">
55<property name="ipAddress">192.168.74.132</property>
复制6行 添加另一从节点	
59<dbServer name="slave2"  parent="abstractServer">
62<property name="ipAddress">192.168.74.134</property>
//开启slaves地址池，并设置池内的服务器，设置轮询策略
66<dbServer name="slaves" virtual="true">
#定义池名
72<property name="poolNames">slave1,slave2</property>
#写上从节点名

配置主从数据库，授权一个test账号用于客户端访问

账户名自定义
grant all on *.* to test@'192.168.74.%' identified by '123456';  
flush privileges;  #刷新

启动amoeba，并测试

/usr/local/amoeba/bin/amoeba start &   //一定要放到后台启动
netstat -ntap |grep java	//查看端口是否存在，amoeba运行在jvm上，所以要查java

客户端安装mariadb

1.#安装mariadb
yum install mariadb mariadb-server.x86_64 -y 
2.#登入并查看数据库
mysql -uamoeba -p123456 -h 192.168.74.131 -P8066

3.#测试同步
#在客户端的cs库下创建一个cs表
create database cs;
use cs;
create table cs(id int(10),name char(40));
show tables;
#停止从服务器的同步
stop slave;
#在从服务器上分别插入如下数据
insert into cs values('1','slave1');
insert into cs values('2','slave2');
#在主服务器插入如下数据
insert into cs values('3','master');
#在客户端写入一条数据
insert into cs values('4','client'); 
此时在客户端只能查看到slave1和slave2创建的数据，在客户端数据插入成功，但是无法显示出来，因为从服务器上都关闭了slave同步，但是在主服务器可以看到client数据插入成功。
在从服务器上开启slave功能，数据同步成功。

char(40));
show tables;
#停止从服务器的同步
stop slave;
#在从服务器上分别插入如下数据
insert into cs values(‘1’,‘slave1’);
insert into cs values(‘2’,‘slave2’);
#在主服务器插入如下数据
insert into cs values(‘3’,‘master’);
#在客户端写入一条数据
insert into cs values(‘4’,‘client’);
此时在客户端只能查看到slave1和slave2创建的数据，在客户端数据插入成功，但是无法显示出来，因为从服务器上都关闭了slave同步，但是在主服务器可以看到client数据插入成功。
在从服务器上开启slave功能，数据同步成功。


![image-20220816231027412](https://img-blog.csdnimg.cn/img_convert/461e0a4b18980a39a0e02218ffd53610.png)