搭建架构原理图以及实时同步概念
0.概念
今日内容
实时同步
1.什么是实时同步
百度云同步盘 金山云盘 腾讯文档
实时监测目录的变化, 当出现 增 删 改 时, 则触发一个动作, 这个动作就是推送至远程服务器
2.为什么要实时同步
1.解决NFS单点故障问题
2.迁移 ( 本地环境 --> 云环境 )
3.实时同步的原理
4.实时同步的场景
5.实时同步工具选择
rsync+inotify 复杂
sersync 二进制包,解压即用 ( 国人开发 )
lsyncd 将sersync替换为lsyncd
6.实时同步案例演示
角色 外网IP(NAT) 内网IP(LAN) 安装工具
web01 eth0:10.0.0.7 eth1:172.16.1.7 httpd、php 可道云
nfs-server eth0:10.0.0.31 eth1:172.16.1.31 nfs、sersync(监控)
backup eth0:10.0.0.41 eth1:172.16.1.41 rsync-server
1.准备备份服务器backup
配置
[root@backup ~]# yum install rsync -y
[root@backup ~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#############################
[backup]
comment = welcome to oldboyedu backup!
path = /backup
[data]
comment = welcome to oldboyedu data!
path = /data
创建用户,准备虚拟连接用户,创建目录, 进行授权
1,创建进程运行的用户
[root@backup ~]# useradd rsync -M -s /sbin/nologin
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync
2.创建虚拟用户以及虚拟用户的密码/etc/rsync.passwd
格式: Username:Password
[root@backup ~]# cat /etc/rsync.passwd
rsync_backup:1
[root@backup ~]# chmod 600 /etc/rsync.passwd
3.创建接收备份数据目录
[root@backup ~]# mkdir /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# mkdir /data
[root@backup ~]# chown -R rsync.rsync /data/
[root@backup ~]#systemctl start rsyncd
[root@backup ~]#systemctl enable rsyncd
[root@backup ~]#systemctl status rsyncd
测试一下rsync能否正常工作
客户端创建上传文件:
[root@nfs01 ~]# rsync -avz cry.txt rsync_backup@172.16.1.41::backup
Password:
sending incremental file list
cry.txt
服务端:
[root@backup ~]# cd /backup/
[root@backup backup]# ls
cry.txt
2.准备NFS共享存储
配置:
[root@nfs01 ~]# yum install nfs-utils -y
[root@nfs01 ~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
[root@nfs01 ~]# groupadd -g 666 www
[root@nfs01 ~]# useradd -u666 -g666 www
[root@nfs01 ~]# mkdir -p /data
[root@nfs01 ~]# chown www.www /data
[root@nfs01 ~]# systemctl restart nfs
客户端测试:
[root@web01 ~]# yum install nfs-utils -y
[root@web01 ~]# showmount -e 172.16.1.31
Export list for 172.16.1.31:
/data 172.16.1.0/24
[root@web01 ~]# mount -t nfs 172.16.1.31:/data /mnt
[root@web01 ~]# touch /mnt/hello
[root@web01 ~]# umount /mnt/
3.准备web站点程序 php编写 httpd php
[root@web01 ~]# yum install httpd php php-mbstring php-gd -y
[root@web01 ~]# groupadd -g666 www
[root@web01 ~]# useradd -u666 -g666 www
#修改httpd以www用户身份运行
[root@web01 ~]# sed -i ‘/^User/c User www’ /etc/httpd/conf/httpd.conf
[root@web01 ~]# sed -i ‘/^Group/c Group www’ /etc/httpd/conf/httpd.conf
#进入站点目录,下载代码,授权整个/var/www/html目录为www (httpd程序就可以通过www身份读取所有代码)
[root@web01 ~]# cd /var/www/html #默认网站代码存放的路径
[root@web01 html]# wget http://static.kodcloud.com/update/download/kodexplorer4.40.zip
[root@web01 html]# unzip kodexplorer4.40.zip
[root@web01 html]# chown -R www.www /var/www/html
[root@web01 ~]# systemctl restart httpd
[root@web01 ~]# systemctl enable httpd
[root@web01 ~]# systemctl status httpd
4.将用户写入web主机上的视频类资源,自动的写入至NFS存储.
#我们打开谷歌浏览器输入配置httpd服务web01的外网(10.0.0.7)
#登陆admin 密码默认设置为1
#创建一个我们实验环境下,测试上传视频用的video文件夹。
#我们在web01将nfs共享的目录挂载到httpd的站点目录下
[root@web01 ~]# mount -t nfs 172.16.1.31:/data /var/www/html/data/User/admin/home/video/
#我们现在上传一个照片,这个照片相当于上传存储到nfs的共享目录/data下。
#nfs的共享目录/data挂载在站点目录下(/var/www/html/data/User/admin/home/video),所以我们要在这个路径下查找上传的图片。
5.接入sersync实时同步工具, 同步NFS数据至 备份服务器的data模块
1.安装
💗 我们把windows中rersync实时同步这个工具移动到Linux中的nfs服务器中,
解释: 为什么我们装在nfs中,因为我们sersync这个工具监控nfs共享目录/data的增 删 改。
然后增量备份上传到backup(rsync服务端)
[root@nfs01 ~]# unzip sersync_installdir_64bit.zip
[root@nfs01 ~]# mv sersync_installdir_64bit/sersync/ /usr/local/
2.配置
[root@nfs01 /]# vim /usr/local/sersync/conf/confxml.xml
编辑一个免交互的密码文件,要给/etc/rsync.pass 600权限
[root@nfs01 /]# vim /etc/rsync.pass
[root@nfs01 /]# cat /etc/rsync.pass
1
root@nfs01 data]# chmod 600 /etc/rsync.pass
#权限
[root@nfs01 ~]# chmod +x /usr/local/sersync/bin/sersync
[root@nfs01 /]# chown -R www.www /usr/local/sersync/bin/sersync
3.启动
[root@nfs01 ~]# /usr/local/sersync/bin/sersync -rdo /usr/local/sersync/conf/confxml.xml
#4.测试 用户上传一个视频 --> /var/video —>nfs–>/data —> push —>backup
a.web01虚拟机
第一步:我们开始测试 首先是上传一个文件(文件名称为实验成功大吉大利)在web网页上。
第二步:我们查看nfs服务器下的站点目录(/var/www/html/data/User/admin/home/video)有没有我们的大吉大利!
WEB测试完成!
b.nfs01虚拟机
第三步:我们查看nfs的共享目录/data下有没有大吉大利文件,因为我们的nfs共享目录/data,挂载在web01虚拟机的站点目录下,所以我们查看nfs的共享目录/data下有大吉大利文件。
NFS01测试完成!
第四步:我们手动用一下rsync
c.backup虚拟机
第五步:检查rsync备份/data下是否拥有大吉大利
BACKUP测试完成!
6.增加一个web节点
配置
....安装步骤略过....
[root@web02 ~]# yum install nfs-utils -y
[root@web02~]# yum install httpd php php-mbstring php-gd -y
[root@web02 ~]# groupadd -g666 www
[root@web02 ~]# useradd -u666 -g666 www
#修改httpd以www用户身份运行
[root@web02 ~]# sed -i ‘/^User/c User www’ /etc/httpd/conf/httpd.conf
[root@web02 ~]# sed -i ‘/^Group/c Group www’ /etc/httpd/conf/httpd.conf
#进入站点目录,下载代码,授权整个/var/www/html目录为www (httpd程序就可以通过www身份读取所有代码)
[root@web02 ~]# cd /var/www/html #默认网站代码存放的路径
[root@web02 html]# wget http://static.kodcloud.com/update/download/kodexplorer4.40.zip
[root@web02 html]# unzip kodexplorer4.40.zip
[root@web02 html]# chown -R www.www /var/www/html
[root@web02 ~]# systemctl restart httpd
[root@web02 ~]# systemctl enable httpd
[root@web02 ~]# systemctl status httpd
测试
#1.我们把nfs共享目录/data挂载到web02站点目录(/var/www/html/data/User/admin/home/video)下,并且上传一个web站点添加的文件。
[root@web02 ~]# showmount -e 172.16.1.31
Export list for 172.16.1.31:
/data 172.16.1.0/24
[root@web02 ~]# mount -t nfs 172.16.1.31:/data /var/www/html/data/User/admin/home/video/
#2.web02下
#3.web01下
#4.nfs01下
#5.推送到backup的data模块下
#6.backup下
7.模拟nfs服务器故障,如何快速切换.
#在backup备份服务器上配置nfs
1.在backup服务器搭建一个nfs ( 不使用 ,等有故障时能正常切换使用 )
[root@backup ~]# yum install nfs-utils -y
[root@backup ~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
[root@backup ~]# groupadd -g666 www
[root@backup ~]# useradd -u666 -g666 www
[root@backup ~]# chown -R www.www /data/
修改rsync的权限为www
[root@backup ~]# head -2 /etc/rsyncd.conf
uid = www
gid = www
[root@backup ~]# chown -R www.www /backup/
重启服务
[root@backup ~]# systemctl restart rsyncd nfs
#2.测试:我们关闭nfs准备环境
[root@nfs01 sersync]# systemctl stop nfs
#3.web卸载nfs ,重新到backup挂载,达到平滑迁移
[root@web01 ~]# umount -lf 172.16.1.31:/data && mount -t nfs 172.16.1.41:/data /var/www/html/data/User/admin/home/video
[root@web02 ~]# umount -lf 172.16.1.31:/data && mount -t nfs 172.16.1.41:/data /var/www/html/data/User/admin/home/video
https://www.cnblogs.com/xuliangwei/p/10245289.html
LYSNCD
Lysncd是一款开源的数据实时同步工具,基于inotify和rsync基础之上进行开发。
lsyncd与sersync一样,会监控本地目录,只要当本地目录发生变化则触发动作,这个动作就是同步至远程服务器。Lsyncd应用场景例如CDN镜像、网站数据备份、网站搬家等等。
1.环境准备
rsync 服务端 172.16.1.41 rsync
lsync 客户端 172.16.1.31 lsyncd
[root@nfs01-31:~]# yum install lsyncd
2.backup服务器环境准备
[root@backup-41:~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 300
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = “backup dir by oldboy”
path = /backup
3.根据配置初始化环境
[root@backup-41:~]# mkdir /backup
[root@backup-41:~]# useradd rsync
[root@backup-41:~]# ll /backup/ -d
drwxr-xr-x 2 root root 6 Aug 2 15:40 /backup/
[root@backup-41:~]# chown rsync.rsync /backup/
[root@backup-41:~]# echo “rsync_backup:123456” >/etc/rsync.password
[root@backup-41:~]# chmod 600 /etc/rsync.password
[root@backup-41:~]# systemctl start rsyncd.service
4.NFS服务器配置lsync
#安装lsyncd
[root@nfs01-31:~]# yum install lsyncd
配置lsyncd,监控本地目录,触发则立即同步
[root@nfs01-31:~]# cat /etc/lsyncd.conf
settings {
logfile = “/var/log/lsyncd/lsyncd.log”,
statusFile = “/var/log/lsyncd/lsyncd.status”,
inotifyMode = “CloseWrite”,
maxProcesses = 8,
}
sync {
default.rsync,
source = “/data”,
target = “rsync_backup@172.16.1.41::backup”,
delete= true,
exclude = { “.*” },
delay = 1,
rsync = {
binary = “/usr/bin/rsync”,
archive = true,
compress = true,
verbose = true,
password_file = “/etc/rsync.pwd”,
_extra = {"–bwlimit=200"}
}
}
[root@nfs01-31:~]# mkdir /data
[root@nfs01-31:~]# echo “123456” >/etc/rsync.pwd #创建密码文件
[root@nfs01-31:~]# chmod 600 /etc/rsync.pwd
[root@nfs01-31:~]# systemctl start lsyncd.service
[root@nfs01-31:~]# touch /data/{1…10}
[root@nfs01-31:~]# rsync -avz /etc/passwd rsync_backup@172.16.1.41::b