LVS-DR 负载均衡群集

LVS-DR 工作原理

LVS-DR 模式概述

负载均衡群集工作模式–直接路由（Direct Routing）简称DR模式，采用半开放式的网络结构，与TUN模式的结构类似，但各节点并不是分散在各地，而是与调度器位于同一个物理网络负载调度器与各节点服务器通过本地网络连接，不需要建立专用的IP隧道

分析LVS-DR 数据包

为方便进行原理分析，将 Client与群集机器放在同一网络中，数据包流经的路线为1-2-3-4
Client向目标VIP发出请求， Director（负载均衡器）接收。P包头及数据帧头信息为：
Director根据负载均衡算法选择 Realserver_1，不修改也不封装IP报文，而是将数据帧的MAC地址改为RealServer_1的MAC地址，然后在局域网上发送。IP包头及数据帧头信息如下：
RealServer_1收到这个帧，解封装后发现目标IP与本机匹配（ RealServer事先绑定了VIP），于是处理这个报文。随后重新封装报文，发送到局域网。此时IP包头及数据帧头信息为：
Client将收到回复报文。 Client认为得到正常的服务，而不会知道是哪一台服务器处理的
如果跨网段，那么报文通过路由器经由 terne返回给用户

LVS-DR 中存在的ARP 问题

在LVS-DR负载均衡集群中，负载均衡器与节点服务器都要配置相同的VIP地址

对节点服务器进行处理，使其不响应针对VIP的ARP请求- 使用虚接口lo:0承载ⅥP地址- 设置内核参数 arp_ignore=1：系统只响应目的IP为本地IP的ARP请求
RealServe返回报文（源IP是VIP）经路由器转发，在重新封装报文时需要先获取路由器的MAC地址- 发送ARP请求时， Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址如：ens33
路由器收到ARP请求后，将更新ARP表项- 原有的VIP对应 Director的MAC地址会被更新为ⅥP对应RealServer的MAC地址
问题- 路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致Director的VIP失效

对接点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址

解决ARP的两个问题的设置方法

修改/etc/sysctl.conf文件。对节点服务器进行处理，使其不响应针对VIP的ARP请求net.ipv4.conf.lo.arp_ignore ==1，net.ipv4.conf.lo.arp_announce = 2
系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址net.ipv4.conf.all.arp_ignore = 1net.ipv4.conf.all.arp_announce = 2

实验准备

一台调度器：
VM1：192.168.100:21
二台WEB服务器集群池：192.168.100.22、192.168.100.23
一台NFS共享服务器：192.168.100.24

调度器设置（192.168.100.21）

配置虚拟IP地址（VIP）

[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]# cp ifcfg-ens33 ifcfg-ens33:0
[root@localhost network-scripts]# vi ifcfg-ens33:0
NAME=ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.100.100
NETMASK=255.255.255.255
[root@localhost network-scripts]# ifup ifcfg-ens33:0
[root@localhost network-scripts]# ifconfig

调整/proc响应参数

对于 DR 群集模式来说，由于 LVS 负载调度器和各节点需要共用 VIP 地址，应该关闭 Linux 内核的重定向参数响应服务器不是一台路由器，那么它不会发送重定向，所以可以关闭该功能

[root@localhost network-scripts]# vi /etc/sysctl.conf 
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
[root@localhost network-scripts]# sysctl -p
###生效net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

配置负载分配策略

[root@localhost ~]#yum -y install ipvsadm
[root@localhost /]# ipvsadm -v
[root@localhost ~]# modprobe ip_vs
[root@localhost ~]# cat /proc/net/ip_vs
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port Forward Weight ActiveConn InActConn
[root@localhost ~]# ipvsadm -A -t 192.168.100.100:80 -s rr
[root@localhost ~]#ipvsadm -a -t 192.168.100.100:80 -r 192.168.100.42:80 -g -w 1
[root@localhost ~]#ipvsadm -a -t 192.168.100.100:80 -r 192.168.100.43:80 -g -w 1
[root@localhost network-scripts]# ipvsadm-save > /opt/ipvsadm
[root@localhost network-scripts]# cat /opt/ipvsadm 
-A -t localhost.localdomain:http -s rr
-a -t localhost.localdomain:http -r 192.168.100.22:http -g -w 1
-a -t localhost.localdomain:http -r 192.168.100.23:http -g -w 1

配置存储服务器（192.168.100.24）

[root@localhost ~]# bashrpm -q nfs-utils    ###如果没装，yum -y install nfs-utils
[root@localhost ~]# rpm -q rpcbind      ###如果没装，yum -y install rpcbind
[root@localhost ~]# systemctl start nfs
[root@localhost ~]# systemctl start rpcbind
[root@localhost ~]# vi /etc/exports
/opt/51xit 192.168.100.0/24 (rw,sync)
/opt/52xit 192.168.100.0/24 (rw,sync)
'###重启需要想开启rpcbind###'
[root@localhost ~]# systemctl restart rpcbind            
[root@localhost ~]# systemctl restart nfs
[root@localhost ~]# systemctl enable nfs
[root@localhost ~]# systemctl enable rpcbind
[root@localhost ~]# mkdir /opt/51xit /opt/52xit
[root@localhost ~]# echo "this is 51xit" >/opt/51xit/index.html
[root@localhost ~]# echo "this is 52xit" >/opt/52xit/index.html

配置节点 1 服务器（192.168.100.22）

配置虚拟IP地址

[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]# cp ifcfg-lo ifcfg-lo:0
[root@localhost network-scripts]# vi ifcfg-lo:0
DEVICE=lo:0
IPADDR=192.168.100.10
NETMASK=255.255.255.255O
NBOOT=yes
[root@localhost network-scripts]# ifup lo:0
[root@localhost network-scripts]# ifconfig

'###添加VIP本地访问路由###'
[root@localhost network-scripts]# vi /etc/rc.local
/sbin/route add -host 192.168.100.10 dev lo:0
[root@localhost network-scripts]# route add -host 192.168.100.10 dev lo:0

调整/proc响应参数

[root@localhost network-scripts]# vi /etc/sysctl.conf 
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
[root@localhost network-scripts]# sysctl -p

安装httpd 挂载测试页

[root@localhost ~]# showmount -e 192.168.100.44
#如果还没发布，请到存储服务器发布下，exportfs -rv
Export list for 192.168.100.24:
/opt/52xit 192.168.100.0/24
/opt/51xit 192.168.100.0/24
[root@localhost ~]# yum -y install httpd
[root@localhost ~]# mount 192.168.100.44:/opt/51xit /var/www/html/
[root@localhost ~]# vim /etc/fstab 
192.168.100.44:/opt/51xit/ /var/www/html/ nfs defaults,_netdev 0 0
[root@localhost ~]# systemctl start httpd
[root@localhost ~]# systemctl enable httpd

配置节点 2 服务器（192.168.100.23）

同 192.168.100.22 的配置

测试

在网页输入如下：192.168.100.22

在网页输入如下：192.168.100.23

在网页输入如下：192.168.100.100