Web服务器群集——企业级调度器LVS（LVS-NAT；LVS-DR负载均衡群集部署）

最新推荐文章于 2023-04-06 10:58:56 发布

stan Z

最新推荐文章于 2023-04-06 10:58:56 发布

阅读量5.3k

点赞数 9

分类专栏： Web服务器文章标签： linux 运维 lvs 服务器负载均衡

本文链接：https://blog.youkuaiyun.com/Cantevenl/article/details/115410899

版权

企业级调度器LVS（LVS-NAT；LVS-DR负载均衡群集部署）

- 企业级调度器LVS（Linux Virtual Server）

企业级调度器LVS（Linux Virtual Server）

集群概念
LVS模型
LVS调度算法
LVS实现

集群和分布式

系统性能扩展方式:

Scale UP:垂直扩展，向上扩展,增强，性能更强的计算机运行同样的服务
Scale Out:水平扩展，向外扩展，增加设备，并行地运行多个服务调度分配问题，Cluster

随着计算机性能的增长，其价格会成倍增长
单台计算机的性能是有上限的，不可能无限制地垂直扩展
多核CPU意味着即使是单台计算机也可以并行的。

1.1 集群 Cluster

Cluster：集群,为解决某个特定问题将多台计算机组合起来形成的单个系统

Cluster分为三种类型:

LB： Load Balancing，负载均衡，多个主机组成，每个主机只承担一部分访问请求
HA：High Availiablity，高可用，避免SPOF (single Point Of failure)
- MTBF:Mean Time Between Failure 平均无故障时间，正常时间
- MTTR:Mean Time To Restoration ( repair)平均恢复前时间，故障时间
- A=MTBF/ (MTBF+MTTR)(0,1): 99%,99.5%,99.9%,99.99%,99.999%
SLA：服务等级协议（简称: SLA，全称: service level agreement)。是在一定开销下为保障服务的性能和可用性，服务提供商与用户间定义的一种双方认可的协定。通常这个开销是驱动提供服务质量的主要因素。在常规的领域中，总是设定所谓的三个9，四个9来进行表示，当没有达到这种水平的时候，就会有一些列的惩罚措施，而运维，最主要的目标就是达成这种服务水平。

  1年 = 365天 = 8760小时
  99.9 = 8760 * 0.1% = 8760 * 0.001 = 8.76小时
  99.99 = 876 * 0.0001 = 0.876小时 = 0.876 * 60 = 52.6分钟
  99.999 = 8760 * 0.00001 = 0.0876小时 = 0.0876 * 60 = 5.26分钟

停机时间又分为两种，一种是计划内停机时间，一种是计划外停机时间，而运维则主要关注计划外停机时间。

HPC：Hgih-performance computing，高性能超级计算机

1.2 分布式系统

分布式存储: Ceph，GlusterFS,FastDFS，MogileFs

分布式计算: hadoop,Spark

分布式常见应用

分布式应用-服务按照功能拆分，使用微服务
分布式静态资源–静态资源放在不同的存储集群上
分布式数据和存储–使用key-value缓存系统
分布式计算–对特殊业务使用分布式计算，比如Hadoop集群

1.3 集群和分布式

集群：同一个业务系统，部署在多台服务器上。集群中，每一台服务器实现的功能没有差别，数据和代码都是一样的

分布式：一个业务被拆成多个子业务，或者本身就是不同的业务，部署在多台服务器上。分布式中，每一台服务器实现的功能是有差别的，数据和代码也是不一样的，分布式每台服务器功能加起来，才是完整的业务

分布式是以缩短单个任务的执行时间来提升效率的，而集群则是通过提高单位时间内执行的任务数来提升效率。

对于大型网站，访问用户很多，实现一个群集，在前面部署一个负载均衡服务器，后面几台服务器完成同一业务。如果有用户进行相应业务访问时，负载均衡器根据后端哪台服务器的负载情况，决定由给哪一台去完成响应，并且一台服务器垮了，其它的服务器可以顶上来。分布式的每一个节点，都完成不同的业务，如果一个节点垮了，那这个业务可能就会失败

1.4 集群设计原则

可扩展性集群的横向扩展能力

可用性无故障时间

性能访问响应时间

容量单位时间内的最大并发吞吐量（C10K 并发问题）

1.5 集群设计实现

1.5.1 基础设施层面

提升硬件资源性能从入口防火墙到后端web server均使用更高性能的硬件资源

多域名—DNS轮询A记录解析

多入口一将A记录解析到多个公网IP入口

多机房―同城+异地容灾

CDN(Content Delivery Network)—基于GSLB(Global Server Load Balance)实现全局负载均衡，如:DNS

1.5.2 业务层面

分层:安全层、负载层、静态层、动态层、(缓存层、存储层)持久化与非持久化

分割:基于功能分割大业务为小服务

分布式:对于特殊场景的业务，使用分布式计算

1.6 LB Cluster 负载均衡集群

以提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标，获得高并发、高负载（LB）的整体性能
LB的负载分配依赖于主节点的分流算法

1.6.1 按实现方式划分

硬件

F5 Big-IP

Citrix Netscaler

A10 A10
软件

lvs：linux virtual server，阿里四层SLB（Server Load Balance）使用

nginx：支持七层调度，阿里七层SLB使用Tengine

haproxy：支持七层调度

1.6.2 基于工作的协议层次划分

传输层(通用): DNAT和DPORT
LVS:

nginx: stream

haproxy: mode tcp
应用层（专用):针对特定协议，常称为proxy server
http: nginx, httpd, haproxy(mode http), …

fastcgi: nginx,httpd, …

mysql: mysql-proxy,…

1.6.3 负载均衡的会话保持

session sticky:同一用户调度固定服务器

Source lP: LVS sh算法（对某一特定服务而言)

session replication:每台服务器拥有全部session

session multicast cluster

session server:专门的session服务器

Memcached，Redis

1.7 HA Cluster 高可用集群实现

以提高应用系统的可靠性、尽可能地减少中断时间为目标，确保服务的连续性，达到高可用（HA）的容错效果
HA的工作方式包括双工和主从两种模式

keepalived: vrrp协议

Ais :应用接口规范
heartbeat

cman+rgmanager(RHCS)

coresync_pacemaker

1.8 HPC Cluster 高性能运算群集

以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标，获得相当于大型、超级计算机的高性能运算（HPC）能力
高性能运算群集的高性能依赖于“分布式运算”、“并行计算”，通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起，实现只有大型、超级计算机才具备的计算能力

Linux Virtual Server简介

2.1 LVS介绍

LVS: Linux Virtual Server，负载调度器，内核集成，章文嵩，阿里的四层SLB(Server LoadBalance)是基于LVS+keepalived实现

LVS官网: http://www.linuxvirtualserver.org/

LVS相关术语
VS: Virtual Server，负责调度
RS: Real Server，负责真正提供服务

2.2 LVS工作原理

VS根据请求报文的目标IP和目标协议及端口将其调度转发至某RS，根据调度算法来挑选RS。LVS是内核级功能, 工作在INPUT链的位置，将发往INPUT的流量进行“处理”

范例:查看内核支持LVS

[root@lnmp ~]# grep -i -C 10 ipvs /boot/config-3.10.0-862.el7.x86_64
...
# 显示LVS支持哪些协议
# IPVS transport protocol load balancing support
#
CONFIG_IP_VS_PROTO_TCP=y
CONFIG_IP_VS_PROTO_UDP=y
CONFIG_IP_VS_PROTO_AH_ESP=y
CONFIG_IP_VS_PROTO_ESP=y
CONFIG_IP_VS_PROTO_AH=y
CONFIG_IP_VS_PROTO_SCTP=y

# LVS的调度算法
# IPVS scheduler
#
CONFIG_IP_VS_RR=m
CONFIG_IP_VS_WRR=m
CONFIG_IP_VS_LC=m
CONFIG_IP_VS_WLC=m
CONFIG_IP_VS_LBLC=m
CONFIG_IP_VS_LBLCR=m
CONFIG_IP_VS_DH=m
CONFIG_IP_VS_SH=m
CONFIG_IP_VS_SED=m
CONFIG_IP_VS_NQ=m

2.3 LVS集群体系架构

$[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-x1VH9ahN-1617386259156)(C:\Users\StanZ\AppData\Roaming\Typora\typora-user-images\image-20210331202209337.png)]$

从互联网上发请求过来到达防火墙经过路由器路由器

2.4 LVS功能及组织架构

负载均衡的应用场景为高访问量的业务，提高应用程序的可用性和可靠性。

2.4.1 应用于高访问量的业务

如果您的应用访问量很高，可以通过配置监听规则将流量分发到不同的云服务器ECS (Elastic Compute Service弹性计算服务）实例上。此外，可以使用会话保持功能将同一客户端的请求转发到同一台后端ECS

2.4.2 扩展应用程序

可以根据业务发展的需要，随时添加和移除ECS实例来扩展应用系统的服务能力，适用于各种Web服务器和App服务器。

2.4.3 消除单点故障

可以在负载均衡实例下添加多台ECS实例。当其中一部分ECS实例发生故障后，负载均衡会自动屏蔽故障的ECS实例，将请求分发给正常运行的ECS实例，保证应用系统仍能正常工作

2.4.4 同城容灾(多可用区容灾)

为了提供更加稳定可靠的负载均衡服务，阿里云负载均衡已在各地域部署了多可用区以实现同地域容灾。当主可用区出现机房故障或不可用时，负载均衡仍然有能力在非常短的时间内(如:大约30s中断）切换到另外一个备可用区恢复服务能力;当主可用区恢复时，负载均衡同样会自动切换到主可用区提供服务。

使用负载均衡时，您可以将负载均衡实例部署在支持多可用区的地域以实现同城容灾。此外，建议您结合自身的应用需要，综合考虑后端服务器的部署。如果您的每个可用区均至少添加了一台ECS实例，那么此种部署模式下的负载均衡服务的效率是最高的。

如下图所示，在负载均衡实例下绑定不同可用区的ECS实例。正常情况下，用户访问流量将同时转至发主、备可用区内的ECS实例；当可用区A发生故障时，用户访问流量将只转发至备可用区内的ECS实例。此种部署既可以避免因为单个可用区的故障而导致对外服务的不可用，也可以通过不同产品间可用区的选择来降低延迟。

$[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-FiBQAvMl-1617386259165)(C:\Users\StanZ\AppData\Roaming\Typora\typora-user-images\image-20210331202941096.png)]$

如果采取如下图所示的部署方案，即在负载均衡实例的主可用区下绑定多台ECS实例，而在备可用区没有任何ECS实例。当主可用区发生故障时会造成业务中断，因为备可用区没有ECS实例来接收请求。这样的部署方式很明显是以牺牲高可用性为代价来获取低延时。

$[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZWIr3Tke-1617386259166)(C:\Users\StanZ\AppData\Roaming\Typora\typora-user-images\image-20210331203014447.png)]$

2.4.5 跨地域容灾

您可以在不同地域下部署负载均衡实例，并分别挂载相应地域内不同可用区的ECS。上层利用云解析做智能DNS,将域名解析到不同地域的负载均衡实例服务地址下，可实现全局负载均衡。当某个地域出现不可用时，暂停对应解析即可实现所有用户访问不受影响。

在这里插入图片描述

2.5 LVS集群类型中的术语

VS： Virtual Server，Director Server(DS), Dispatcher(调度器)，Load Balancer

RS：后端服务器 Real Server(lvs), upstream server(nginx), backend server(haproxy)

CIP：客户端IP （Client lP）用户记录发送给集群的源IP地址

VIP:：虚拟IP （Virtual serve lP VS外网的IP）用于Director对外提供服务的IP地址

DIP：Director lP VS内网的IP Director用于连接内外网络的IP地址，即负载均衡器上的IP地址

RIP：真实IP （Real server IP）集群中真实服务器的物理 IP 地址

LIP：LVS内部IP（Local IP Address） LVS集群的内部通信IP

访问流程：CIP<–>VIP == DIP<–>RIP

LVS 工作模式和相关命令

3.1 LVS集群的工作模式

lvs-nat：修改请求报文的目标IP，多目标IP的DNAT

lvs-dr：操纵封装新的MAC地址

lvs-tun：在原请求IP报文之外新加一个IP首部

lvs-fullnat：修改请求报文的源和目标IP

3.1.1 LVS的NAT模式

地址转换（Network Address Translation）

简称NAT模式，类似于防火墙的私有网络结构，负载调度器作为所有服务器节点的网关，即作为客户机的访问入口，也是各节点回应客户机的访问出口
服务器节点使用私有IP地址，与负载调度器位于同一个物理网络，安全性要优于其他两种方式

RIP和DIP应在同一个IP网络，且应使用私网地址;RS的网关要指向DIP
请求报文和响应报文都必须经由Director转发，Director易于成为系统瓶颈
支持端口映射，可修改请求报文的目标PORT
VS必须是Linux系统，RS可以是任意OS系统

$[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-wI0cJovU-1617386259169)(C:\Users\StanZ\AppData\Roaming\Typora\typora-user-images\image-20210331204832996.png)]$