一.集群和分布式的介绍
1.1:集群Cluster
"集群"(Cluster)是一个在计算机科学和信息技术中广泛使用的术语,它指的是一组计算机系统(节点)协同工作,作为一个统一的计算资源来处理任务。集群的设计目的是提高性能、可靠性和可扩展性。以下是集群的一些关键特点和用途:
1. **性能提升**:通过并行处理,集群可以显著提高计算能力,适用于需要大量计算资源的任务,如科学模拟、大数据分析等。
2. **高可用性**:集群中的节点可以相互备份,如果一个节点发生故障,其他节点可以接管其工作,从而保证服务的连续性。
3. **可扩展性**:集群可以根据需要增加更多的节点,以适应不断增长的计算需求。
4. **负载均衡**:集群管理系统可以将工作负载均匀地分配给各个节点,以确保资源得到有效利用。
5. **成本效益**:通过使用标准化的硬件和开源软件,集群可以以较低的成本提供高性能的计算服务。
集群可以分为几种不同的类型,包括:
- **计算集群**:主要用于高性能计算(HPC)任务,如科学计算和工程模拟。
- **存储集群**:提供高可用性和可扩展的存储解决方案,如网络附加存储(NAS)和存储区域网络(SAN)。
- **数据库集群**:用于提高数据库的性能和可靠性,如MySQL集群和Oracle Real Application Clusters (RAC)。
- **应用服务集群**:用于提供高可用性的应用服务,如Web服务器集群和邮件服务器集群。
集群技术在云计算、大数据处理、企业级应用和许多其他领域中都扮演着重要的角色。
1.2:分布式
分布式存储:Ceph,GlusterFs,FastDFS,MogileFs
分布式计算:hadoop,Spark
分布式常见应用:1:分布式应用-服务按照功能拆分,使用微服务。
2:分布式静态资源--静态资源放在不同的存储集群上。
3:分布式数据和存储--使用key-value缓存系统。
4:分布式计算--对特殊业务使用分布式计算,比如Hadoop集群。
1.3:集群和分布式
(1):集群:同一个业务系统,部署在多台服务器上,集群中,每一台服务器实现的功能没有差别,数据和代码都是一样的。
(2)分布式:一个业务被拆成多个子业务,或者本身就是不同的业务,部署在多台服务器上。分布式中,每一台服务器实现的功能是有差别的,数据和代码也是不一样的,分布式每台服务器功能加起来,才是完整的业务。
(3)分布式是以缩短单个任务的执行时间来提升效率的,而集群则是通过提高单位时间内执行的任务数 来提升效率。
(4)对于大型网站,访问用户很多,实现一个群集,在前面部署一个负载均衡服务器,后面几台服务器 完成同一业务。如果有用户进行相应业务访问时,负载均衡器根据后端哪台服务器的负载情况,决 定由给哪一台去完成响应,并且台服务器垮了,其它的服务器可以顶上来。分布式的每一个节点, 都完成不同的业务,如果一个节点垮了,那这个业务可能就会失败。
二.lvs(Linux virtual server)运行原理
2.1:lvs简介
LVS(Linux Virtual Server)是一个基于Linux内核的开源软件项目,用于构建高性能、高可用性的负载均衡服务器集群。LVS最初由章文嵩博士在1998年创建,它通过将多台物理服务器或虚拟机组合成一个单一的虚拟服务器,来提供服务的高可用性和可扩展性。并且负载调度器,内核集成,章文嵩,阿里的四层SLB(Server LoadBalance)是基 于LVS+keepalived实现。
2.2 lvs集群体系结构
2.3:LVS概念
VS:Virtual Server
RS:Real Server
CIP:Client IP
VIP: Virtual serve IP VS外网的IP
DIP: Director IP VS内网的IP
RIP: Real server IP
访问流程:CIP VIP == DIP RIP
2.4:lvs集群的类型
1:nat模式(lvs-nat)
(1)本质是多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为某挑出的RS的RIP和PORT实现转发。
(2)RIP和DIP应在同一个IP网络,且应使用私网地址;RS的网关要指向DIP。
(3)请求报文和响应报文都必须经由Director转发,Director易于成为系统瓶颈。
(4)支持端口映射,可修改请求报文的目标PORT。
(5)VS必须是Linux系统,RS可以是任意OS系统。
2:DR模式(lvs-dr)
DR:Direct Routing,直接路由,LVS默认模式,应用最广泛,通过为请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标IP/PORT均保持不变。并且在DR模式中,RS接收到访问请求后不需要回传给VS调度器,直接把回传数据发送给client,所以RS和vs 上都要有vip。
3:TUN模式(lvs-tun)
转发方式:不修改请求报文的IP首部(源IP为CIP,目标IP为VIP),而在原IP报文之外再封装一个IP首部 (源IP是DIP,目标IP是RIP),将报文发往挑选出的目标RS;RS直接响应给客户端(源IP是VIP,目标IP 是CIP)。
4:fullnet模式(lvs-fullnat)
fullnat:通过同时修改请求报文的源IP地址和目标IP地址进行转发。
CIP --> DIP
VIP --> RIP
1.VIP是公网地址,RIP和DIP是私网地址,且通常不在同一IP网络;因此,RIP的网关一般不会指向DIP。
2.RS收到的请求报文源地址是DIP,因此,只需响应给DIP;但Director还要将其发往Client。
3.请求和响应报文都经由Director 4.支持端口映射。
2.5:lvs的调度算法
2.5.1:lvs调度算法类型
1:ipvs scheduler:根据其调度时是否考虑各RS当前的负载状态被分为两种:静态方法和动态方法。
2:静态方法:仅根据算法本身进行调度,不考虑RS的负载情况。
3:动态方法:主要根据每RS当前的负载状态及调度算法进行调度Overhead=value较小的RS将被调度。
2.5.2:lvs静态调度算法
1、RR:roundrobin 轮询 RS分别被调度,当RS配置有差别时不推荐.
2、WRR:Weighted RR,加权轮询根据RS的配置进行加权调度,性能差的RS被调度的次数少。
3、SH:Source Hashing,实现session sticky,源IP地址hash;将来自于同一个IP地址的请求始终发往第一次挑中的RS,从而实现会话绑定。
4、DH:Destination Hashing;目标地址哈希,第一次轮询调度至RS,后续将发往同一个目标地址的请求始终转发至第一次挑中的RS,典型使用场景是正向代理缓存场景中的负载均衡,如:宽带运营商。
2.5.3:lvs动态调度算法
1、LC:least connections(最少链接发)
适用于长连接应用Overhead(负载值)=activeconns(活动链接数) x 256+inactiveconns(非活
动链接数)。
2、WLC:Weighted LC(权重最少链接)。
默认调度方法Overhead=(activeconns x 256+inactiveconns)/weight。
3、SED:Shortest Expection Delay,
初始连接高权重优先Overhead=(activeconns+1+inactiveconns) x 256/weight
当node1的权重为1,node2的权重为10,经过运算前几次的调度都会被node2承接。
4、NQ:Never Queue,第一轮均匀分配,后续SED。
5、LBLC:Locality-Based LC,动态的DH算法,使用场景:根据负载状态实现正向代理。
6、LBLCR:LBLC with Replication,带复制功能的LBLC,解决LBLC负载不均衡问题,从负载重的复制到负载轻的RS。
三.部署DR模式集群案例
3.1:实验环境
3.2:配置实验环境
1:在客户端主机中为nat模式网卡
2:在路由主机中设定双网卡,ens160为nat网卡,ens224为仅主机网卡
对于ens160的设定:
对于ens224的设定:
3:对于dr调度器设定网卡为仅主机模式
4:对于web1的设定网卡为仅主机模式
5:对于web2中的网络设定
6:配置完环境后确保每台主机ping都可以互相通信。
在lvs 和 服务器1,2中设定vip
[root@ypz ~]# ip addr add dev lo 192.168.0.100/32
[root@jnin ~]# ip addr add dev lo 192.168.0.100/32
[root@cnwj ~]# ip addr add dev lo 192.168.0.100/32
在RS1和RS2中解决响应问题
[root@jnin ~]# echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
[root@jnin ~]# echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
[root@jnin ~]# echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
[root@jnin ~]# echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
[root@cnwj ~]# echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
[root@cnwj ~]# echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
[root@cnwj ~]# echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
[root@cnwj ~]# echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
7:在lvs中配置策略
8:测试效果