Tomcat的集群

为什么80%的码农都做不了架构师？>>>   

Tomcat的集群

1. 概述

        在单一的服务器上执行WEB应用程序有一些重大的问题，当网站成功建成并开始接受大量请求时，单一服务器终究无法满足需要处理的负荷量，因为每个Tomcat的http请求线程池是有限的。另外一个常见的问题是会产生单点故障，如果该服务器坏掉，那么网站就立刻无法运作了。不论是因为要有较佳的扩充性还是容错能力，我们都会想 在一台以上的服务器计算机上执行WEB应用程序。所以，这时候我们就需要考虑Tomcat的集群。

    实现集群的优点：

    1. 提高服务的性能、并发能力、以及高可用性

    2. 提供项目架构的横向扩展能力

2. Tomcat集群的实现原理

        这里通过Nginx负载均衡对多个Tomcat进行请求转发。

3. Tomcat集群会带来哪些问题

    1）Session登陆信息存储及读取的问题

    2）服务器定时任务并发的问题（部署多个服务器的时候，可能在某个时间点某个定时任务在多台服务器上同时执行，可能会导致系统性能下降，并造成资源的浪费）

最终需要实现的集群框架

4. Tomcat单机部署多应该

    单机部署多应用就是在一台服务器上部署多个Tomcat，每个Tomcat都是独立运行的。

1）Linux/Mac 单机部署多应用

    部署步骤（这里以两台Tomcat为例）：

    （1）首先在Linux/Mac上安装两个Tomcat

    （2）在环境变量中配置两个Tomcat

       在/etc/profile 中添加如下内容

export CATALINA_BASE=/developer/apache-tomcat-7.0.90_1
export CATALINA_HOME=/developer/apache-tomcat-7.0.90_1
export TOMCAT_HOME=/developer/apache-tomcat-7.0.90_1

export CATALINA_2_BASE=/developer/apache-tomcat-7.0.90_2
export CATALINA_2_HOME=/developer/apache-tomcat-7.0.90_2
export TOMCAT_2_HOME=/developer/apache-tomcat-7.0.90_2

其中后面的路径就是自己安装的Tomcat的路径。

在环境变量配置完成之后，需要执行命令使环境变量生效：

source /etc/profile

可以通过echo命令来验证配置的环境变量是否已经生效：

echo $CATALINA_2_BASE

输出如下内容的话，说明环境变量配置成功

    （3）修改Tomcat的启动文件

    第一个Tomcat的启动文件不变，只需要修改第二个即可。在第二个Tocamt安装目录/bin下，vim打开catalina.sh文件，找到# OS specific support.  $var _must_ be set to either true or false.在该注释下添加如下内容：

export CATALINA_BASE=$CATALINA_2_BASE
export CATALINA_HOME=$CATALINA_2_HOME

添加完之后如下：

    （4）修改Tomcat的端口（3个端口）

        这里只需要修改第二个Tomcat的端口，第一个Tomcat使用默认的端口，如果有多个Tocmat，那么必须保证每个Tomcat的端口号是不能重复的。

        进入到第二个Tomcat的安装目录/conf下，打开文件server.xml，修改其中的端口：

•     第一个端口：修改Server端口，将原来默认的8005端口修改为 9005端口

•    第二个端口：修改Connector端口，将原来默认的8080端口修改为9080端口，redirectPort的8443端口不需要修改。其中URIEncoding=“UTF-8”是为了防止Tomcat出现乱码而添加的。

•    第三个端口：修改AJP的Connector端口，将原来的8009端口改为 9009端口，redirectPort的8443端口不需要修改

    （5）启动Tomcat

在以上配置修改完成之后就可以启动这两个Tomcat了，正常情况下两个Tomcat都是可以正常启动的

第一个Tomcat

第二个Tocmat

2）Windows 单机部署多应用

    （1）首先在windows下安装两个Tomcat

    （2）在window下新增Tomcat的环境变量

CATEALINA_BASE=E:\Tomcat\apache-tomcat-8.5.34-x64_1
CATEALINA_HOME=E:\Tomcat\apache-tomcat-8.5.34-x64_1
TOMCAT_HOME=E:\Tomcat\apache-tomcat-8.5.34-x64_1

CATEALINA_2_BASE=E:\Tomcat\apache-tomcat-8.5.34-x64_2
CATEALINA_2_HOME=E:\Tomcat\apache-tomcat-8.5.34-x64_2
TOMCAT_2_HOME=E:\Tomcat\apache-tomcat-8.5.34-x64_2

    （3）修改Tomcat的启动文件

    第一个Tomcat的启动文件不变，只需要修改第二个即可。在第二个Tocamt安装目录/bin下，修改catalina.bat和startpup.bat文件。

    将这两个文件中的CATALINA_BASE 修改为 CATALINA_2_BASE， CATALINA_HOME修改为 CATALINA_2_HOME (建议使用全部替换的方式来更改)

    （4）修改Tomcat的端口（3个端口）

修改端口和在Linux下的修改一样，参考上面Linux下的修改即可。

    （5）启动Tomcat

    CMD命令分别进入到两个Tomcat的bin目录，启动Tocmat

startup.bat

第一个Tocmat

第二个Tomcat

5. Nginx负载均衡配置、常用策略、场景及特点

1）轮训（默认的配置）

缺省配置就是轮询策略，在轮询中，如果服务器down掉了，会自动剔除该服务器。此策略适合服务器配置相当，无状态且短平快的服务使用。

2）权重（weight）

权重方式，在轮询策略的基础上指定轮询的几率，该策略是生产环境用的最多的一种方式。例子如下：

#动态服务器组
upstream dynamic_zuoyu {
  server localhost:8080  weight=2; #tomcat 7.0
  server localhost:8081; #tomcat 8.0
  server localhost:8082  backup; #tomcat 8.5
  server localhost:8083  max_fails=3 fail_timeout=20s; #tomcat 9.0
}

在该例子中，weight参数用于指定轮询几率，weight的默认值为1,；weight的数值与访问比率成正比，比如Tomcat 7.0被访问的几率为其他服务器的两倍。

注意：

• 权重越高分配到需要处理的请求越多。
• 此策略可以与least_conn和ip_hash结合使用。
• 此策略比较适合服务器的硬件配置差别比较大的情况。

3）依据ip分配方式（ip_hash）

指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端的请求一直发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。

#动态服务器组
  upstream dynamic_zuoyu {
    ip_hash;  #保证每个访客固定访问一个后端服务器
    server localhost:8080  weight=2; #tomcat 7.0
    server localhost:8081; #tomcat 8.0
    server localhost:8082; #tomcat 8.5
    server localhost:8083  max_fails=3 fail_timeout=20s; #tomcat 9.0
  }

注意：

• 在nginx版本1.3.1之前，不能在ip_hash中使用权重（weight）。
• ip_hash不能与backup同时使用。
• 此策略适合有状态服务，比如session。
• 当有服务器需要剔除，必须手动down掉。

4）最少连接方式（least_conn）

把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大致相同；但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果。

#动态服务器组
upstream dynamic_zuoyu {
  least_conn;  #把请求转发给连接数较少的后端服务器
  server localhost:8080  weight=2; #tomcat 7.0
  server localhost:8081; #tomcat 8.0
  server localhost:8082 backup; #tomcat 8.5
  server localhost:8083  max_fails=3 fail_timeout=20s; #tomcat 9.0
}

注意：

• 此负载均衡策略适合请求处理时间长短不一造成服务器过载的情况。

4）url hash（需要安装第三方的Nginx插件来实现）

按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求，可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再此收到请求，就可以从缓存中读取。

#动态服务器组
upstream dynamic_zuoyu {
  hash $request_uri;  #实现每个url定向到同一个后端服务器
  server localhost:8080; #tomcat 7.0
  server localhost:8081; #tomcat 8.0
  server localhost:8082; #tomcat 8.5
  server localhost:8083; #tomcat 9.0

5）fair（需要安装第三方的Nginx插件来实现）

按照服务器端的响应时间来分配请求，响应时间短的优先分配。

#动态服务器组
upstream dynamic_zuoyu {
  server localhost:8080; #tomcat 7.0
  server localhost:8081; #tomcat 8.0
  server localhost:8082; #tomcat 8.5
  server localhost:8083; #tomcat 9.0
  fair;  #实现响应时间短的优先分配
}

6. 本实例所使用的策略是权重

Nginx的配置如下：

upstream www.declan.com{
        server 127.0.0.1:8080 weight=10;
        server 127.0.0.1:9080 weight=15;
 }


server {
    listen 80;
    autoindex on;
    server_name www.declan.com;
    access_log /usr/local/nginx/logs/access.log combined;
    index index.html index.htm index.jsp index.php;
    #error_page 404 /404.html;
    if ( $query_string ~* ".*[\;'\<\>].*" ){
        return 404;
    }


    location / {
        proxy_pass http://www.declan.com;
        add_header Access-Control-Allow-Origin *;
    }
}

这里监听的域名：www.declan.com（如果没有域名可以使用ip地址，或者可以配置/etc/hosts来配置该域名 来进行测试）， 端口是默认的80端口，当用户访问www.declan.com时，Nginx接受到请求，然后在location中找到proxy_pass的值，由于配置了upstream，就会在upstream中根据配置的负载均衡策略来转发到相应的服务器上来处理。

注意：这里配置的8080端口的weight=10， 9080端口的weight=15，表示的是：9080端口 端口访问的概率是8080端口的1.5倍 

配置完成之后访问www.declan.com就会发现服务有时候访问的是8080的服务器，有时候访问的是9080的服务器。

 

转载于:https://my.oschina.net/Declan/blog/2990565