Nginx+Tomcat负载均衡集群总结

最新推荐文章于 2021-07-12 16:33:55 发布

风麒麟

最新推荐文章于 2021-07-12 16:33:55 发布

阅读量532

点赞数 2

CC 4.0 BY-SA版权

分类专栏： java nginx tomcat 文章标签： nginx tomcat web java

本文链接：https://blog.youkuaiyun.com/weixin_39671217/article/details/78013651

java 同时被 3 个专栏收录

21 篇文章

订阅专栏

nginx

1 篇文章

订阅专栏

tomcat

1 篇文章

订阅专栏

本文介绍Nginx与Tomcat结合实现负载均衡的方法，包括分布式集群架构的搭建步骤，以及解决集群环境下session共享问题的具体方案。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Nginx+Tomcat负载均衡集群

什么是分布式？不同的业务，不同的功能，部署到不同的服务器
什么是集群？相同的业务，相同的功能，部署到多台服务器
什么是负载？负载用户响应请求到不同的服务器，减轻服务器的压力
云端服务器？可以配置服务器，增加服务器、删除服务器

Nginx

Nginx是一款轻量级的Web 服务器/反向代理服务器及电子邮件（IMAP/POP3）代理服务器，并在一个BSD-like 协议下发行。其特点是占有内存少，并发能力强。

Nginx由内核和一系列模块组成，内核提供web服务的基本功能,如启用网络协议,创建运行环境,接收和分配客户端请求,处理模块之间的交互。Nginx的各种功能和操作都由模块来实现。Nginx的模块从结构上分为核心模块、基础模块和第三方模块。

核心模块： HTTP模块、EVENT模块和MAIL模块基础模块： HTTP Access模块、HTTP FastCGI模块、HTTP
Proxy模块和HTTP Rewrite模块第三方模块： HTTP Upstream Request
Hash模块、Notice模块和HTTP Access Key模块及用户自己开发的模块

Nginx的特点

跨平台：Nginx 可以在大多数 Unix like OS编译运行，而且也有Windows的移植版本。
配置异常简单，非常容易上手。配置风格跟程序开发一样，神一般的配置
非阻塞、高并发连接：数据复制时，磁盘I/O的第一阶段是非阻塞的。官方测试能够支撑5万并发连接，在实际生产环境中跑到2～3万并发连接数.(这得益于Nginx使用了最新的epoll模型)
事件驱动：通信机制采用epoll模型，支持更大的并发连接。

Tomcat 服务器

Tomcat 服务器是一个免费的开放源代码的Web 应用服务器，属于轻量级应用服务器，在中小型系统和并发访问用户不是很多的场合下被普遍使用，是开发和调试JSP 程序的首选，可利用它响应HTML（标准通用标记语言下的一个应用）页面的访问请求。

代理服务器:一般是指局域网内部的机器通过代理服务器发送请求到互联网上的服务器,代理服务器一般作用在客户端。

这里写图片描述

一个完整的代理请求过程为：客户端首先与代理服务器创建连接，接着根据代理服务器所使用的代理协议，请求对目标服务器创建连接、或者获得目标服务器的指定资源。
Web代理（proxy）服务器是网络的中间实体。
代理位于Web客户端和Web服务器之间，扮演“中间人”的角色。HTTP的代理服务器即是Web服务器又是Web客户端。

代理服务器是介于客户端和Web服务器之间的另一台服务器，有了它之后，浏览器不是直接到Web服务器去取回网页而是向代理服务器发出请求，信号会先送到代理服务器，由代理服务器来取回浏览器所需要的信息并传送给你的浏览器。

正向代理/反向代理

正向代理 是一个位于客户端和原始服务器(origin server)之间的服务器，为了从原始服务器取得内容，客户端向代理发送一个请求并指定目标(原始服务器)，然后代理向原始服务器转交请求并将获得的内容返回给客户端。客户端必须要进行一些特别的设置才能使用正向代理。

反向代理服务器：在服务器端接受客户端的请求，然后把请求分发给具体的服务器进行处理，然后再将服务器的响应结果反馈给客户端。Nginx就是其中的一种反向代理服务器软件。

客户端必须设置正向代理服务器，当然前提是要知道正向代理服务器的IP地址，还有代理程序的端口。
反向代理正好与正向代理相反，对于客户端而言代理服务器就像是原始服务器，并且客户端不需要进行任何特别的设置。客户端向反向代理的命名空间(name-space)中的内容发送普通请求，接着反向代理将判断向何处(原始服务器)转交请求，并将获得的内容返回给客户端。

分布式集群架构

简单的搭建：
1. 将程序导出，打包成war包
2. 安装多台tomcat服务器，注意避开冲突端口
3. 将war包添加到tomcat/webapps里
4. 解压nginx.zip发布包，打开conf/nginx.conf,追加如下配置

    upstream server_list{
      server localhost:8080 weight=1;
      server localhost:8081 weight=2;
    }
    server {
        listen       80;
        server_name  localhost;

        #charset koi8-r;

        #access_log  logs/host.access.log  main;

        location / {
            root   html;
            index  index.html index.htm;
            proxy_pass http://server_list/;
        }

5. 启动nginx，浏览器输入http://localhost:8080/xxx/hello.jsp访问
6. 集群后对session共享应用有影响，解决方法
网址：https://github.com/jcoleman/tomcat-redis-session-manager

同样修改 tomcat 的 conf目录下的 context.xml 文件：

&lt;ValveclassName="com.radiadesign.catalina.session.RedisSessionHandlerValve"/&gt;

        &lt;ManagerclassName="com.radiadesign.catalina.session.RedisSessionManager"
        host="localhost"
     port="6379"

    database="0"
    maxInactiveInterval="60"/&gt;

> 以上是以 1.2 版为例子，需要用的jar 包：
>       tomcat-redis-session-manager-1.2-tomcat-6.jar       jedis-2.1.0.jar
>       commons-pool-1.6.jar

其他相关知识
master/worker结构：

一个master进程，生成一个或多个worker进程
内存消耗小：处理大并发的请求内存消耗非常小。在3万并发连接下，开启的10个Nginx 进程才消耗150M内存（15M*10=150M）
成本低廉：Nginx为开源软件，可以免费使用。而购买F5 BIG-IP、NetScaler等硬件负载均衡交换机则需要十多万至几十万人民币
内置的健康检查功能：如果 Nginx Proxy 后端的某台 Web 服务器宕机了，不会影响前端访问。

节省带宽：支持 GZIP 压缩，可以添加浏览器本地缓存的 Header 头。稳定性高：用于反向代理，宕机的概率微乎其微

Nginx的事件处理机制

对于一个基本的web服务器来说，事件通常有三种类型，网络事件、信号、定时。

首先看一个请求的基本过程：建立连接—接收数据—发送数据。

再次看系统底层的操作：上述过程（建立连接—接收数据—发送数据）在系统底层就是读写事件。

1）如果采用阻塞调用的方式，当读写事件没有准备好时，必然不能够进行读写事件，那么久只好等待，等事件准备好了，才能进行读写事件。那么请求就会被耽搁
。阻塞调用会进入内核等待，cpu就会让出去给别人用了，对单线程的worker来说，显然不合适，当网络事件越多时，大家都在等待呢，cpu空闲下来没人用，cpu利用率自然上不去了，更别谈高并发了
。
2）既然没有准备好阻塞调用不行，那么采用非阻塞方式。非阻塞就是，事件，马上返回EAGAIN，告诉你，事件还没准备好呢，你慌什么，过会再来吧。好吧，你过一会，再来检查一下事件，直到事件准备好了为止，在这期间，你就可以先去做其它事情，然后再来看看事件好了没。虽然不阻塞了，但你得不时地过来检查一下事件的状态，你可以做更多的事情了，但带来的开销也是不小的
小结：非阻塞通过不断检查事件的状态来判断是否进行读写操作，这样带来的开销很大。
3）因此才有了异步非阻塞的事件处理机制。具体到系统调用就是像select/poll/epoll/kqueue这样的系统调用。他们提供了一种机制，让你可以同时监控多个事件，调用他们是阻塞的，但可以设置超时时间，在超时时间之内，如果有事件准备好了，就返回。这种机制解决了我们上面两个问题。
以epoll为例：当事件没有准备好时，就放入epoll(队列)里面。如果有事件准备好了，那么就去处理；如果事件返回的是EAGAIN，那么继续将其放入epoll里面。从而，只要有事件准备好了，我们就去处理她，只有当所有时间都没有准备好时，才在epoll里面等着。这样，我们就可以并发处理大量的并发了，当然，这里的并发请求，是指未处理完的请求，线程只有一个，所以同时能处理的请求当然只有一个了，只是在请求间进行不断地切换而已，切换也是因为异步事件未准备好，而主动让出的。这里的切换是没有任何代价，你可以理解为循环处理多个准备好的事件，事实上就是这样的。
4）与多线程的比较：
与多线程相比，这种事件处理方式是有很大的优势的，不需要创建线程，每个请求占用的内存也很少，没有上下文切换，事件处理非常的轻量级。并发数再多也不会导致无谓的资源浪费（上下文切换）。

小结：通过异步非阻塞的事件处理机制，Nginx实现由进程循环处理多个准备好的事件，从而实现高并发和轻量级。

Nginx典型的应用场景

负载均衡技术在现有网络结构之上提供了一种廉价、有效、透明的方法，来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。它有两方面的含义：首先，大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间；其次，单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高

Nginx的应用

到官网下载Windows版本，下载地址：http://nginx.org/en/download.html 解压到磁盘任一目录
修改配置文件：具体参考备注。启动服务：直接运行nginx.exe，缺点控制台窗口关闭，服务关闭。
cmd命令行下守护进程的方式启动：start nginx 停止服务：nginx -s stop 重新加载配置：nginx -s reload