优化Tomcat运行性能和并发数

最新推荐文章于 2019-06-29 09:52:25 发布

weixin_34127717

最新推荐文章于 2019-06-29 09:52:25 发布

阅读量102

点赞数

CC 4.0 BY-SA版权

文章标签： java 操作系统 python

原文链接：https://my.oschina.net/zchuanzhao/blog/1359143

本文介绍了解决Tomcat在高峰期连接失败的问题，通过调整配置文件中的maxThreads和acceptCount参数，以及更改运行模式为nio，显著提高了并发处理能力。

2019独角兽企业重金招聘Python工程师标准>>>

最近项目遇到一个问题，到了高峰期后，会出现请求连接失败，导致场所在高峰期经常需要重启Tomcat才能继续营业。
查阅资料发现Tomcat可以设置连接数。

tomcat配置文件server.xml中的<Connector ... />配置中，和连接数相关的参数有：
minProcessors：最小空闲连接线程数，用于提高系统处理性能，默认值为10
maxProcessors：最大连接线程数，即：并发处理的最大请求数，默认值为75
acceptCount：允许的最大连接数，应大于等于maxProcessors，默认值为100
connectionTimeout：网络连接超时，单位：毫秒。默认设置为20000ms，设置为0表示永不超时，这样设置有隐患的。通常可设置为30000ms。
其中和最大连接数相关的参数为maxProcessors和acceptCount。如果要加大并发连接数，应同时加大这两个参数。
web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。Unix中如何设置这些参数，请参阅Unix常用监控和管理命令

我们需要设置的是maxThreads、acceptCount这两个值，

<Connector port="8090" protocol="HTTP/1.1" redirectPort="8443" 
URIEncoding="utf-8" connectionTimeout="30000" 
minProcessors="30" maxProcessors="1500" 
acceptCount="2000"/>

修改成这样的配置之后，运行100个线程，每个线程20个请求，每个线程间隔1秒，运行300秒，系统出现请求连接失败的次数仅出现6次，在没有修改配置之前，50个线程都直接奔溃。
继续查找资料中......

Tomcat Connector(Tomcat连接器)有bio、nio、apr三种运行模式，
bio(blocking I/O)，顾名思义，即阻塞式I/O操作，表示Tomcat使用的是传统的Java I/O操作(即java.io包及其子包)。Tomcat在默认情况下，就是以bio模式运行的。遗憾的是，就一般而言，bio模式是三种运行模式中性能最低的一种。我们可以通过Tomcat Manager来查看服务器的当前状态。
nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。要让Tomcat以nio模式来运行也比较简单，我们只需要在Tomcat安装目录/conf/server.xml文件中将如下配置：

<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />

中的protocol属性值改为org.apache.coyote.http11.Http11NioProtocol即可：

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000"
redirectPort="8443" />

此时，我们就可以在Tomcat Manager中看到当前服务器状态页面的HTTP协议的Connector运行模式已经从http-bio-8080变成了http-nio-8080。
apr(Apache Portable Runtime/Apache可移植运行时)，是Apache HTTP服务器的支持库。你可以简单地理解为，Tomcat将以JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作，从而大大地提高Tomcat对静态文件的处理性能。 Tomcat apr也是在Tomcat上运行高并发应用的首选模式。如果我们的Tomcat不是在apr模式下运行，在启动Tomcat的时候，我们可以在日志信息中看到类似如下信息：

2013-8-6 16:17:49 org.apache.catalina.core.AprLifecycleListener init
信息: The APR based Apache Tomcat Native library which allows optimal performance in production environments was not found on the java.library.path: xxx/xxx(这里是路径信息)
Tomcat apr运行模式的配置是三种运行模式之中相对比较麻烦的一种。据官方文档所述，Tomcat apr需要以下三个组件的支持：

APR library[APR库]
JNI wrappers for APR used by Tomcat (libtcnative)[简单地说，如果是在Windows操作系统上，就是一个名为tcnative-1.dll的动态链接库文件]
OpenSSL libraries[OpenSSL库]
此外，与配置nio运行模式一样，也需要将对应的Connector节点的protocol属性值改为org.apache.coyote.http11.Http11AprProtocol。不过，上述繁琐的操作都是Tomcat 7.0.30之前的版本才需要这样配置，从Tomcat 7.0.30版本开始，Tomcat已经自带了tcnative-1.dll等文件，并且默认就是在Tomcat apr模式下运行，因此我们只需要下载最新版本的Tomcat直接使用即可。

根据以上资料，将Tomcat Connector设置为nio，即配置文件修改为

<Connector port="8090" protocol="org.apache.coyote.http11.Http11NioProtocol" 
redirectPort="8443"  URIEncoding="utf-8" 
connectionTimeout="30000" minProcessors="30" maxProcessors="1500" 
acceptCount="2000"/>

继续运行100个线程，每个线程20个请求，每个线程间隔1秒，正常使用中，不会出现连接失败情况，继续开启100个线程，也正常处理，当然，实际请求数肯定是没有这么多了。
经过测试发现使用bio模式，在单位时间内，发起的请求数会比nio多几百个，具体是不是这样，就没有去深究了。
先这样处理，之后有问题再继续修改吧。

转载于:https://my.oschina.net/zchuanzhao/blog/1359143