Tomcat 性能调优、加固、JVM优化

# Tomcat性能调优：

1、server.xml优化

找到Tomcat根目录下的conf目录，修改server.xml文件的内容。对于这部分的调优，我所了解到的就是无非设置一下Tomcat服务器的最大并发数和Tomcat初始化时创建的线程数的设置，当然还有其他一些性能调优的设置，下图是我根据我机子的性能设置的一些参数值，给各位详细解释一下吧：

参数	描述
maxThreads=”300″	设置当前Tomcat的最大并发数。Tomcat默认配置的最大请求数是150个，即同时能支持150个并发。但是在实际运用中，最大并发数与硬件性能和CPU数量都有很大关系的，更好的硬件、更高的处理器都会使Tomcat支持更多的并发数。如果一般在实际开发中，当某个应用拥有 250 个以上并发的时候，都会考虑到应用服务器的集群。
minSpareThreads=”50″	设置当前Tomcat初始化时创建的线程数，默认值为25。
maxQueueSize	最大的等待队列数，超过则拒绝请求。
maxIdleTime	空闲线程存活的时间，单位毫秒，默认60000=60秒。
prestartminSpareThreads	为 true时，minSpareThreads 才有效果。
URIEncoding=”UTF-8″	设置Tomcat的字符集。这种配置我们一般是不会设置的，因为关于乱码的转换我们会在具体项目中具体处理，直接修改Tomcat的字符集未免过于太死板。
acceptCount=”250″	当同时连接的人数达到maxThreads参数设置的值时，还可以接收排队的连接数量，超过这个连接的则直接返回拒绝连接。指定当任何能够使用的处理请求的线程数都被使用时，能够放到处理队列中的请求数，超过这个数的请求将不予处理。默认值为100。在实际应用中，如果想加大Tomcat的并发数 ，应该同时加大acceptCount和maxThreads的值。
enableLookups=”false”	是否开启域名反查，一般设置为false来提高处理能力，它的取值还有true，一般很少使用。
keepAliveTimeout	表示在下次请求过来之前，tomcat保持该连接多久。这就是说假如客户端不断有请求过来，且为超过过期时间，则该连接将一直保持。
maxKeepAliveRequests=”1″	表示该连接最大支持的请求数。超过该请求数的连接也将被关闭（此时就会返回一个Connection: close头给客户端）。
maxPostSize	设置由容器解析的URL参数的最大长度，-1(小于0)为禁用这个属性，默认为2097152(2M) 请注意， FailedRequestFilter 过滤器可以用来拒绝达到了极限值的请求。
connectionTimeout	Connector接受一个连接后等待的时间(milliseconds)，默认值是60000。
maxConnections	这个值表示最多可以有多少个socket连接到tomcat上。
enableLookups	禁用DNS查询，默认是开启的一般用不上。
maxHttpHeaderSize	http请求头信息的最大程度，超过此长度的部分不予处理。一般8K。
compression	是否启用GZIP压缩 on为启用（文本数据压缩） off为不启用， force 压缩所有数据
disableUploadTimeout	这个标志允许servlet容器使用一个不同的,通常长在数据上传连接超时。 如果不指定,这个属性被设置为true,表示禁用该时间超时。
acceptorThreadCount	用于接受连接的线程数量。增加这个值在多CPU的机器上,尽管你永远不会真正需要超过2。 也有很多非维持连接,您可能希望增加这个值。默认值是1。
compressionMinSize	当超过最小数据大小才进行压缩。
processorCache	协议处理器缓存的处理器对象来提高性能。 该设置决定多少这些对象的缓存。-1意味着无限的,默认是200。 如果不使用Servlet 3.0异步处理,默认是使用一样的maxThreads设置。 如果使用Servlet 3.0异步处理,默认是使用大maxThreads和预期的并发请求的最大数量(同步和异步)。
tcpNoDelay	如果设置为true,TCP_NO_DELAY选项将被设置在服务器套接字,而在大多数情况下提高性能。这是默认设置为true。
connectionLinger	数在这个连接器将持续使用的套接字时关闭。默认值是 -1,禁用socket 延迟时间。
server	隐藏Tomcat版本信息，首先隐藏HTTP头中的版本信息。
compressableMimeType	配置想压缩的数据类型。

• protocol：TOMCAT8以上使用org.apache.coyote.http11.Http11Nio2Protocol，效率会更高。
  • bio模式： 默认的模式,性能非常低下,没有经过任何优化处理和支持.
  • nio模式：nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。
    • 启用此模式：
      • 修改server.xml里的Connector节点,修改protocol为org.apache.coyote.http11.Http11NioProtocol
  • apr模式： apr是从操作系统级别解决异步IO问题，大幅度提高服务器的并发处理性能，也是Tomcat生产环境运行的首选方式 目前Tomcat 8.x默认情况下全部是运行在nio模式下，而apr的本质就是使用jni技术调用操作系统底层的IO接口，所以需要提前安装所需要的依赖，首先是需要安装openssl和apr，命令如下：

yum -y install openssl-devel
yum -y install apr-devel
安装之后，去tomcat官网下载native组件，native可以看成是tomcat和apr交互的中间环节，下载地址是：http://tomcat.apache.org/download-native.cgi 这里下载最新的版本1.2.10

解压之后上传至服务器执行解压并安装：
tar -xvzf tomcat-native-1.2.10-src.tar.gz -C /usr/local
cd /usr/local/tomcat-native-1.2.10-src/native/
./configure 编译安装

然后进入tomcat安装目录，编辑配置文件：conf/server.xml
将默认的protocol="HTTP/1.1"修改为protocol="org.apache.coyote.http11.Http11AprProtocol"

配置tomcat安装目录下:bin/catalina.sh文件引入apr，推荐这种方式：
在原有变量JAVA_OPTS后面追加对应的配置即可，添加一行新的就可以：JAVA_OPTS="$JAVA_OPTS -Djava.library.path=/usr/local/apr/lib"

JVM优化详细内容可参考

2、JVM性能调优：

Tomcat本身还是运行在JVM上的，通过对JVM参数的调整我们可以使Tomcat拥有更好的性能。目前针对JVM的调优主要有两个方面：内存调优和垃圾回收策略调优。

2.1、内存调优

找到Tomcat根目录下的bin目录，设置catalina.sh文件中JAVA_OPTS变量即可，因为后面的启动参数会把JAVA_OPTS作为JVM的启动参数来处理。再说Java虚拟机的内存结构是有点复杂的，相信很多人在理解上都是很抽象的，它主要分为堆、栈、方法区和垃圾回收系统等几个部分组成，下面是我从网上扒的内存结构图：

内存调优这块呢，无非就是通过修改它们各自的内存空间的大小，使应用能够更加合理的运用，下图是我根据我机子的性能设置的参数，给各位详细解释一下各个参数的含义吧：

0、-server：启动Server,以服务端模式运行，服务端模式建议开启

1、-Xmx512m ：设置Java虚拟机的堆的最大可用内存大小，单位：兆(m)，整个堆大小=年轻代大小 + 年老代大小 + 持久代大小。持久代一般固定大小为64m。堆的不同分布情况，对系统会产生一定的影响。尽可能将对象预留在新生代，减少老年代GC的次数（通常老年回收起来比较慢)。实际工作中，通常将堆的初始值和最大值设置相等，这样可以减少程序运行时进行的垃圾回收次数和空间扩展，从而提高程序性能。

2、-Xms512m ：设置Java虚拟机的堆的初始值内存大小，单位：兆(m)，此值可以设置与-Xmx相同，以避免每次垃圾回收完成后JVM重新分配内存。

3、-Xmn170m ：设置年轻代内存大小，单位：兆(m)，此值对系统性能影响较大，Sun官方推荐配置为整个堆的3/8。一般在增大年轻代内存后，也会将会减小年老代大小。

4、-Xss128k ：设置每个线程的栈大小。JDK5.0以后每个线程栈大小为1M，以前每个线程栈大小为256K。更具应用的线程所需内存大小进行调整。在相同物理内存下，减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的，不能无限生成，经验值在3000~5000左右。

5、 -XX:NewRatio=4 ：设置年轻代（包括Eden和两个Survivor区）与年老代的比值（除去持久代）。设置为4，则年轻代与年老代所占比值为1：4，年轻代占整个堆栈的1/5 。

6、-XX:SurvivorRatio=4 ：设置年轻代中Eden区与Survivor区的大小比值。设置为4，则两个Survivor区与一个Eden区的比值为2:4，一个Survivor区占整个年轻代的1/6。

7、-XX:MaxPermSize=16m ：设置持久代大小为16m，上面也说了，持久代一般固定的内存大小为64m。

8、-XX:MaxTenuringThreshold=0：设置垃圾最大年龄。如果设置为0的话，则年轻代对象不经过Survivor区，直接进入年老代。对于年老代比较多的应用，可以提高效率。如果将此值设置为一个较大值，则年轻代对象会在Survivor区进行多次复制，这样可以增加对象再年轻代的存活时间，增加在年轻代即被回收的概论。

2.2、垃圾回收策略调优

找到Tomcat根目录下的bin目录，也是设置catalina.sh文件中JAVA_OPTS变量即可。我们都知道Java虚拟机都有默认的垃圾回收机制，但是不同的垃圾回收机制的效率是不同的，正是因为这点我们才经常对Java虚拟机的垃圾回收策略进行相应的调整。下面也是通过我的一些需求来配置的垃圾回收策略：

Java虚拟机的垃圾回收策略一般分为：串行收集器、并行收集器、并发收集器

垃圾收集器	含义说明
串行收集器	采用单线程执行所有的垃圾回收工作，适用于单核CPU服务器，无法利用多核硬件的优势。
并行收集器	又称吞吐量收集器，对年轻代进行并行垃圾回收，因此可以减少垃圾回收时间。一般在多线程多处理器机器上使用
并发收集器	可以保证大部分工作都并发进行（应用不停止），垃圾回收只暂停很少的时间，此收集器适合对响应时间要求比较高的中、大规模应用
CMS收集器	并发标记清除收集器，适用于那些更愿意缩短垃圾回收暂停时间并且负担的起与垃圾回收共享处理器资源的应用
G1收集器	适用于大容量内存的多核服务器，可以再满足垃圾回收暂停时间目标的同时，以最大可能性实现高吞吐量(JDK1.7之后)

不同的应用程序，对于垃圾回收有不同的需求，JVM会根据运行的平台，服务器资源配置情况选择合适的垃圾回收器、对内存大小及运行时编译器，如无法满足需求，参考一下准则：

• 程序数据量较小，选择串行收集器。
• 应用运行在单核处理器上且没有暂停时间要求，可交由JVM自行选择或选择串行收集器。
• 如果考虑应用程序的峰值性能，没有暂停要求，可以选择并行收集器。
• 如果应用程序的响应时间比整体吞吐量更重要，可以选择并发收集器。

GC参数

参数	描述
-XX:+UseSerialGC	启用串行收集器
-XX:+UseParallelGC	启用并行垃圾收集器，配置了该选项，那么-XX:+UseParallelOldGC默认启用
-XX:+UseParallelOldGC	老年代采用并行收集，默认禁止，如果设置了-XX:+UseParallelGC则自动启用
-XX:+UseParNewGC	年轻代采用并行收集器，如果设置了 -XX:+UseConcMarkSweepGC自动启用
-XX:ParallelGCThreads	设置并行垃圾回收的线程数，此值可以设置与机器处理器数量相等。默认是跟机器处理器一样
-XX:MaxGCPauseMillis	指定垃圾回收时的最长暂停时间
-XX:+UseConcMarkSweepGC	对于老年代，启用CMS垃圾收集器，当并行收集器无法满足应用的延迟需求时，推荐使用CMS或G1收集器。 启用该选项后， -XX:+UseParNewGc 自动启用
-XX:+UseG1GC	启用G1收集器，G1是服务器类型的收集器，用于多核、大内存的机器。他在保持高吞吐量的情况下，高概率满足GC暂停时间的目标。

/usr/local/java/bin/java -XX:+PrintCommandLineFlags -version 		# 查看JDK使用的收集器

辅助GC的参数

选项	描述
-XX:+PrintGC	打印每次GC的信息
-XX:+PrintGCDetails	打印每次GC的详细信息
-XX:+PrintGCTimeStamps	打印每次GC的日期戳
-XX:+PrintGCApplicationConcurrentTime	打印最后一次暂停之后所经过的时间，即响应并发执行时间
-XX:+PrintGCApplicationStoppedTime	打印GC时应用暂停时间
-XX:+PrintHeapAtGC	打印GC前后的详细堆栈信息
-XX:+PrintGCTaskTimeStamps	打印每次GC工作线程任务的时间戳
-Xloggc:/usr/local/tomcat/logs/tomcat_gc.log	与上面几个配合使用，把相关日志信息记录到文件以便分析。

3、系统参数优化：

优化网卡驱动可以有效提升性能，这个对于集群环境工作的时候尤为重要。由于我们采用了linux服务器，所以优化内核参数也是一个非常重要的工作。给一个参考的优化参数：

  01、 修改/etc/sysctl.cnf文件，在最后追加如下内容：
net.core.netdev_max_backlog = 32768
net.core.somaxconn = 32768
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.route.gc_timeout = 100
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 1200
net.ipv4.tcp_timestamps = 0
net.ipv4.tcp_synack_retries = 2
net.ipv4.tcp_syn_retries = 2
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000 
net.ipv4.tcp_max_orphans = 3276800 
net.ipv4.tcp_max_syn_backlog = 65536

  02、 保存退出，执行sysctl -p生效

Tomcat 安全加固：

1、关闭tomcat版本信息：

• apache-tomcat-8.5.82/lib/catalina.jar
  • org/apache/catalina/util/ServerInfo.properties

将文件内容修改如下：

server.info=NO VERSION
server.number=8.5.82.0
server.built=NO VERSION

Tomcat性能测试：

可以通过Apache自带的ab命令

1、安装ab命令
yum install httpd-tools

2、查看ab版本
ab -V

ab -n 10000 -c 100 http://127.0.0.1:8080/
...
Requests per second:    5148.05 [#/sec] (mean)		# 每秒的吞吐量
Time per request:       19.425 [ms] (mean)				# 用户的请求消耗
Time per request:       0.194 [ms] (mean, across all concurrent requests)		# 服务器处理请求消耗
...