16G内存 Tomcat并发优化、内存配置、垃圾回收、宕机预防

2024-05-06 20:58
文章标签 配置 内存 优化 tomcat 并发 回收 预防 垃圾 宕机 16g

本文主要是介绍16G内存 Tomcat并发优化、内存配置、垃圾回收、宕机预防，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

Tomcat并发优化、内存配置、垃圾回收、宕机预防

目录

 

  • Tomcat并发优化、内存配置、垃圾回收、宕机预防
    • 目录
      • 序言
      • 一、Tomcat并发优化
        • (1) tomcat并发参数
        • (2) tomcat并发配置
      • 二、Tomcat内存配置
        • (1) tomcat内存参数
        • (2) tomcat内存配置
      • 三、Tomcat垃圾回收
        • (1) JVM中对象的划分及管理
        • (2) jvm垃圾搜集参数
        • (3) tomcat垃圾搜集配置
      • 四、Tomcat宕机预防
        • (1) TCP端口状态
        • (2) Windows系统下的TCP参数
        • (3) tomcat假死分析及预防
      • 五、结语

 

序言

这几天系统问题层出不穷，服务器并发性差、tomcat内存溢出、假死宕机、网络阻塞，搞得我好不难受，寝食难安。但是经过高人指点、网络资料，再加上实践运行测试，系统逐渐稳定下来，性能也提升了不少，轻松之余，为大家分享我的经历，希望大家能够有所收获。

一、Tomcat并发优化

tomcat并发量与其配置息息相关，一般的机器几百的并发量足矣，如果设置太高可能引发各种问题，内存、网络等问题也能在高并发下暴露出来，因此，配置参数的设置非常重要。

(1) tomcat并发参数

  1. maxThreads：最大的并发请求数，当cpu利用率高的时候，不宜增加线程的个数,当cpu利用率不高，大部分是io阻塞类的操作时，可以适当增加该值。
  2. maxSpareThreads：Tomcat连接器的最大空闲 socket 线程数
  3. acceptCount：当处理任务的线程数达到最大时，接受排队的请求个数
  4. connectionTimeout：网络连接超时，单位毫秒
  5. enableLookups：若为false则不进行DNS查询，提高业务能力应设置为false

  6. disableUploadTimeout：若为true则禁用上传超时

    　　以上是一些比较常用的参数，Tomcat中server.xml配置详解 会有更加详细的介绍。

(2) tomcat并发配置

    在conf下的server.xml文件中<Connector>节点进行配置<Connector port="8080" protocol="HTTP/1.1"connectionTimeout="30000"redirectPort="8443"maxThreads="400"minSpareThreads="50"maxSpareThreads="200"acceptCount="400"enableLookups="false"disableUploadTimeout="true"     />
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11

二、Tomcat内存配置

tomcat一般都有默认的内存大小，其默认值对整个物理内存来说非常小，如果不配置tomcat的内存，会大大浪费服务器的资源，验证影响系统的性能，所以对tomcat的内存配置对用户量比较大的系统尤为重要。

(1) tomcat内存参数

  1. -server：一定要作为第一个参数，在多个CPU时性能佳
  2. -Xms：java Heap初始大小。 默认是物理内存的1/64。
  3. -Xmx：java heap最大值。建议均设为物理内存的一半。不可超过物理内存。
  4. -XX:PermSize：设定内存的永久保存区初始大小。缺省值为64M。
  5. -XX:MaxPermSize：设定内存的永久保存区最大 大小。缺省值为64M。
  6. -Xmn：young generation(年轻代)的heap大小。一般设置为Xmx的3、4分之一

(2) tomcat内存配置

     在bin下的catalina.bat文件中echo Using CATALINA_BASE:   "%CATALINA_BASE%"的前一行加入如下代码。
set JAVA_OPTS=%JAVA_OPTS% -server -Xms8192m -Xmx8192m -Xmn1890m
  • 1
  • 2
  • 3

三、Tomcat垃圾回收

垃圾回收(gc)机制非常重要，有时系统会因为内存没有及时回收导致内存溢出，或是内存饱和出现无法响应用户请求的情况，这就要要求我们对空闲内存进行清理，以确保系统正常运行，tomcat GC的最佳配置是确保系统正常运行的关键。

(1) JVM中对象的划分及管理

JVM根据运行于其中的对象的生存时间大致的分为3种。并且将这3种不同的对象分别存放在JVM从系统分配到的不同的内存空间。这种对象存放空间的管理方式叫做Generation管理方式。

  1. Young Generation（年轻代）：用于存放“早逝”对象（即瞬时对象）。例如：在创建对象时或者调用方法时使用的临时对象或局部变量。
  2. Tenured Generation(年老代)：用于存放“驻留”对象（即较长时间被引用的对象）。往往体现为一个大型程序中的全局对象或长时间被使用的对象。
  3. Perm Generation(永久保存区域)：用于存放“永久”对象。这些对象管理着运行于JVM中的类和方法。

(2) jvm垃圾搜集参数

  1. -verbose:gc：显示垃圾收集信息(在虚拟机发生内存回收时在输出设备显示信息)
  2. UseConcMarkSweepGC：开启此参数使用ParNew & CMS(serial old为替补)搜集器
  3. MaxTenuringThreshold：晋升老年代的最大年龄。默认为15，比如设为10，则对象在10次普通GC后将会被放入年老代。
  4. -XX:+ExplicitGCInvokesConcurrent：System.gc()可以与应用程序并发执行。
  5. GCTimeRatio：设置系统的吞吐量。比如设为99，则GC时间比为1/1+99=1%，也就是要求吞吐量为99%。若无法满足会缩小新生代大小。
  6. CMSInitiatingOccupancyFraction：触发CMS收集器的内存比例。比如60%的意思就是说，当内存达到60%，就会开始进行CMS并发收集。
  7. CMSFullGCsBeforeCompaction：设置在几次CMS垃圾收集后，触发一次内存整理。
  8. -Xnoclassgc：禁用类垃圾回收，性能会高一点；

  9. -XX:SoftRefLRUPolicyMSPerMB=N：官方解释是：Soft reference在虚拟机中比在客户集中存活的更长一些。其清除频率可以用命令行参数 -XX:SoftRefLRUPolicyMSPerMB=来控制，这可以指定每兆堆空闲空间的 soft reference 保持存活（一旦它不强可达了）的毫秒数，这意味着每兆堆中的空闲空间中的 soft reference 会（在最后一个强引用被回收之后）存活1秒钟。注意，这是一个近似的值，因为 soft reference 只会在垃圾回收时才会被清除，而垃圾回收并不总在发生。系统默认为一秒。

    　　以上是一些基本的参数配置，通过JVM内存管理——垃圾搜集器参数精解查看更详细的配置，通过Tomcat中Java垃圾收集调优查看原理

(3) tomcat垃圾搜集配置

tomcat的垃圾搜集是和内存设置一起配置的，内存和gc的设置也不是越大越好，良好的比例可以使你的系统性能提升一般甚至更多，下面是tomcat7 ，服务器物理内存16g的标准配置

在bin下的catalina.bat文件中echo Using CATALINA_BASE:   "%CATALINA_BASE%"的前一行加入如下代码。
  • 1
  • 2

set JAVA_OPTS=%JAVA_OPTS%
-server -Xms8192m -Xmx8192m -Xmn1890m -verbose:gc
-XX:+UseConcMarkSweepGC -XX:MaxTenuringThreshold=5 -XX:+ExplicitGCInvokesConcurrent -XX:GCTimeRatio=19 -XX:CMSInitiatingOccupancyFraction=70 -XX:CMSFullGCsBeforeCompaction=0 -Xnoclassgc -XX:SoftRefLRUPolicyMSPerMB=0

    *要把以上代码写在一行才能生效。*
  • 1
  • 2

配置后系统的jvm内存运行状况如下:
这里写图片描述

可以看到系统在内存到达2g后就会回收空闲内存，基本不会发生溢出的情况，8g的最大内存最高才用了2g，说明系统的性能还是很优越的，用户数再增加也能在一定程度上保证系统稳定性。

四、Tomcat宕机预防

tomcat在运行一段时间后，出现无法访问的情况，检查内存完全正常，查看服务器端口发现大量close_wait，导致网络阻塞，以至于无法响应无法的请求，这就是tomcat最经常发生的宕机假死现象。

(1) TCP端口状态

  1. LISTENING状态
    FTP服务启动后首先处于侦听（LISTENING）状态。
  2. ESTABLISHED状态
    ESTABLISHED的意思是建立连接。表示两台机器正在通信。
  3. CLOSE_WAIT
    对方主动关闭连接或者网络异常导致连接中断，这时我方的状态会变成CLOSE_WAIT 此时我方要调用close()来使得连接正确关闭。

  4. TIME_WAIT
    我方主动调用close()断开连接，收到对方确认后状态变为TIME_WAIT。TCP协议规定TIME_WAIT状态会一直持续2MSL(即两倍的分段最大生存期)，以此来确保旧的连接状态不会对新连接产生影响。处于TIME_WAIT状态的连接占用的资源不会被内核释放，所以作为服务器，在可能的情况下，尽量不要主动断开连接，以减少TIME_WAIT状态造成的资源浪费。

    　　更详细的TCP端口状态请参考TCP端口状态说明

(2) Windows系统下的TCP参数

  1. KeepAliveTime
    　　KeepAliveTime的值控制系统尝试验证空闲连接是否仍然完好的频率。如果该连接在一段时间内没有活动，那么系统会发送保持连接的信号，如果网络正常并且接收方是活动的，它就会响应。如果需要对丢失接收方的情况敏感，也就是说需要更快地发现是否丢失了接收方，请考虑减小该值。而如果长期不活动的空闲连接的出现次数较多，但丢失接收方的情况出现较少，那么可能需要增大该值以减少开销。
    　　缺省情况下，如果空闲连接在7200000毫秒（2小时）内没有活动，系统就会发送保持连接的消息。
  2. KeepAliveInterval
    　　KeepAliveInterval的值表示未收到另一方对“保持连接”信号的响应时，系统重复发送“保持连接”信号的频率。在无任何响应的情况下，连续发送“保持连接”信号的次数超过TcpMaxDataRetransmissions（下文将介绍）的值时，将放弃该连接。如果网络环境较差，允许较长的响应时间，则考虑增大该值以减少开销；如果需要尽快验证是否已丢失接收方，则考虑减小该值或TcpMaxDataRetransmissions值。
    　　缺省情况下，在未收到响应而重新发送“保持连接”的信号之前，系统会等待1000毫秒（1秒）。

  3. KeepAliveInterval
    　　KeepAliveInterval的值表示未收到另一方对“保持连接”信号的响应时，系统重复发送“保持连接”信号的频率。在无任何响应的情况下，连续发送“保持连接”信号的次数超过TcpMaxDataRetransmissions（下文将介绍）的值时，将放弃该连接。如果网络环境较差，允许较长的响应时间，则考虑增大该值以减少开销；如果需要尽快验证是否已丢失接收方，则考虑减小该值或TcpMaxDataRetransmissions值。
    　　缺省情况下，在未收到响应而重新发送“保持连接”的信号之前，系统会等待1000毫秒（1秒）。

    　　更多系统参数请参考Windows系统下的TCP参数

(3) tomcat假死分析及预防

close_wait发生的原因是TCP连接没有调用关闭方法，需要应用来处理网络链接关闭，对于Web请求出现这个原因，经常是因为Response的BodyStream没有调用Close，除了调整代码外，可以调整windows系统参数解决tomcat假死问题

tomcat假死时利用netstat -ano查看端口现象如下：
这里写图片描述
KeepLive在Windows操作系统下默认是7200000毫秒，也就是2个小时才清理一次，对与大量close_wait情况下，可以减小其时间
在注册表的[HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters]改动或创建以下项
“KeepAliveTime”=dword:afc8 (45000毫秒)
“KeepAliveInterval”=dword:1
“TcpMaxDataRetransmissions”=dword:”5″
情况会明显改善，但不保证大并发下服务器不会出现假死现象，毕竟代码的规范性也占很大比重。

五、结语

写了这么多我也累了，你们也看累了，更可恶的是中间写到一半网络不稳定，导致我写的东西许多都遗失，后面还是咬着牙写完了，现在还没吃饭，澡堂也关门了，哎，不过还是值得。你们能看到这里我也很荣幸，希望对你们有所帮助

这篇关于16G内存 Tomcat并发优化、内存配置、垃圾回收、宕机预防的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/965364。

相关文章

Vue3 的 shallowRef 和 shallowReactive：优化性能

Vue3 的 shallowRef 和 shallowReactive：优化性能

大家对 Vue3 的 ref 和 reactive 都很熟悉，那么对 shallowRef 和 shallowReactive 是否了解呢？ 在编程和数据结构中，“shallow”（浅层）通常指对数据结构的最外层进行操作，而不递归地处理其内部或嵌套的数据。这种处理方式关注的是数据结构的第一层属性或元素，而忽略更深层次的嵌套内容。 1. 浅层与深层的对比 1.1 浅层（Shallow） 定义
阅读更多...
Zookeeper安装和配置说明

Zookeeper安装和配置说明

一、Zookeeper的搭建方式 Zookeeper安装方式有三种，单机模式和集群模式以及伪集群模式。 ■ 单机模式：Zookeeper只运行在一台服务器上，适合测试环境； ■ 伪集群模式：就是在一台物理机上运行多个Zookeeper 实例； ■ 集群模式：Zookeeper运行于一个集群上，适合生产环境，这个计算机集群被称为一个“集合体”（ensemble） Zookeeper通过复制来实现
阅读更多...
CentOS7安装配置mysql5.7 tar免安装版

CentOS7安装配置mysql5.7 tar免安装版

一、CentOS7.4系统自带mariadb # 查看系统自带的Mariadb[root@localhost~]# rpm -qa|grep mariadbmariadb-libs-5.5.44-2.el7.centos.x86_64# 卸载系统自带的Mariadb[root@localhost ~]# rpm -e --nodeps mariadb-libs-5.5.44-2.el7
阅读更多...
HDFS—存储优化（纠删码）

HDFS—存储优化（纠删码）

纠删码原理 HDFS 默认情况下，一个文件有3个副本，这样提高了数据的可靠性，但也带来了2倍的冗余开销。 Hadoop3.x 引入了纠删码，采用计算的方式，可以节省约50％左右的存储空间。 此种方式节约了空间，但是会增加 cpu 的计算。 纠删码策略是给具体一个路径设置。所有往此路径下存储的文件，都会执行此策略。 默认只开启对 RS-6-3-1024k
阅读更多...
hadoop开启回收站配置

hadoop开启回收站配置

开启回收站功能，可以将删除的文件在不超时的情况下，恢复原数据，起到防止误删除、备份等作用。 开启回收站功能参数说明 （1）默认值fs.trash.interval = 0，0表示禁用回收站；其他值表示设置文件的存活时间。 （2）默认值fs.trash.checkpoint.interval = 0，检查回收站的间隔时间。如果该值为0，则该值设置和fs.trash.interval的参数值相等。
阅读更多...
NameNode内存生产配置

NameNode内存生产配置

Hadoop2.x 系列，配置 NameNode 内存 NameNode 内存默认 2000m ，如果服务器内存 4G ， NameNode 内存可以配置 3g 。在 hadoop-env.sh 文件中配置如下。 HADOOP_NAMENODE_OPTS=-Xmx3072m Hadoop3.x 系列，配置 Nam
阅读更多...
使用opencv优化图片（画面变清晰）

使用opencv优化图片（画面变清晰）

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化，使其看起来更清晰，同时保持尺寸不变，通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多，主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器：相机传
阅读更多...
离心萃取机废旧磷酸铁锂电池回收工艺流程

离心萃取机废旧磷酸铁锂电池回收工艺流程

在废旧磷酸铁锂电池的回收工艺流程中，离心萃取机主要应用于萃取除杂的步骤，以提高回收过程中有价金属（如锂）的纯度。以下是结合离心萃取机应用的废旧磷酸铁锂电池回收工艺流程： 电池拆解与预处理 拆解：将废旧磷酸铁锂电池进行拆解，分离出电池壳、正负极片、隔膜等部分。破碎与筛分：将正负极片进行破碎处理，并通过筛分将不同粒径的物料分开，以便后续处理。 浸出与溶解 浸出：采用适当的浸出工艺（如二段式逆
阅读更多...
MySQL数据库宕机，启动不起来，教你一招搞定！

MySQL数据库宕机，启动不起来，教你一招搞定！

作者介绍：老苏，10余年DBA工作运维经验，擅长Oracle、MySQL、PG、Mongodb数据库运维（如安装迁移，性能优化、故障应急处理等）公众号：老苏畅谈运维欢迎关注本人公众号，更多精彩与您分享。 MySQL数据库宕机，数据页损坏问题，启动不起来，该如何排查和解决，本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志，排查哪个表（表空间
阅读更多...
wolfSSL参数设置或配置项解释

wolfSSL参数设置或配置项解释

1. wolfCrypt Only 解释：wolfCrypt是一个开源的、轻量级的、可移植的加密库，支持多种加密算法和协议。选择“wolfCrypt Only”意味着系统或应用将仅使用wolfCrypt库进行加密操作，而不依赖其他加密库。 2. DTLS Support 解释：DTLS（Datagram Transport Layer Security）是一种基于UDP的安全协议，提供类似于
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2