Java WebSocket导致的OOM（内存溢出）问题排查

已于 2023-09-05 14:35:39 修改
阅读量4.7k 收藏 9
点赞数 4
CC 4.0 BY-SA版权
文章标签： java spring boot tomcat
于 2023-08-30 14:37:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/csdn_halon/article/details/132568853
文章讲述了线上工程因WebSocket协议引发的内存溢出问题，通过MAT工具分析定位到HeapCharBuffer和messageBufferText。解决思路包括临时增加内存、产品层面限制ws链接数、超时管理以及运维层面的健康检查和自动重启服务。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1.问题背景

线上某个工程总是会出现OOM导致系统宕机

2.排查追踪

拿到dump文件使用MAT工具分析
Overview

在dominator_tree中，AbstractProtocol类占据了绝大部分堆内存
看到AbstractProtocol类猜测可能和协议有关，HTTP、TCP、SMTP、WebSocket等
在这里插入图片描述
继续展开，可以发现WsFrameServer的类占据了大部分堆内存，定位为WebSocket协议导致的内存溢出。
再继续展开，可以发现HeapCharBuffer占据了大部分的内存。
如果项目中只有一个ws功能则就可以定义到具体业务了，如果有多个功能模块涉及ws则需要根据ws地址确认功能。
在这里插入图片描述
通过requestUri可以查看到ws地址和请求ip
在这里插入图片描述
通过上面排查是messageBufferText过大且链接过多导致的内存溢出，查看messageBufferText大小约20MB，则需要搞明白下面的问题：

  • 20MB是否是初始化大小？
  • 如果不是初始化大小，在哪里被赋值/配置修改？
  • 如果是初始化大小，在哪里可以赋值/配置修改？

那就需要查看源码分析messageBufferText是怎么初始化大小的。

首先找到了WsFrameServer类，发现messageBufferText是WsFrameServer父类WsFrameBase的成员变量
图片描述
WsFrameBase类
在这里插入图片描述
查看messageBufferText初始化：
CharBuffer.allocate静态方法创建CharBuffer的对象，其中会初始化一个大小为getMaxTextMessageBufferSize的Char类型的数组。
下面主要看wsSession.getMaxTextMessageBufferSize()方法
在这里插入图片描述
wsSession.getMaxTextMessageBufferSize()可以看到获取的是maxTextMessageBufferSize的数值
在这里插入图片描述
查看maxTextMessageBufferSize赋值
有一个默认值是8K，显然与想要的20MB差距比较大，继续看哪里有赋值了
在这里插入图片描述
wsSession.setMaxTextMessageBufferSize()
在这里插入图片描述
查看setMaxTextMessageBufferSize方法的调用
在这里插入图片描述
在代码实现里增加了这个配置，由于char类型占两个字节，1010241024*2 约 20MB，所以这个就是原因
在这里插入图片描述
不过我们继续看另外一个调用PojoMessageHandlerWholeText
在这里插入图片描述
往下追踪发现默认是-1，注解OnMessage的maxMessageSize字段获取值。
在这里插入图片描述

3. 解决思路

  1. 临时解决： 现场临时增加内存分配空间
    ps：默认情况下，-Xms是物理内存的1/64，-Xmx是物理内存的1/4
  2. message初始值大小： 统计ws的maxTextMessageBufferSize大小，设置合理的数值，或考虑压缩message大小。
  3. 产品层面： 问题同步至产品，从产品层面优化。
    如：从根据可用内存对ws链接数做最大限制
  4. 服务优化：
    如：由于在项目中ws是长链接，及时释放不再使用的WebSocket链接（超时）、同一个ip和ws地址使用同一个链接
    超时功能：项目中使用nginx，可以在nginx中增加超时配置proxy_read_timeout
  5. 运维层面： 增加健康检查对于意外崩溃自动重启服务
csdn_halon
关注
jetty9 websocket发送消息死锁，引发内存溢出
愤怒的菜鸟
07-09 4382
最近在做一个金融项目，做了一个网关，用来对接各种终端，长连接不断推送期货行情。（jetty9 websocket） 长连接的方案采用websocket，上线前，做单个终端的压力测试，传输数百万数据，跑了10多小时，一切正常。但是上线后，发现时间不规则的内存溢出，有时可能4天就死了，有时半天就死了，甚是郁闷。 dump出内存堆，使用mat分析，很容易看到byte[]非常大，占60
java堆外内存溢出_记一次堆外内存泄漏排查过程
weixin_29533307的博客
02-25 2117
本文涉及以下内容开启NMT查看JVM内存使用情况通过pmap命令查看进程物理内存使用情况smaps查看进程内存地址gdb命令dump内存块背景最近收到运维反馈，说有项目的一个节点的RSS已经是Xmx的两倍多了，因为是ECS机器所以项目可以一直运行，幸亏机器内存充足，不然就可能影响到其他应用了。排查问题通过跳板机登录到目标机器，执行top命令，再按c，看到对应的进程所占用的RES有8个多G(这里当时...
websocket导致内存溢出
weixin_43254676的博客
05-24 1万+
在无法连接webSocket时，控制台报错，内存溢出 检查代码，发现是由于不断重连导致的内存溢出 解决办法： https://www.jianshu.com/p/5297732db7f2
[JAVA]websocket引起的内存泄漏问题排查
weixin_52157994的博客
03-28 6487
虽然和C++不同的是，JAVA拥有独特的垃圾回收机制，程序员可以较少的担忧资源回收的问题，但是这种机制并不可能100%防止内存泄漏，一些难以察觉的代码实现或是配置都可能会造成这种机制失效，例如JAVA拥有多种不通强度的引用关系，例如强引用（strong reference），弱引用（weak reference），软引用（soft reference）和虚引用（phantom reference）。的错误，造成系统宕机。需要注意的是，最新版本需要JDK11支持，推荐下载1.7.0版本，只需要JDK8即可。
Websocket内存溢出
Lee_01的博客
08-09 3595
maxMessageSize设置太大，减少到合适的大小即可
内存泄漏与内存溢出
03-12
软件开发 数据库 内存泄露 内存溢出
java: web应用中不经意的内存泄露
lmrylll的博客
04-21 764
b) 在启动的执行逻辑中，不要使用阻塞线程的操作（比如：Thread.sleep之类的方法），否则部署时，实际上代码已经在后台执行了，jboss管理控制台上，一直处于部署中的状态，也没有任何输出，让人一头雾水，折腾半天才能定位错误，很浪费时间，如果是线上生产环境，是要粗事情的。正式部署到jboss上以后，问题来了，在jboss管理控制台上，把这个应用给disable甚至remove后，日志里仍然不断有上面的类似输出，即app的实例仍然活着，其start方法也始终在运行，换句话说，app并没有被销毁。
websocket影响内存泄漏的两个点
热门推荐
zero_rui.zhang的博客
03-25 1万+
前段时间一直遇到websocket的内存溢出问题，最后在排除了代码的问题之后，开始查找了框架的问题，最后找到了两个框架会影响到的坑，mark一下，顺便分享给大家首先说项目：springboot的内置tomcat启动，用的websocket是tomcat内核，spring封装。现象：启动项目后使用的时候cpu使用率不断增加达到99%，最后长时间运行由于CPU过高，导致无法访问最后报出OOM。使用js...
一次netty 堆外内存泄露排查
sixi7762的博客
06-25 1137
最近在做一个基于 websocket 的长连中间件，服务端使用实现了 socket.io 协议（基于websocket协议，提供长轮询降级能力） 的 netty-socketio 框架，该框架为 netty 实现，鉴于本人对 netty 比较熟，并且对比同样实现了 socket.io 协议的其他框架，这个框架的口碑要更好一些，因此选择这个框架作为底层核心。任何开源框架都避免不了 bug 的存在，我们在使用这个开源框架的时候，就遇到一个堆外内存泄露的 bug，鉴于对 netty 比较熟，于是接下来便想挑战一下
详解SpringCloudGateway内存泄漏问题
08-18
在压力测试阶段，发现 Gateway 有内存泄漏问题，具体表现为：当启动一台 Gateway 和一台对应的下游应用服务时，在压力测试期间，发现 Gateway 的内存会暴涨，并由于超过限制的最大内存导致容器挂掉。 内存泄漏问题...
WebSocket入门教程（四）-- WebSocket实例：实时获取服务器内存使用情况（优化一）
06-06
WebSocket入门教程（四）-- WebSocket实例：实时获取服务器内存使用情况（优化一）详解：http://blog.youkuaiyun.com/u010136741/article/details/51590619
WebSocket入门教程（三）- WebSocket实例：实时获取服务器内存使用情况
06-06
WebSocket入门教程（三）-- WebSocket实例：实时获取服务器内存使用情况, 详解：http://blog.youkuaiyun.com/u010136741/article/details/51581298
记一次kubernetes中springboot服务pod oom问题排解
后厂村老司机
06-21 796
背景 我们的springboot项目是通过k8s部署的，我们使用了G1垃圾回收器作为jvm的垃圾回收器，同时也配置了如下的各种应对jvm oom崩溃时的参数；在服务上线的一周左右时间，我们发现这个服务出现了oom重启，于是开启了我漫长的问题追踪过程； -XX:+UseG1GC -XX:MaxGCPauseMillis=50 -XX:InitiatingHeapOccupancyPercent=4...
记一次springboot项目k8s pod异常oom问题解决
后厂村老司机
06-21 1644
背景 我们的springboot项目是通过k8s部署的，我们使用了G1垃圾回收器作为jvm的垃圾回收器，同时也配置了如下的各种应对jvm oom崩溃时的参数；在服务上线的一周左右时间，我们发现这个服务出现了oom重启，于是开启了我漫长的问题追踪过程； -XX:+UseG1GC -XX:MaxGCPauseMillis=50 -XX:InitiatingHeapOccupancyPercent=4...
tomcat websocket WsFrameServer内存溢出
愤怒的苹果ext的博客
03-18 6102
WebSocket连接上了300以后JVM就报内存溢出了，把JVM溢出的堆栈日志导了出来这是详情： 648 instances of "org.apache.tomcat.websocket.server.WsFrameServer", loaded by "java.net.URLClassLoader @ 0x80f923a8" occupy 1,598,429,376 (96.4...
WebVuew性能优化之内存泄漏
xytong1991的博客
03-16 1138
       WebView的内存泄漏处理方式有两种，分别是开启独立的web进程、不在xml里面声明，而是直接代码new个对象，传入application context防止activity引用滥用，并反射回收第一、开启独立的web进程      1.1 在manifest配置如下：      <activity            android:name="com.example.de...
Java内存溢出和泄漏的排查
Angus
06-19 3368
什么样的人才会接触到这样的问题呢？ 一定是有一个项目在跑着，然后突然变慢了，你才会想到排查内存泄露的问题的。作为小白，写写逻辑，我觉得基本上接触不到这个问题。自己写程序报错OOM，那需要很大的代码错误。 我接触到这个问题是上次项目经理面试，问到我了，虽然我也是结合虚拟机答的，但是感觉回答的不是很好，所以自己想将这个问题整明白。 ~PS：原文真的写的好，点击去看看把，尊重原创，这里放链接...
Websocket大消息内存调优
天空下得大海
12-31 1706
然后逻辑上合并处理，但是如果消息太大、大消息太多或者内存回收不及时的时候也有内存溢出的风险，所以当isLast为true时处理完成消息时要及时清理消息，以达到快速释放内存的目的；和单纯将messageBuffer置为null相比下边的方式可以尽快的回收空间。然而却不能调太大因为这个值会导致所有大小消息都会占用这么大的内存，连接一多很容易会内存溢出（就算实际消息很小也会占用这么大的空间），所以只能应用websock的消息分段协议，增加一个boolean参数（标识消息是否结束）
websocket内存马
Blazing-Angel的博客
08-08 1439
websocket内存马
Java websocket 调用AI接口，流式返回
最新发布
03-04
<think>嗯，用户想了解如何在Java中使用WebSocket调用AI接口并实现流式返回。首先，我需要明确这两个技术点的结合方式。WebSocket是双向通信协议，适合实时数据传输，而流式返回通常指AI接口逐步生成结果，而不是一次性返回所有数据。 首先，用户可能需要一个基本的Java WebSocket客户端示例。我记得Java有javax.websocket库，可以用来创建客户端。需要确保依赖正确，比如使用Tyrus实现。然后，连接AI的WebSocket端点，处理onMessage事件来接收流式数据。 接下来要考虑AI接口的具体要求。比如，是否需要认证参数，消息格式是JSON还是其他，如何分片发送数据。可能需要设置消息处理器，将接收到的每个片段拼装或实时显示。同时，异常处理也很重要，比如网络中断或服务端错误，需要重连机制。 用户可能还关心如何集成到现有项目，比如Spring Boot中的应用。可能需要提到@ServerEndpoint注解配置服务端，但这里主要是客户端调用。此外，流式处理中的性能问题，比如缓冲区管理，避免内存溢出。 还需要注意线程安全，WebSocket客户端通常是异步的，主线程可能需要等待或使用回调。示例代码的结构是否清晰，关键部分如消息处理、会话管理是否到位。可能还需要提到测试方法，比如使用wscat命令行工具模拟服务端。 最后，确保回答步骤清晰，代码示例正确，并提醒用户替换关键参数如URL和API密钥。可能用户实际应用中会遇到的问题，比如如何处理分片数据、如何结束流式传输，这些也需要在注意事项中提到。</think>好的，我将分步骤为您介绍如何在Java中通过WebSocket调用AI接口并处理流式返回： 1. **基础原理** - WebSocket 提供全双工通信通道，适合流式数据传输 - AI接口(如ChatGPT API)流式返回时，会分多次发送token序列 - 需要保持连接持续接收数据片段直至结束 2. **实现步骤** **步骤1：添加依赖** ```xml <!-- Tyrus WebSocket 实现 --> <dependency> <groupId>org.glassfish.tyrus</groupId> <artifactId>tyrus-client</artifactId> <version>2.1.1</version> </dependency> ``` **步骤2：创建WebSocket客户端** ```java import javax.websocket.*; import java.net.URI; @ClientEndpoint public class AIWebSocketClient { private Session session; private final StringBuilder responseBuilder = new StringBuilder(); @OnOpen public void onOpen(Session session) { this.session = session; System.out.println("Connected to AI service"); } @OnMessage public void onMessage(String message) { // 处理流式返回的每个数据块 responseBuilder.append(message); System.out.println("Received chunk: " + message); } @OnClose public void onClose(CloseReason reason) { System.out.println("Connection closed: " + reason); // 处理最终完整响应 System.out.println("Final response:\n" + responseBuilder); } public void sendRequest(String prompt) throws Exception { String jsonRequest = """ { "prompt": "%s", "stream": true, "max_tokens": 1000 } """.formatted(prompt); session.getBasicRemote().sendText(jsonRequest); } public static void main(String[] args) throws Exception { WebSocketContainer container = ContainerProvider.getWebSocketContainer(); String wsUrl = "wss://api.example-ai.com/v1/chat/stream"; container.connectToServer( new AIWebSocketClient(), URI.create(wsUrl) ); } } ``` 3. **关键处理逻辑** - **流式拼接**：通过StringBuilder持续收集返回片段 - **心跳机制**：定期发送Ping消息保持连接 - **错误处理**： ```java @OnError public void onError(Throwable t) { System.err.println("Error occurred: " + t.getMessage()); // 实现重连逻辑 } ``` 4. **集成AI接口的注意事项** - 认证处理：通常在连接时添加Header ```java ClientEndpointConfig config = ClientEndpointConfig.Builder.create() .configurator(new ClientEndpointConfig.Configurator() { @Override public void beforeRequest(Map<String, List<String>> headers) { headers.put("Authorization", Collections.singletonList("Bearer YOUR_API_KEY")); } }) .build(); ``` - 流控制：根据返回速度调整接收频率 - 超时设置：建议30-60秒无响应自动断开 5. **Spring Boot集成示例** ```java @RestController public class AIController { @GetMapping("/ask") public SseEmitter askQuestion(@RequestParam String question) { SseEmitter emitter = new SseEmitter(); AIWebSocketClient client = new AIWebSocketClient(); client.setResponseHandler(chunk -> { emitter.send(chunk); }); client.sendRequest(question); return emitter; } } ``` **测试建议**： 1. 使用`wscat`命令行工具测试WebSocket连接 2. 模拟流式响应验证数据拼接逻辑 3. 压力测试连接稳定性 **典型问题处理**： - 网络中断：实现自动重连机制 - 数据乱序：添加序列号保证顺序 - 大响应处理：设置合理缓冲区大小 完整实现需要考虑： 1. 连接池管理 2. 流量控制 3. 异步回调处理 4. 与其他服务（如Redis）的集成 实际应用中建议使用成熟的WebSocket库（如Netty）处理底层协议，并根据具体AI服务的API文档调整消息格式。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值