java.lang.OutOfMemoryError: unable to create new native thread问题诊断

转载自:http://www.blogjava.net/ldd600/archive/2009/09/25/296397.html

 

搜罗了一下在网上找到了一个计算公式:

(MaxProcessMemory - JVMMemory – ReservedOsMemory) / (ThreadStackSize) = Number of threads 

MaxProcessMemory:进程最大的寻址空间,但我想这个值应该也不会超过虚拟内存和物理内存的总和吧。关于不同系统的进程可寻址的最大空间,可参考下面表格:

 

Maximum Address Space Per Process

Operating System

Maximum Address Space Per Process

Redhat Linux 32 bit

2 GB

Redhat Linux 64 bit

3 GB

Windows 98/2000/NT/Me/XP

2 GB

Solaris x86 (32 bit)

4 GB

Solaris 32 bit

4 GB

Solaris 64 bit

Terabytes

 

JVMMemory: Heap + PermGen

ReservedOSMemory:Native heap,JNI

便可推导出单个JVM Instance可支持的最大线程数的估计值:

(MaxProcessMemory<固定值> – Xms<初始化值,最小值> – XX:PermSize<初始化值,最小值> – 100m<估算值>) / Xss = Number of threads<最大值>

在本地(32bit windows)试了试,可达的线程的最大值差不多就是这个数,它不受物理内存的限制,会利用虚拟内存,从任务管理器看到memory已经是5500 m左右了(开了两个jvm),我机器的物理内存是2g,也不知道这个准不准,后来还抛出了“unable to create new native thread”的兄弟“Exception in thread "CompilerThread0" java.lang.OutOfMemoryError: requested 471336 bytes for Chunk::new. Out of swap space?“。

本地测完了后,就该轮到dev环境了,linux2.6,64bit,双核,8G(虚拟机),总的物理内存是16g。在上面整了一下,创建到了15000多个线程的时候挂掉了。此时其他application也不能创建新的线程,而且db也报错了,操作系统不能fork新的线程了。这应该是操作系统的哪里限制了新线程的创建,

·         max thread,linux2.6似乎是32000

·         最大可用内存:物理内存+虚拟内存

·         配置,在linux可以限制可用资源的大小,show一下这些参数

 

core file size          (blocks, -c) 0

data seg size           (kbytes, -d) unlimited

file size               (blocks, -f) unlimited

pending signals                 (-i) 1024

max locked memory       (kbytes, -l) 32

max memory size         (kbytes, -m) unlimited

open files                      (-n) 65536

pipe size            (512 bytes, -p) 8

POSIX message queues     (bytes, -q) 819200

stack size              (kbytes, -s) 10240

cpu time               (seconds, -t) unlimited

max user processes              (-u) 16384

virtual memory          (kbytes, -v) unlimited

file locks                      (-x) unlimited

 

为了进一步确定在linux上一个jvm因为达到了最大寻址空间OOM了,不会影响其他jvm,我在Linux做了进一步测试,一开始用Sun文档中说的最大寻址空间3G试了一下,发现根本不对,达到了3G后还是非常high地在创建新的线程。于是出动超级无敌变态的JVM初始化配置。

 

oracle   27408 27017 12 13:45 ?        00:00:07 /home/oracle/ias1013/FWAPP/FWDev/jdk/bin/java -server -Xmx4096m -Xms4096m -XX:+HeapDumpOnOutOfMemoryError -XX:PermSize=4096m -XX:MaxPermSize=4096m -XX:HeapDumpPath=/home/oracle/ias1013/FWAPP/FWDev/j2ee/OC4J_OOMTest/workEnv/log -Xss100m

 

结果在create 3379个线程后,“unable to create new native thread”出现了,这时其他jvm都是可以create新线程的。如果按照上面公式计算,linux 64bit,2.6kernel,它的最大寻址空间肯定超过了300g,当然应该还没有达到可用内存的限制,因为其他JVM还能create新线程。

我还怀疑是不是oracle application server上的某个配置参数限制了总的线程数,影响了所有application,但我们的产品环境一个application就是一个单独的application server。

现在基本上可以确定是操作系统哪里设置错了,我想System team的帅哥们应该把产品环境的某个参数配置错了,系统本身的影响肯定不会有了,因为产品环境上我们只create了800左右个线程,就OOM了,那应该就是配置的问题了,怀疑的参数有下面四个

max user processes              (-u) 2048

virtual memory          (kbytes, -v) unlimited

max memory size         (kbytes, -m) unlimited

stack size              (kbytes, -s) 10240

最后发现只有max user processes 和virtual memory对总的线程数有影响,我把max user processes降到2048后,发现此时只能创建 2000左右个线程了(Xms64m, Xss1m),进一步地把virtual memory下调到2048000K发现能创建的就更少了1679(Xms64m, Xss1m),而它只会对当前shell起作用,而多个application server应该是不同的shell,所以他是打酱油的。另外两个参数好像就是来做做俯卧撑的,操作系统stack size是不应该会有什么影响,我们把它上调到102400,还是可以创建2000左右的线程数(max user processes),因为java有自己的线程模型,它的栈的大小是用Xss来控制的。Max memory size不知道是啥东东,照理说如果是最大内存应该不会只在旁边做俯卧撑,那这个参数到底是春哥还是曾哥,查了一下man ulimit,有下面解释

              -a     All current limits are reported

              -c     The maximum size of core files created

              -d     The maximum size of a process data segment

              -f     The maximum size of files created by the shell

              -l     The maximum size that may be locked into memory

              -m     The maximum resident set size (has no effect on Linux)

              -n     The maximum number of open file descriptors (most systems do not allow this value to be set)

              -p     The pipe size in 512-byte blocks (this may not be set)

              -s     The maximum stack size

              -t     The maximum amount of cpu time in seconds

              -u     The maximum number of processes available to a single user

              -v     The maximum amount of virtual memory available to the shell

“Has no effect on Linux”就足以证明它确实只是来做做俯卧撑的。最后查出只有“max user processes”会对所有application能创建总的线程数有限制。

 

### 诊断与解决 `java.lang.OutOfMemoryError: unable to create new native thread` 当 JVM 抛出 `java.lang.OutOfMemoryError: unable to create new native thread` 异常时,表示 JVM 无法为新线程分配操作系统级别的线程资源。这种错误通常发生在系统资源(尤其是内存)耗尽的情况下,而非 JVM 内存不足。JVM 创建线程时,操作系统会为每个线程分配独立的栈空间,这部分内存并不来自 JVM 的堆内存,而是从系统剩余内存中分配[^3]。 #### 常见原因分析 1. **线程数超过系统限制** 操作系统对每个用户进程可创建的线程数有限制,若线程数达到上限,则无法创建新线程。例如在 Linux 系统中,可以通过 `ulimit -u` 查看当前用户允许的最大线程数(或进程数)。 2. **线程栈大小设置过高** 每个线程默认分配的栈空间大小(由 JVM 参数 `-Xss` 控制)直接影响线程数量。例如,默认 `-Xss1m` 表示每个线程分配 1MB 的栈空间。若物理内存有限,线程数将受到显著限制[^4]。 3. **JVM 堆内存设置过大** 若 `-Xmx` 设置的堆内存过大,可能导致系统剩余内存不足以支持创建新线程。例如在一台 8GB 内存的服务器上,若 JVM 堆设置为 5GB,系统保留内存为 500MB,则剩余 2.5GB 用于线程栈分配,若每个线程栈为 1MB,则最多只能创建约 2500 个线程[^4]。 4. **线程泄漏或资源未释放** 若应用程序未正确释放线程资源(如未关闭线程池、未回收线程等),可能导致线程数持续增长,最终耗尽系统资源。 #### 解决方案 1. **调整线程栈大小** 适当减小线程栈大小可以显著提高可创建的线程数。例如设置 `-Xss256k` 可将每个线程栈大小减少至 256KB,从而提升线程总数[^4]。 示例 JVM 启动参数: ```bash java -Xms512m -Xmx2g -Xss256k -jar your-application.jar ``` 2. **调整系统线程限制** 在 Linux 系统中,可以临时修改线程限制: ```bash ulimit -u 8192 ``` 或者在 `/etc/security/limits.conf` 中永久设置: ```conf * soft nproc 8192 * hard nproc 8192 ``` 3. **优化线程池配置** 避免无限制创建线程,使用线程池进行线程复用。例如使用 `ThreadPoolTaskExecutor` 或 `ForkJoinPool` 等机制来控制线程数量,防止线程爆炸式增长。 4. **监控与分析线程使用情况** 使用工具如 `jstack` 获取线程堆栈信息,分析线程状态,识别是否存在线程阻塞或死锁问题。 示例获取线程转储: ```bash jstack <pid> > thread_dump.log ``` 5. **检查线程泄漏** 查看线程池或任务调度器是否在任务完成后释放线程,确保所有线程最终进入终止状态。 #### 示例:线程数计算与内存分配 假设服务器总内存为 8GB,JVM 堆设置为 5GB,系统保留内存为 500MB,则剩余内存为 2.5GB。若每个线程栈为 1MB,则理论上最多可创建 2500 个线程。若线程栈设置为 256KB,则可创建线程数约为 10000 个[^4]。 --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值