20、深入解析Storm资源争用问题及解决方案

深入解析Storm资源争用问题及解决方案

1. JVM内存争用问题

在使用Storm时，JVM内存争用是一个常见的问题。当spouts和/或bolts尝试消耗的内存超过JVM分配的内存时，就会导致OOM错误和/或长时间的GC暂停。

1.1 问题表现

• 应用程序线程因GC而停止，可通过 –XX:+PrintGCApplicationStoppedTime 选项查看相关日志，例如： 2014-07-27T16:29:29.037+0500: 1.353: Total time for which application threads were stopped: 0.0107480 seconds 。
• 出现OOM错误，影响应用程序的正常运行。

1.2 解决方案

• 增加拓扑使用的工作进程数量 ：通过添加工作进程到拓扑中，可以降低该拓扑所有工作进程的平均负载，从而减少每个工作进程（JVM）的内存占用，有望消除JVM内存争用。
• 增加JVM（工作进程）的大小 ：但增加JVM大小可能需要更改运行它们的机器/VM的大小，因此如果可以，建议优先选择“增加工作进程”的解决方案。

2. 工作节点内存争用问题

工作节点整体也有可用内存限制，除了运行Storm工作进程（JVM）所需的内存外，还需要内存来运行Supervisor进程和其他进程，否则可能会出现内存争用和交换现象。