Flink on Yarn 出现 running beyond the ‘PHYSICAL‘ memory limit. 错误解决办法

最新推荐文章于 2024-11-27 18:45:44 发布

ooobenooo

最新推荐文章于 2024-11-27 18:45:44 发布

阅读量4k

点赞数

分类专栏： Flink

本文链接：https://blog.youkuaiyun.com/ooobenooo/article/details/107972066

版权

按照网上说的，这是因为hadoop集群资源不足造成的。并且多数情况是由于分配的虚拟内存超出限制。

根据分析，Flink应用确实存在大量的缓存数据，而设置的taskmanager内存只有2G，当程序运行一段时间后就会出现以下类似错误：

Diagnostics: Container [pid=6386,containerID=container_1521277661809_0006_01_000001] is running beyond virtual memory limits. Current usage: 250.5 MB of 1 GB physical memory used; 2.2 GB of 2.1 GB virtual memory used. Killing container.
Dump of the process-tree for container_1521277661809_0006_01_000001 :
        |- PID PPID PGRPID SESSID CMD_NAME USER_MODE_TIME(MILLIS) SYSTEM_TIME(MILLIS) VMEM_USAGE(BYTES) RSSMEM_USAGE(PAGES) FULL_CMD_LINE
        |- 6386 6384 6386 6386 (bash) 0 0 108625920 331 /bin/bash -c /usr/local/jdk/bin/java -Xmx424m  -Dlog.file=/usr/local/hadoop/logs/userlogs/application_1521277661809_0006/container_1521277661809_0006_01_000001/jobmanager.log -Dlog4j.configuration=file:log4j.properties org.apache.flink.yarn.YarnApplicationMasterRunner  1> /usr/local/hadoop/logs/user