flink oom的gc分析

最新推荐文章于 2025-04-17 00:51:55 发布
最新推荐文章于 2025-04-17 00:51:55 发布
阅读量1k 收藏
点赞数
分类专栏： 大数据 文章标签： flink eclipse
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/xiaosannimei/article/details/106259140
版权

 

 

 

 

 

【Flink】Flink jvm参数配置GC日志
九师兄
02-02 1894
按照这个参数，每个GC日志只要超过20M就会进行分割，最多分割5个文件，文件名依次是gc.log.0,gc.log.1,gc.log.2,gc.log.3,gc.log.4, …不使用 JVM 提供的日志分割功能，而是每次启动用时间戳命名日志文件，这样可以每次启动都使用不同的文件，就不会出现覆盖的问题了。但是可能很多人配置的都不够“完美”，要么是打印的内容过少，要么是输出到控制台，要么是一个大文件被覆盖，要么是……-Xloggc 方式指定的日志文件，是覆盖写的方式，每次启动都会覆盖，历史日志会丢失。
Flink从入门到精通100篇（十二）-如何分析和定位 Flink 作业 OOM 问题？
wenyusuran的专栏
07-03 1383
生产环境，我们的 Flink 作业偶尔会出现 heap OOM，那么当出现这种情况我们会怎么办？通常来说会通过 jmap 命令去将作业的 heap dump 一份文件出来，可是 jmap 导出的文件我们也看不懂啊，那么该怎么分析呢？今天推荐 memory analyzer(mat)这个工具，让他帮助我们来观察程序的内存分布情况吧。 MAT 不是一个万能工具，它并不能处理所有类型的堆存储文件。但是比较主流的厂家和格式，例如 Sun, HP, SAP 所采用的 HPROF 二进制堆存储文件，以及 IBM 的
Flink元空间内存溢出
旺旺的博客
06-11 2226
一.问题现象 flink运行一会就报心跳超时 数据量不是很大 版本 1.10 taskmanager.err日志 web界面日志报心跳超时 二.问题定位 1. 得到taskmanager的pid 进入到tm的web界面查看运行在哪台机器上，并且得到端口号为40002 在slave4上输入以下命令即可得到进程id为24047 netstat -anp | grep 40002 2.进入到slave4节点上使用jstat -gc 进程id 1000 查看gc情况 从下图看出
记一次Flink任务Full gc的问题排查
weixin_39935887的博客
03-29 5680
最近发现flink任务vc_lark_rtc_event_job_new_test会每隔一两天会造成上游topic消费积压，后来发现是因为full gc(Full GC(Ergonomics)通过TM中的gc.log.0.current日志文件查看)频繁导致cpu飙升，造成数据处理不过来造成积压，查看Dtop监控可以看到 然后进入到tm中，如下图： 点击webshell， ...
flink jobmanager离奇的heap oom
最新发布
csdn问鼎
04-17 698
通过层层分析找出导致flink jobmanager heap oom 内存的记录
Flink jvm参数配置GC日志---转载（有待实践认证）
qq_31866793的博客
06-07 2130
生产环境上，或者其他要测试 GC 问题的环境上，一定会配置上打印GC日志的参数，便于分析 GC 相关的问题。 但是可能很多人配置的都不够“完美”，要么是打印的内容过少，要么是输出到控制台，要么是一个大文件被覆盖，要么是…… 本文带你一步一步，配置一个完美的 GC 日志打印策略 打印内容 为了保留足够多的“现场证据”，最好是把 GC 相关的信息打印的足够完整。而且你的程序真的不差你GC时打印日志I/O消耗的那点性能 打印基本 GC 信息 打印 GC 日志的第一步，就是开启 GC 打印的参数了，也是
Flink调优
互联网知识分享
05-21 339
查看CPU使用情况和内存占用情况，当任务和数据不是平均分布在各节点，而是集中在个别节点时，可以增大并行度使任务和数据更均匀的分布在各个节点。在客户端的“conf/flink-conf.yaml”配置文件中，在“env.java.opts”配置项中添加参数：“-XX:NewRatio”。如“ -XX:NewRatio=2”，则表示老年代与新生代的比值为2:1，新生代占整个堆空间的1/3，老年代占2/3。当设置“setBufferTimeout”大于0时，缓冲区会在该"时间之后"超时，然后进行缓冲区的刷新。
Flink消费kafka写入hive，报错GC
dgbcf的博客
02-14 478
Flink消费kafka写入hive，报错GC
flink oom问题排查
wppwpp1的专栏
03-22 565
1、查看作业，提示某个task有延迟 2、点击 "自动调优"菜单，提示 pt3m的是400ms，内存不够，需要把tm的内存从4g变成6g 3、监控日志debug代码 env.java.opts: >- -XX:+PrintGCDetails -XX:+PrintGCDateStamps -Xloggc:/flink/log/gc.log -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=2 -XX:GCLogFileS..
Flink任务问题分析与性能调优
qq_30708747的博客
11-01 7124
作者： 吴培坚——虎牙实时计算平台研发工程师 Flink调优对于问题的定性很重要，只有先确定问题性质才能针对性优化。首先要明白，Flink是分布式流计算框架，可简单理解为多个相互通讯的有状态java进程，其调优本质跟普通的java程序大同小异。 1.1 问题定位的基础： 只有具备良好的的监控数据支持，才能感知问题/异常的发生并对其快速定位。 监控指标主要分为以下三个维度： 1. Flink框架： 框架本身内嵌了很多方便运维...
Flink------优化
h1231233211的博客
09-01 1205
1、Flink 内存优化 1.1Flink 的内存管理 开源的大数据框架基本上大多数都是基于 JVM 运行的，如 Hadoop、Spark、 Storm，但是基于 JVM 的内存管理机制往往存在着类似于内存溢出等问题，主要 是因为创建的对象过多而超过 JVM 的最大堆内存限制，却没有被有效的回收掉， 仅仅靠 JVM 所提供的各种垃圾回收机制很难解决内存溢出等问题。尤其是几十 甚至上百 G 的内存应用时会生成大量对象，Java GC 可能会被反复触发，其中 Full GC 或 Major GC 的开销是非常大
【Flink】Flink 写入 Clickhouse 大对象直接进入老年代 导致OOM
九师兄
11-04 689
1.概述 事情是这样的。使用开源的修改 https://github.com/ivi-ru/flink-clickhouse-sink flink http方式写入Clickhouse. 开始数据量小了没问题，最后数据量大了就会频繁OOM. 然后经过很长时间的排查 不是ck写入失败导致的因此和最新的代码没有什么关系 网络问题 您收到了 NETWORK_EXCEPTION，所以这应该告诉您与您生产的 Kafka Broker 的网络连接有问题。由于某种原因，代理关闭或 TCP 连接关闭。 出现了奇怪的异常
java内存分析工具-jmap/jstat/jvisual vm/mat -- 记一次Flink任务OOM问题的解决
lijianqingfeng的专栏
06-07 1467
背景：最近用到flink做项目，程序在线上遇到了内存持续增长最后导致OOM的问题；还有一种情况是内存增长过高，在触发GC的时候产生超长停顿使taskmanager失去心跳而导致任务失败。 OOM问题比较难查，幸亏有团队的小伙伴一起帮着查询并解决。记录一下查询过程和中间用到的内存分析工具使用方法，以前很少用到这些工具，现在频繁使用，发觉其实也不是那么高深莫测。 堆dump 首先，对于内存超高的进程进行堆dump。命令如下： jmap -dump:format=b,file=xxx pid..
Flink几个性能调优
yang灬仔
10-24 1146
flink性能优化
JVM参数
javalj的博客
10-14 264
XX:+ 启用选项 -XX:-不启用选项 -XX:= -XX:= 堆设置 -Xms :初始堆大小 -Xmx :最大堆大小 -Xmn：新生代大小。通常为 Xmx 的 1/3 或 1/4。新生代 = Eden + 2 个 Survivor 空间。实际可用空间为 = Eden + 1 个 Survivor，即 90% -XX:NewSize=n :设置年轻代大小 -XX:NewRatio=n: 设置年轻...
如何分析和定位 Flink 作业 OOM 问题？
http://www.54tianzhisheng.cn/
07-02 2463
生产环境，我们的 Flink 作业偶尔会出现 heap OOM，那么当出现这种情况我们会怎么办？通常来说会通过 jmap 命令去将作业的 heap dump 一份文件出来，可是 jmap...
Flink GC/数据分发/数据倾斜/并行度问题小合集！
微信搜：import_bigdata，大数据领域硬核原创作者
11-26 2577
今天回答几个问题。这个是一个星球同学提的，我们长话短说。适用于实际工作以及面试。文末有知识星球二维码，扫码加入。关于GC这里特指Full GC。首先Flink中的TaskManager的GC监控是一个非常重要的监控，GC频繁会导致你的任务处理速度降低，发生TM lost，任务fail over，更严重的会直接OOM，任务挂掉。一般我们通过Promethus这样的框架去监控Flink任务，最容易监控...
Flink必知必会的重要基本知识
fengjian的博客
09-19 2106
一、Flink基本知识 1.1、Flink介绍 Apache Flink 是一个框架和分布式处理引擎，用于在无界和有界数据流上进行有状态计算。 Flink 官网：https://flink.apache.org/ Flink 的中文官网：https://flink.apache.org/zh/ 1.2、有界与无界 1.2.1、有界数据集 有头有尾。处理的数据一定会在某个时间范围内，有可能是一天，也有可能是一分钟，像这样有开始有结束的数据集，叫做有界数据集。对有界数据集的处理叫批处理。 1.2.2、无界数据集
Flink 测试运行，遇到的GC跟taskmanager挂掉问题
qq_31866793的博客
06-11 3157
1，出现这个，因为代码写的是Json类型，算子与算子之间下发json对象，没有序列化，都改成pojo实现序列化，可以减轻内存消耗 2，因为有个业务是全量统计，会存储历史状态，所以内存要设置大一点，设置 RocksDBStateBackend存储，设置TTL，之前可能压力测试3个小时TM就死了，再次测试 超过十几个小时任务都还比较稳定 3，安装JVM工具监控JVM的情况，并且在conf文件配置参数 env.java.opts: -Xloggc:/wyyt/logs/flink-1.10.0..
Flink性能优化
03-08
<think>嗯，用户想了解Flink的性能优化技巧和最佳实践。首先，我需要回忆一下Flink调优的常见方法。记得状态管理很重要，比如使用合适的State Backend，比如RocksDB，特别是处理大状态时。还有状态过期设置，避免内存被占满。另外，Checkpoint的配置也很关键，比如调整间隔和超时时间，以及使用增量检查点来减少开销。 接下来是资源调优，合理设置并行度，任务槽的数量和资源分配。资源不够的话会导致背压，但太多又会浪费资源。然后是数据倾斜的问题，可能需要预聚合或自定义分区策略，比如加盐分散热点key。 维表关联优化，用户提到了维表Join，这里可能需要异步IO或者缓存策略，比如LRU缓存减少对外部系统的查询次数。还有延迟关联，如果维度数据晚到，可以旁路输出再关联。 代码层面，避免频繁的序列化和反序列化，使用Flink自带的类型比如POJO或Avro。合理使用算子，比如KeyBy之后用Aggregate代替Window，或者使用Filter提前过滤无效数据。还有复用对象，减少GC压力。 网络和内存优化，比如调整缓冲区超时时间和缓冲区数量，找到吞吐和延迟的平衡。内存配置方面，设置好堆内存和托管内存的比例，避免OOM错误。 另外，用户提供的引用里提到维表Join的processing-time属性和动态表的使用，这可能需要结合具体场景调整，比如处理时间字段的定义和外部系统的连接方式。还有官方文档和最佳实践的参考，应该建议用户查阅相关资源。 用户可能需要具体的例子，比如如何配置RocksDB的参数，或者如何实现异步IO。另外，生成的问题可能涉及Checkpoint优化、数据倾斜处理、维表Join策略等，需要准备好相关的解答。</think>### Flink 性能优化技巧与最佳实践 #### 1. **状态管理优化** - **选择合适的状态后端** 对于大状态场景（如窗口计算、Keyed State），推荐使用 RocksDB 作为状态后端，通过磁盘存储降低内存压力[^1]。小状态场景可使用 `FsStateBackend` 或 `MemoryStateBackend`。 - **状态过期配置** 使用 `StateTtlConfig` 定义状态的存活时间，避免无效数据占用资源： ```java StateTtlConfig ttlConfig = StateTtlConfig.newBuilder(Time.days(1)) .setUpdateType(StateTtlConfig.UpdateType.OnCreateAndWrite) .cleanupInRocksdbCompactFilter(1000) .build(); ``` #### 2. **Checkpoint 调优** - **调整间隔与超时时间** 根据作业的容忍度设置 `checkpointInterval`（如 1-5 分钟）和 `checkpointTimeout`（如 10-15 分钟），避免频繁触发或超时失败。 - **启用增量检查点** 对大状态开启增量 Checkpoint 以减少存储开销： ```yaml state.backend: rocksdb state.backend.rocksdb.checkpoint.transfer.thread.num: 4 state.checkpoints.num-retained: 3 ``` #### 3. **资源分配与并行度** - **合理设置并行度** 根据数据吞吐量和算子的计算复杂度调整并行度，例如： - Source/Sink 并行度与外部系统分区对齐（如 Kafka Topic 分区数）。 - 计算密集型算子（如 `Window`）可设置更高并行度。 - **任务槽资源共享** 通过 `taskmanager.numberOfTaskSlots` 配置任务槽数量，避免资源碎片化。 #### 4. **数据倾斜处理** - **预聚合减少负载** 在窗口前使用 `LocalKeyBy` 或 `AggregateFunction` 进行本地聚合。 - **自定义分区策略** 对倾斜 Key 添加随机后缀（加盐）分散处理： ```java DataStream<String> saltedStream = dataStream.map(record -> { int salt = new Random().nextInt(10); return salt + "_" + record.getKey(); }); ``` #### 5. **维表关联优化** - **异步查询与缓存** 使用 `AsyncFunction` 实现非阻塞查询，并结合 LRU 缓存减少外部调用： ```java AsyncDataStream.unorderedWait( inputStream, new AsyncDatabaseRequest(), 500, // 超时时间 TimeUnit.MILLISECONDS, 100 // 最大并发请求数 ); ``` - **延迟关联补偿** 对未命中维表的数据通过旁路输出（Side Output）进行延迟关联[^2]。 #### 6. **代码级优化** - **减少序列化开销** 使用 `Tuple` 或 POJO 类型代替 `Map`/`String`，并避免频繁类型转换。 - **复用对象与预编译** 在 `ProcessFunction` 中复用对象，减少 GC 压力；正则表达式预编译。 #### 7. **网络与内存配置** - **调整缓冲区参数** 增大网络缓冲区大小（`taskmanager.memory.network.fraction`）以提升吞吐量。 - **堆外内存管理** 通过 `taskmanager.memory.managed.fraction` 控制 Flink 托管内存比例，避免堆外内存溢出。 --- ### 参考配置示例（`flink-conf.yaml`） ```yaml # 状态后端与 Checkpoint state.backend: rocksdb state.checkpoints.dir: hdfs:///flink/checkpoints execution.checkpointing.interval: 5min # 内存分配 taskmanager.memory.process.size: 8192m taskmanager.memory.managed.fraction: 0.4 # 网络优化 taskmanager.memory.network.min: 64mb taskmanager.memory.network.max: 256mb ``` ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值