Flink任务报错akka size oversized

最新推荐文章于 2024-10-23 22:36:16 发布
最新推荐文章于 2024-10-23 22:36:16 发布
阅读量739 收藏 3
点赞数 1
分类专栏： Flink 文章标签： flink 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zincooo/article/details/143159417
版权

文章目录

JobManager日志

ERROR 2024-10-11 09:55:27.381 [flink-akka.actor.default-dispatcher-21:a.r.EndpointWriter@77] [container_e03_1684219709246_3097_01_000001] Transient association error (association remains live)
akka.remote.OversizedPayloadException: Discarding oversized payload sent to Actor[akka.tcp://flink@core-75f4409-03:45402/user/rpc/taskmanager_0#-309080867]: max allowed size 10485760 bytes, actual size of encoded class org.apache.flink.runtime.rpc.messages.RemoteRpcInvocation was 16656583 bytes.

RPC / Akka

Flink使用Akka进行组件之间的RPC(JobManager/TaskManager/ResourceManager)。Flink不使用Akka进行数据传输。
在这里插入图片描述
jobmanager通过akka发送给taskmanager的message超过了默认的大小，可以临时先调大。

原因分析

实测删除checkpoint可以正常重启。该文章有相关分析
https://stackoverflow.com/questions/75363084/jobs-stuck-while-trying-to-restart-from-a-checkpoint

【Flink】Flink 任务报错 akka remote connection TooLongFrameException adjusted frame length discarded
九师兄
12-22 3569
taskmanager一直报这个告警，运行一段时间后taskmanager会挂了，这是什么原因导致的？错误如下看起来是netty传输的时候帧太大了。目前尝试把内存调大一点，任务还算稳定，但告警还在。然后去看看源码，在flink所有源码中查询 只发现一个地方配置了参数但是这个参数，又好像被排除了请看下面这里这个插件的使用请参考：然后查看这个参数的说明/**可以看到这个参数默认的值1.25MB，但是被弃用了，建议使用，我们去看看这个参数有啥用。这个参数在定义如下/**
【Flink】 Flink JobManager报错 akka.pattern.AskTimeoutException: Ask timed out on
九师兄
07-03 2411
akka.ask.timeout 默认为10 s，如果你加长了这个超时时长，会发现仍然解决不了，你得修改 web.timeout 为大于10000才行。Flink 1.10 JobManager报错。
Flink消费kafka报akka.pattern.AskTimeoutException: Ask timed out on [Actor[akka.tcp://flink@xxx]]after x
qq_41018861的博客
05-24 3885
我们在使用flink的时候还是得多了解底层原理才行。
Flink RPC通信超时 In that case, you can try to increase pekko.ask.timeout. AskTimeoutException
SunTecTec
06-21 762
问题：In that case, you can try to increase pekko.ask.timeout.根据错误提示，可以尝试增加Flink的RPC超时时间。注意这里的配置名可能随着Flink版本的不同有所变动，具体配置项请查阅Flink 1.18版本的官方文档。解决：增加RPC超时时间。
flink TimeoutException报错解决办法：调整pekko.ask.timeout参数
学亮编程手记
10-15 914
在Flink CDC（Change Data Capture）中遇到的通常是由于RPC调用超时引起的。这种错误可能由多种原因导致，如网络延迟、消息过大或序列化问题等。
Kafka消息发送失败解决方案
huyl08的博客
06-27 5994
kafka是吞吐量比较大的消息队列，但是在使用过程中，容易遇到各种各样的坑，现列举如下，帮助大家避免踩雷。 笔者在探索过程中，遇到过kafka-python发送成功，但是消费者端仍然收不到数据的问题，日志一切正常，血泪历史如下。 不定期更新中。
开发环境解决 kafka Failed to send messages after 3 tries
weixin_30887919的博客
01-30 187
新建了一个kafka集群，在window下写了一个简单的producer做测试，结果遇到了消息发送失败的问题，代码如下： Properties props = new Properties(); props.put("metadata.broker.list", "192.168.1.107:6667"); props.put("serialize...
Flink运行报错
xzt2012的专栏
05-22 555
添加provided后，点应用，点确定后重新运行。
【Flink】Flink The rpc invocation size %d exceeds the maximum akka framesize
九师兄
12-23 671
flink 1.10 作业在出错重启的过程中，jobmanager一直报的错误看了一下，这个方法是进行rpc远程调用的时候，序列化对象的大小超过了长度，但是我不是很明白，如果超过了这个长度，不是应该第一次启动的时候都不行吗？我设置的并行度是10，如果启动成功，会启动10个taskmanager，而且启动另外9个taskmanager都没有错，启动第10个的时候就会报错。我是基于yarn来运行的。每个taskmanager一个slot。
运行Flink作业报错：Job execution failed.
qq_54230492的博客
07-05 2234
一个将本地文本文件写入到MySQL的Flink作业。
Spark使用newAPIHadoopRDD 直接读取Hbase遇到的问题
Make progress step by step everyday.....
04-21 6364
Spark使用newAPIHadoopRDD  直接读取Hbase遇到的问题数据表数据量大概：1.8TJavaPairRDD<ImmutableBytesWritable, Result> hbaseRDD =              jsctx.newAPIHadoopRDD(conf, TableInputFormat.class,ImmutableBytesWritable...
Flink(arm) on K8S 部署时的那些坑
evilstar2015的专栏
08-07 3157
目标：在arm架构的K8S上部署一套flink集群。我对k8s还算了解，但在此之前没接触过flink，部署起来确实有点困难。本文记录在此过程中遇到的问题，以及问题原因和解决方案。
Apache Paimon 在同程旅行的探索实践
Ververica的博客
03-30 1242
摘要：本文主要介绍 Apache Paimon 在同程旅行的生产落地实践经验。在同程旅行的业务场景下，通过使用 Paimon 替换 Hudi，实现了读写性能的大幅提升（写入性能3.3 倍，查询性能7.7倍），接下来将分为如下几个部分进行详细介绍：1. 湖仓场景现状和遇到的问题2. 遇见 Apache Paimon3.Apache Paimon 的应用实践4....
Akka源码分析-Remote-收消息
weixin_30239339的博客
07-30 313
　　上一遍博客中，我们分析了网络链接建立的过程，一旦建立就可以正常的收发消息了。发送消息的细节不再分析，因为对于本地的actor来说这个过程相对简单，它只是创立链接然后给指定的netty网路服务发送消息就好了。接收消息就比较麻烦了，因为这对于actor来说是透明的，netty收到消息后如何把消息分发给指定的actor呢？这个分发的过程值得研究研究。 　　之前分析过，在监听创立的过程中，有一个对象...
flink：akka.remote.ReliableDeliverySupervisor [] - Association with remote system has failed
zhengzaifeidelushang的博客
05-19 2185
akka.remote.ReliableDeliverySupervisor [] - Association with remote system [akka.tcp://flink@bigdata2:38800] has failed, address is now gated for [50] ms. flink以Flink per-job cluster模式提交单词统计任务报错： flink run -m yarn-cluster -yjm 1024 -y
深度了解flink rpc机制(四) 组件启动流程源码分析
qq_40689430的博客
10-23 1599
目前已发布了3篇关于Flink RPC相关的文章，分别从底层通信系统akka/Pekko，RPC实现方式动态代理以及Flink RPC相关的组件做了介绍深度了解flink rpc机制（一）-Akka/Pekko_flink pekko akka-优快云博客深度了解flink rpc机制（二）-动态代理-优快云博客深度了解flink rpc机制（三）-组件以及交互-优快云博客这篇文章通过分析源码，对以上知识进行验证并串联加深印象，更深入的了解Flink RPC的实现原理。
Spark Core配置参数
jiangjun_3567031的博客
03-04 628
###Spark Core优化参数配置 应用属性 描述 spark.driver.cores 在集群模式下管理资源时，用于driver程序的CPU内核数量，默认为1；在生产环境的硬件上，这个值可能最小要上调到8或16 spark.driver.maxResultSize 如果应用频繁用此driver程序，建议对这个值的设置高于其默认值1G，0表示没有限制，这个值反应了Spark Action的全部分区中最大的结果集的大小 spark.driver.memory driver进程使用的
【Flink纠错】The method requestJob‘s result size 19811407 exceeds the maximum size 10485760
ChengYanan的博客
01-14 1188
完整log日志见最后 报错信息： 关键报错信息是： org.apache.flink.runtime.rpc.akka.exceptions.AkkaRpcException: The method requestJob's result size 19811407 exceeds the maximum size 10485760 . 这是flink的Akka部分报的错，相关源码如下: https://github.com/apache/flink/blob/d093611b5dfab95fe62e4f
Spark学习笔记@第一个例子wordcount+Eclipse
骑猪喝咖啡
05-21 4405
使用Eclipse编辑wordcount程序，打包并运行。详细记录了打包发布过程中的问题。
华为云flink任务报错Unsupported or unrecognized SSL message
最新发布
12-10
华为云Flink任务中出现"Unsupported or unrecognized SSL message"这个错误通常是由于在尝试通过SSL/TLS安全套接字层进行通信时，客户端和服务器之间使用的SSL协议版本不兼容或者是证书格式不匹配导致的。这可能发生在以下几个方面： 1. **SSL版本冲突**：可能是Flink运行环境或目标服务端的SSL版本过旧，不支持客户端发送的请求格式。 2. **证书验证问题**：Flink任务尝试连接的目标服务器提供的证书可能未被信任，或者Flink的配置文件中没有包含正确的CA证书来验证该服务器。 3. **依赖更新**：如果Flink任务依赖的库或框架对SSL有新的要求，而旧版本的任务可能不满足这些新要求。 4. **网络防火墙设置**：某些企业环境中，可能存在防火墙规则阻止了SSL通信。 解决此类问题的一般步骤包括： - 检查Flink和目标服务的SSL版本是否兼容。 - 确保Flink任务中包含了正确的SSL配置，如信任store或认证信息。 - 更新依赖的库到最新版，确保它们能处理当前的SSL协议。 - 验证网络环境，确保SSL通信没有被防火墙或其他安全软件阻断。 如果问题依然存在，建议查阅详细的日志信息，因为错误消息通常会提供更具体的线索。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值