spark on yarn(ERROR client.TransportClient: Failed to send RPC)

最新推荐文章于 2022-01-06 23:50:06 发布

原创最新推荐文章于 2022-01-06 23:50:06 发布 · 9.8k 阅读

2 ·

CC 4.0 BY-SA版权

BIGDATA 专栏收录该内容

57 篇文章

订阅专栏

本文介绍了解决因内存不足导致YARN kill Spark应用的问题。通过修改yarn-site.xml文件中的配置项，并重启Hadoop服务，可以避免YARN因内存检查而终止Spark任务。

主要是给节点分配的内存少，yarn kill了spark application。

给yarn-site.xml增加配置：

<property>
    		<name>yarn.nodemanager.pmem-check-enabled</name>
    		<value>false</value>
	</property>
	<property>
		<name>yarn.nodemanager.vmem-check-enabled</name>
    		<value>false</value>
	</property>

重启hadoop。然后再重新提交spark application即可。

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

rongyongfeikai2

关注关注

1
点赞
踩
2

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

SparkStructured报错：Failed to send RPC xxx to /xxx:34744: ClosedChannelException Lost executor

九师兄

07-04

1800

1.视界 2.背景做kafka输出到多个sink，测试类：com.spark.test.sink.multiple.MultipleSinkSumUpdateTest#multipleSinkTest28 在这里，单测是没有问题的，但是在平台上测试报错 9/10/21 16:21:38 WARN server.TransportChannelHandler: Exception in conn...

Spark报错 Failed to send RPC xxx to/ip:43074 java.nio.channels.ClosedChannelException

九师兄

07-04

2388

1.美图 2.背景是这样的，我写了一个spark程序，然后，运行的时候，我kiill yarn掉这个程序，然后发现程序报个错然后继续运行了。 [deploy@cdh ~]$ yarn application --list 19/12/17 13:47:39 INFO client.RMProxy: Connecting to ResourceManager at cdh.xxx.xx.loca...

2 条评论您还未登录，请先登录后发表或查看评论

搭建Spark on YARN报错

gxd520的专栏

06-18

1331

Hadoop 2.7.3 Spark 2.1.1 JDK 1.8 报错 17/05/27 17:14:00 ERROR YarnClientSchedulerBackend: Yarn application has already exited with state FAILED! 17/05/27 17:14:00 ERROR TransportClient: Failed to send R...

1.8.4 大数据-Spark-Yarn集群模式配置

赤山岛

09-20

546

客户端yarn模式执行 bin/spark-shell --master yarn --deploy-mode client 问题 HADOOP_CONF_DIR or YARN_CONF_DIR must be set Exception in thread "main" java.lang.Exception: When running with master 'yarn' either HADOOP_CONF_DIR or YARN_CONF_DIR must be set in the env

spark sql on yarn 启动失败 ERROR client.TransportClient: Failed to send RPC RPC

u012957549的博客

04-17

6819

19/04/17 02:54:57 ERROR client.TransportClient: Failed to send RPC RPC 7651764253676103503 to /10.169.12.139:45996: java.nio.channels.ClosedChannelException java.nio.channels.ClosedChannelException ...

io.netty | ERROR org.apache.spark.network.client.TransportClient - Failed to send RPC

BITDDD小栈

06-04

1342

问题：使用Spark时 RDD的map，foreach等操作正常，执行collect到本地时报错，本地文件大小约为5m。解决：在博客上查报错信息有如下解释： 1.dirver端内存不足，spark强制关闭了任务，这里本地文件为5m，排除内存不足问题 2.spark core version 与 io.netty 的版本不一致造成冲突于是怀疑是netty版本不对应，寻找其他工程中的External Libraris发现netty版本偏高（图中红线部分），在pom中加入新的netty依赖，异

2025-11-15 14:40:52,736 ERROR client.TransportClient: Failed to send RPC RPC 7355723708564856729 to /172.17.0.2:43236: java.nio.channels.ClosedChannelException

最新发布

11-16

在运行`spark-submit`命令时出现 `Failed to send RPC RPC 7355723708564856729 to /172.17.0.2:43236: java.nio.channels.ClosedChannelException` 错误，通常是由于网络连接问题、资源不足或配置错误导致的。...

ERROR TransportClient: Failed to send RPC 8772926992887247966 to /172.21.0.4:10000: java.lang.AbstractMethodError: org.apache.spark.network.protocol.MessageWithHeader.touch(Ljava/lang/Object;)Lio/netty/util/ReferenceCounted

06-10

如果您使用的是其他类型的集群（例如 YARN 或 Mesos），请确保 Spark 驱动程序和集群中的所有组件（包括 YARN 或 Mesos）的 Spark 版本完全相同。如果 Spark 版本与 Spark 集群的版本兼容，并且仍然遇到此错误，请...

Spark2 Failed to send RPC 5346982634 to /ns1:58312: java.nio.channels.ClosedChannelException

qiaotongzxcv的专栏

11-21

5730

将spark任务运行与yarn上出现以下错误： scala> 18/11/21 16:20:11 ERROR cluster.YarnClientSchedulerBackend: Yarn application has already exited with state FINISHED! 18/11/21 16:20:11 ERROR client.TransportClient: ...

Failed to send RPC xxx to /127.0.0.1:50040: java.nio.channels.ClosedChannelException

微电子学与固体电子学-俞驰

04-29

6011

$ spark-shell --master yarn --deploy-mode client Setting default log level to "WARN". To adjust logging level use sc.setLogLevel(newLevel). For SparkR, use setLogLevel(newLevel). 2020-04-29 15:14:40 W...

spark报错Failed to send RPC XXX to / XXX: java.nio.channels.ClosedChannel

Chain的博客

07-09

1万+

命令如下： bin/spark-submit --class com.practice1.Tax1 --master yarn --num-executors 4 --driver-memory 1g --executor-memory 1g /opt/software/data/sparkcount.jar hdfs:/data_in/taxi.csv 1、错误如下： 19/07/0...

Spark on Yarn集群，运行作业报错Failed to send RPC RPC 5631266366836363375 to /192.168.80.122:52864: java.nio.

wufabao的博客

01-06

1万+

22/01/06 22:10:05 INFO BlockManager: Using org.apache.spark.storage.RandomBlockReplicationPolicy for block replication policy 22/01/06 22:10:05 INFO BlockManagerMaster: Registering BlockManager BlockManagerId(driver, linux121, 34370, None) 22/01/06 22:10:0

spark跑YARN模式或Client模式提交任务不成功（application state: ACCEPTED）

weixin_33828101的博客

04-09

3678

　　不多说，直接上干货！　　问题详情　电脑8G，目前搭建3节点的spark集群，采用YARN模式。 master分配2G，slave1分配1G,slave2分配1G。（在安装虚拟机时） export SPARK_WORKER_MERMORY=1g （在spark-env.sh） export JAVA_HOME=/usr/local/...

Spark-yarn项目 Rpc异常分析

Himma71的博客

06-29

738

使用spark提交一个yarn任务，查看日志一直报错RPC，任务无故中断错误log：ERROR client.TransportClient: Failed to send RPC 8290033677317452744 to /192.168.11.111:9999: java.nio.channels.ClosedChannelException 原因分析：集群设置给节点分配内存较小，yarn kill掉了application ...

Spark异常总结及解决办法2

onway_goahead的博客

06-01

871

Spark-sql 问题：spark-sql on yarn运行报错TransportClient:331 - Failed to send RPC *** java.nio.channels.ClosedChannelException 具体错误信息如下：

关于Spark报错不能连接到Server的解决办法（Failed to connect to master master_hostname:7077）

热门推荐

ybdesire的专栏

04-24

8万+

如何彻底解决 Failed to connect to master master_hostname:7077

spark提交任务java.nio.channels.ClosedChannelException

数据之路-忆梦前程

08-25

2万+

1.提交任务 ./spark-submit --master "yarn" --driver-memory 1g --executor-memory 1g --class KeyCount /root/IdeaProjects/SparkApp/out/artifacts/SparkApp_jar/SparkApp.jar 报错如下： 17/08/25 14:47:03 ERROR cl

Yarn application has already exited with state FINISHED!

weixin_33890526的博客

10-13

713

如果在运行spark-sql时遇到如下这样的错误，可能是因为yarn-site.xml中的配置项yarn.nodemanager.vmem-pmem-ratio值偏小，它的默认值为2.1，可以尝试改大一点再试。 ERRORcluster.YarnClientSchedulerBackend:Yarnapplicationhasal...

【Flume】Rpc sink XX closing Rpc client:NettyAvroRpcClient {xx} …… Failed to send events 问题解决

三也_攻城狮

05-12

6661

从以上截图信息，就可以看出问题了，服务端和客户端连接信息对不上，服务端有很多ESTABLISHED的连接，其实是无用的。这种情况，起初，我也很奇怪，没有发现原因，只能查看日志了。通过日志信息，发现出现了异常，但是很奇怪，在异常信息之前，有一句Rpc sink {} closing Rpc client: {} 这里destroyConnection了，摧毁了一

java.io.IOException: Failed to send RPC RPC 6663295870816860220 to /192.168.237.70:33810: io.netty.channel.StacklessClosedChannelException at org.apache.spark.network.client.TransportClient$RpcChannelListener.handleFailure(TransportClient.java:392) at org.apache.spark.network.client.TransportClient$StdChannelListener.operationComplete(TransportClient.java:369)

11-01

给出的引用中未直接涉及解决 `Java io.IOException: Failed to send RPC RPC 6663295870816860220 to /192.168.237.70:33810: io.netty.channel.StacklessClosedChannelException` 错误的方案，但可以从相关异常信息...