Spark异常总结及解决办法2

最新推荐文章于 2024-01-02 08:55:58 发布
最新推荐文章于 2024-01-02 08:55:58 发布
阅读量811 收藏
点赞数
分类专栏： Spark
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/onway_goahead/article/details/117432964
版权
本文总结了Spark使用beeline连接Thriftserver时遇到的数据插入异常，特别是涉及Spark不支持Hive兼容的分桶输出问题。文章提供了在Spark集群配置中解决此类问题的方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Spark-sql

问题：spark-sql on yarn运行报错TransportClient:331 - Failed to send RPC *** java.nio.channels.ClosedChannelException

具体错误信息如下：

ERROR TransportClient:331 - Failed to send RPC RPC 5232077649582323523 to /10.62.124.41:41929: java.nio.channels.ClosedChannelException

解决方案：
查看NodeManager的日志，发现：

WARN org.apache.hadoop.yarn.server.nodemanager.containermanager.monitor.ContainersMonitorImpl: Container [pid=8101,containerID=container_e03_1552020687119_0005_02_000001] is running 624192000B beyond the 'VIRTUAL' memory limit. Current usage: 376.1 MB of 1 GB physical memory used; 2.7 GB of 2.1 GB virtual memory used. Killing container.

由此可以看出container使用的虚拟内存超过了设置的2.1G，被kill掉了。
container使用的虚拟内存是由以下公式计算的：
虚拟内存=yarn.scheduler.minimum-allocation-
最低0.47元/天 解锁文章
Spark 异常总结及解决办法
主要分享大数据相关的知识，如Spark、Hudi
02-28 1万+
我的原创地址：https://dongkelun.com/2019/01/09/sparkExceptions/ 前言 总结Spark开发中遇到的异常及解决办法，之前也写过几篇，之所以不再一个异常写一篇博客，是因为现在Spark用的比较熟悉了一些，觉得没必要把异常信息写那么详细了，所以就把异常总结在一篇博客里了，这样既能备忘也方便查找。 1、之前的几篇 spark-submit报错:Excep......
Spark 3.0.1 Structured Streaming 提交程序异常解决
主要分享大数据相关的知识，如Spark、Hudi
07-10 1352
我的原创地址：https://dongkelun.com/2020/10/09/spark3StreamingException/ 前言 先说解决办法，提交时除了添加spark-sql-kafka和kafka-clients jar包外，还要添加spark-token-provider-kafka和commons-pool jar包，具体为spark-token-provider-kafka-0-10_2.12-3.0.1.jar和commons-pool2-2.6.2.jar 注意：Spark 3 版本
Spark-yarn项目 Rpc异常分析
Himma71的博客
06-29 680
使用spark提交一个yarn任务，查看日志一直报错RPC，任务无故中断 错误log：ERROR client.TransportClient: Failed to send RPC 8290033677317452744 to /192.168.11.111:9999: java.nio.channels.ClosedChannelException 原因分析：集群设置给节点分配内存较小，yarn kill掉了application ...
spark报错Failed to send RPC XXX to / XXX: java.nio.channels.ClosedChannel
Chain的博客
07-09 1万+
命令如下： bin/spark-submit --class com.practice1.Tax1 --master yarn --num-executors 4 --driver-memory 1g --executor-memory 1g /opt/software/data/sparkcount.jar hdfs:/data_in/taxi.csv 1、错误如下： 19/07/0...
实战解决 spark executor 被yarn杀掉的问题
边逛边看边学习
07-13 3741
公司同事的文 spark的任务，在运行期间executor总是挂掉。刚开始觉得是数据量太大executor内存不够。但是估算了数据量，觉得不应该出现内存不够。于是，首先尝试通过jvisualvm观察executor的内存分布： 老年代还没填满，进程就会出现挂掉的情况，所以并不是jvm级别的OOM。 仔细检查对应NodeManager的日志，发现如下日志： WARN org.apache.hadoop.yarn.server.nodemanager.containermanager.monitor
Failed to send RPC xxx to /127.0.0.1:50040: java.nio.channels.ClosedChannelException
微电子学与固体电子学-俞驰
04-29 5885
$ spark-shell --master yarn --deploy-mode client Setting default log level to "WARN". To adjust logging level use sc.setLogLevel(newLevel). For SparkR, use setLogLevel(newLevel). 2020-04-29 15:14:40 W...
RpcException（RPC异常）可能的原因和解决方法
最新发布
Java开源程序猿
01-02 9188
时，要结合具体的错误信息和上下文，仔细分析异常的根本原因。根据不同的场景，采取适当的解决方法，可能需要调整配置、优化代码、增加资源等。在设计和开发阶段，考虑系统的容错性和健壮性，合理处理异常，以提高系统的可用性和稳定性。在使用动态代理进行远程调用时，可能发生代理生成失败或调用无法转发的情况，导致。当客户端和服务端之间使用不同的协议，或者协议转换时发生错误，可能导致。如果客户端和服务端使用不同的 RPC 协议或版本，可能会引发。如果客户端和服务端使用不同的协议进行通信，可能导致。
搭建Spark on YARN报错
gxd520的专栏
06-18 1294
Hadoop 2.7.3 Spark 2.1.1 JDK 1.8 报错 17/05/27 17:14:00 ERROR YarnClientSchedulerBackend: Yarn application has already exited with state FAILED! 17/05/27 17:14:00 ERROR TransportClient: Failed to send R...
Spark知识点总结大全
weixin_70137450的博客
09-17 2191
aggregateByKey:在kv对的RDD中，按key将value进行分组合并，合并时，将每个value和初始值作为seq函数的参数，进行计算，返回的结果作为一个新的kv对，然后再将结果按照key进行合并，最后将每个分组的value传递给combine函数进行计算（先将前两个value进行计算，将返回结果和下一个value传给combine函数，以此类推），将key与计算结果作为一个新的kv对输出。一个函数一次处理所有分区。代码中是一个抽象类，它代表一个不可变、可分区、里面的元素可并行计算的集合。
Linux环境下Hadoop与Spark安装及问题解决总结
解决办法有两个：一是重新格式化NameNode；二是通过`export PATH=/bin:/usr/bin:$PATH`临时恢复PATH设置。 总结来说，这个文档涵盖了在Linux环境下部署和管理Hadoop HDFS的基本操作，包括启动、监控、故障排查以及...
Spark报错 Failed to send RPC xxx to/ip:43074 java.nio.channels.ClosedChannelException
九师兄
07-04 2325
1.美图 2.背景 是这样的，我写了一个spark程序，然后，运行的时候，我kiill yarn掉这个程序，然后发现程序报个错然后继续运行了。 [deploy@cdh ~]$ yarn application --list 19/12/17 13:47:39 INFO client.RMProxy: Connecting to ResourceManager at cdh.xxx.xx.loca...
Hadoop在YARN上运行案例卡死
weixin_38023225的博客
09-04 3625
问题 在本地环境运行模式，运行案例（pi/grep/wordcount）都是OK的 在伪分布式运行模式，运行上述案例，直接卡死 [root@master-node sbin]# start-dfs.sh --启动HDFS集群 [root@master-node sbin]# start-yarn.sh --启动YARN集群 [root@ma...
Spark2 Failed to send RPC 5346982634 to /ns1:58312: java.nio.channels.ClosedChannelException
qiaotongzxcv的专栏
11-21 5701
将spark任务运行与yarn上出现以下错误： scala> 18/11/21 16:20:11 ERROR cluster.YarnClientSchedulerBackend: Yarn application has already exited with state FINISHED! 18/11/21 16:20:11 ERROR client.TransportClient: ...
SparkStructured报错：Failed to send RPC xxx to /xxx:34744: ClosedChannelException Lost executor
九师兄
07-04 1761
1.视界 2.背景 做kafka输出到多个sink，测试类：com.spark.test.sink.multiple.MultipleSinkSumUpdateTest#multipleSinkTest28 在这里，单测是没有问题的，但是在平台上测试报错 9/10/21 16:21:38 WARN server.TransportChannelHandler: Exception in conn...
io.netty | ERROR org.apache.spark.network.client.TransportClient - Failed to send RPC
BITDDD小栈
06-04 1283
问题： 使用Spark时 RDD的map，foreach等操作正常，执行collect到本地时报错，本地文件大小约为5m。 解决： 在博客上查报错信息有如下解释： 1.dirver端内存不足，spark强制关闭了任务，这里本地文件为5m，排除内存不足问题 2.spark core version 与 io.netty 的版本不一致造成冲突 于是怀疑是netty版本不对应，寻找其他工程中的External Libraris发现netty版本偏高（图中红线部分），在pom中加入新的netty依赖，异
Hadoop安装遇到的各种异常及解决办法(1)
热门推荐
Java海洋
09-14 4万+
异常一: 2014-03-13 11:10:23,665 INFO org.apache.Hadoop.ipc.Client: Retrying connect to server: Linux-hadoop-38/10.10.208.38:9000. Already tried 0 time(s); retry policy is RetryUpToMaximumCountWithFixedS...
Hadoop yarn源码分析（九） Container源码解析 2021SC@SDUSC
LeBron_W的博客
12-05 1186
2021SC@SDUSC Hadoop yarn源码分析（九） Container源码解析 2021SC@SDUSC
hadoop任务卡死
keyuquan的博客
06-17 8781
hadoop 运行mapreduce的时候会卡死在 mapreduce.Job:Running job: job_1477030467429_0002  位置不动 思路一：分析：mapreduce卡死不动，原可能是  resourcemanager 或者 nodemanager 配置出错 检查yarn-site.xml（yarn.resourcemanager.hostname：配置了reso
Spark集群-提交作业到Yarn上遇到的问题
qq_41617848的博客
07-26 860
问题详情： 16/10/18 14:09:15 WARN YarnSchedulerBackend$YarnSchedulerEndpoint: Attempted to get executor loss reason for executor id 1 at RPC address jxwy10:37510, but got no response. Marking as slave lost.java.io.IOException: Failed to send RPC 61049130482285
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值