Caused by: org.apache.thrift.TApplicationException: Required field ‘filesAdded‘ is unset

《工具箱-DBeaver》DBeaver实用功能记录 Dbeaver连接hive,DBeaver线下数据导入... 阅读详情

hive报错Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: org.apache.thrift.TApplicationException: Required field ‘filesAdded’ is unset! Struct:InsertEventRequestData(filesAdded:null)
这个需要更改hive-site.xml里的hive.metadata.dml.events为false,hive3请修改hive.metastore.dml.events参数

完整报错如下:

java.lang.reflect.InvocationTargetException: null

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:498)

at com.act.datasmart.job.JobExecutor.runOutputVertex(JobExecutor.java:813)

at com.act.datasmart.job.JobExecutor.runVertexJob(JobExecutor.java:210)

at com.act.datasmart.job.JobExecutor.runOrdinary(JobExecutor.java:335)

at com.act.datasmart.job.JobExecutor.excute(JobExecutor.java:519)

at com.act.datasmart.job.JobExecutor.excute(JobExecutor.java:511)

at com.act.datasmart.job.JobExecutor.main(JobExecutor.java:916)

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:498)

at org.apache.spark.deploy.yarn.ApplicationMaster$$anon$2.run(ApplicationMaster.scala:732)

Caused by: org.apache.spark.sql.AnalysisException: org.apache.hadoop.hive.ql.metadata.HiveException: org.apache.thrift.TApplicationException: Required field 'filesAdded' is unset! Struct:InsertEventRequestData(filesAdded:null)

at org.apache.spark.sql.hive.HiveExternalCatalog.withClient(HiveExternalCatalog.scala:112)

at org.apache.spark.sql.hive.HiveExternalCatalog.loadPartition(HiveExternalCatalog.scala:893)

at org.apache.spark.sql.catalyst.catalog.ExternalCatalogWithListener.loadPartition(ExternalCatalogWithListener.scala:179)

at org.apache.spark.sql.hive.execution.InsertIntoHiveTable.processInsert(InsertIntoHiveTable.scala:334)

at org.apache.spark.sql.hive.execution.InsertIntoHiveTable.run(InsertIntoHiveTable.scala:104)

at org.apache.spark.sql.execution.command.DataWritingCommandExec.sideEffectResult$lzycompute(commands.scala:108)

at org.apache.spark.sql.execution.command.DataWritingCommandExec.sideEffectResult(commands.scala:106)

at org.apache.spark.sql.execution.command.DataWritingCommandExec.executeCollect(commands.scala:120)

at org.apache.spark.sql.Dataset.$anonfun$logicalPlan$1(Dataset.scala:228)

at org.apache.spark.sql.Dataset.$anonfun$withAction$1(Dataset.scala:3687)

at org.apache.spark.sql.execution.SQLExecution$.$anonfun$withNewExecutionId$5(SQLExecution.scala:103)

at org.apache.spark.sql.execution.SQLExecution$.withSQLConfPropagated(SQLExecution.scala:163)

at org.apache.spark.sql.execution.SQLExecution$.$anonfun$withNewExecutionId$1(SQLExecution.scala:90)

at org.apache.spark.sql.SparkSession.withActive(SparkSession.scala:775)

at org.apache.spark.sql.execution.SQLExecution$.withNewExecutionId(SQLExecution.scala:64)

at org.apache.spark.sql.Dataset.withAction(Dataset.scala:3685)

at org.apache.spark.sql.Dataset.<init>(Dataset.scala:228)

at org.apache.spark.sql.Dataset$.$anonfun$ofRows$2(Dataset.scala:99)

at org.apache.spark.sql.SparkSession.withActive(SparkSession.scala:775)

at org.apache.spark.sql.Dataset$.ofRows(Dataset.scala:96)

at org.apache.spark.sql.SparkSession.$anonfun$sql$1(SparkSession.scala:618)

at org.apache.spark.sql.SparkSession.withActive(SparkSession.scala:775)

at org.apache.spark.sql.SparkSession.sql(SparkSession.scala:613)

at com.act.datasmart.operators.TableWriterOperator.writedata2hive(TableWriterOperator.java:297)

at com.act.datasmart.operators.TableWriterOperator.action(TableWriterOperator.java:134)

... 15 common frames omitted

Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: org.apache.thrift.TApplicationException: Required field 'filesAdded' is unset! Struct:InsertEventRequestData(filesAdded:null)

at org.apache.hadoop.hive.ql.metadata.Hive.fireInsertEvent(Hive.java:2376)

at org.apache.hadoop.hive.ql.metadata.Hive.loadPartition(Hive.java:1665)

at org.apache.hadoop.hive.ql.metadata.Hive.loadPartition(Hive.java:1579)

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:498)

at org.apache.spark.sql.hive.client.Shim_v2_1.loadPartition(HiveShim.scala:1259)

at org.apache.spark.sql.hive.client.HiveClientImpl.$anonfun$loadPartition$1(HiveClientImpl.scala:877)

at scala.runtime.java8.JFunction0$mcV$sp.apply(JFunction0$mcV$sp.java:23)

at org.apache.spark.sql.hive.client.HiveClientImpl.$anonfun$withHiveState$1(HiveClientImpl.scala:291)

at org.apache.spark.sql.hive.client.HiveClientImpl.liftedTree1$1(HiveClientImpl.scala:224)

at org.apache.spark.sql.hive.client.HiveClientImpl.retryLocked(HiveClientImpl.scala:223)

at org.apache.spark.sql.hive.client.HiveClientImpl.withHiveState(HiveClientImpl.scala:273)

at org.apache.spark.sql.hive.client.HiveClientImpl.loadPartition(HiveClientImpl.scala:867)

at org.apache.spark.sql.hive.HiveExternalCatalog.$anonfun$loadPartition$1(HiveExternalCatalog.scala:914)

at scala.runtime.java8.JFunction0$mcV$sp.apply(JFunction0$mcV$sp.java:23)

at org.apache.spark.sql.hive.HiveExternalCatalog.withClient(HiveExternalCatalog.scala:102)

... 39 common frames omitted

Caused by: org.apache.thrift.TApplicationException: Required field 'filesAdded' is unset! Struct:InsertEventRequestData(filesAdded:null)

at org.apache.thrift.TServiceClient.receiveBase(TServiceClient.java:79)

at org.apache.hadoop.hive.metastore.api.ThriftHiveMetastore$Client.recv_fire_listener_event(ThriftHiveMetastore.java:4977)

at org.apache.hadoop.hive.metastore.api.ThriftHiveMetastore$Client.fire_listener_event(ThriftHiveMetastore.java:4964)

at org.apache.hadoop.hive.metastore.HiveMetaStoreClient.fireListenerEvent(HiveMetaStoreClient.java:2305)

at sun.reflect.GeneratedMethodAccessor134.invoke(Unknown Source)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:498)

at org.apache.hadoop.hive.metastore.RetryingMetaStoreClient.invoke(RetryingMetaStoreClient.java:173)

at com.sun.proxy.$Proxy40.fireListenerEvent(Unknown Source)

at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)

at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)

at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)

at java.lang.reflect.Method.invoke(Method.java:498)

at org.apache.hadoop.hive.metastore.HiveMetaStoreClient$SynchronizedHandler.invoke(HiveMetaStoreClient.java:2336)

at com.sun.proxy.$Proxy40.fireListenerEvent(Unknown Source)

at org.apache.hadoop.hive.ql.metadata.Hive.fireInsertEvent(Hive.java:2374)

... 56 common frames omitted
Hive学习笔记 --- Required field 'sessionHandle' is unset! Struct:TExecuteStatementReq(sessionHan 阅读详情

相关推荐

Required field 'sessionHandle is unset !’

Required field 'sessionHandle is unset !’

杨鑫newlife的专栏 2744

解决:Required field ‘filesAdded‘ is unset! Struct:InsertEventRequestData(filesAdded:null)

hive报错Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: org.apache.thrift.TApplicationException: Required field ‘filesAdded’ is unset!这些更改将被记录为元数据更改事件,并且可以通过其他工具或触发器进行进一步处理。hive.metadata.dml.events 是一个配置属性,用于在 Hive 中启用或禁用元数据更改事件的捕获和记录。

qq_43688472的博客 1556

# ubuntu 系统使用 yum命令报错 There are no enabled repos.Run “yum repolist all“ to see the repos you have...

# ubuntu 系统使用 yum命令报错 There are no enabled repos.Run "yum repolist all" to see the repos you have.You can enable repos with yum-config-manager --enable

段子手168的博客 6684

hive连接报错-java.lang.NoClassDefFoundError: org/apache/thrift/TException

hive连接报错-java.lang.NoClassDefFoundError: org/apache/thrift/TException 报错信息: Handler dispatch failed; nested exception is java.lang.NoClassDefFoundError: org/apache/thrift/TException org.springframework.web.util.NestedServletException: Handler dispatch fa

一立方星空 8794

四旋翼黑科技揭秘:如何利用PX4隐藏的角加速度数据提升控制性能

本文深入探讨了如何利用PX4飞控中隐藏的角加速度数据,结合增量非线性动态逆(INDI)控制方法,显著提升四旋翼无人机的控制性能。通过实战教程,指导开发者从数据订阅、INDI原理到代码实现,构建响应更快、鲁棒性更强的控制回路,有效应对突风与快速机动。

lake5的博客 722

STM32F401RET6寄存器手册阅读标记

对于时钟树配置,可参考STM32CubeMX中的时钟树配置,STM32CubeMX将基础配置图像化,较为简单。RCC_CR寄存器的HSIRDY位为只读位,当读取值为1时,表示HSI振荡器准备就绪,当HSION位被设置时,HSIRDY会自动设置为低电平。//问题标记:USART配置寄存器信息是如何与USART1/2/3建立联系的(为什么不是三个分别配置)查阅寄存器手册可知,需要配置时钟的模块有:USART1,IO port A。(2)TX配置方法(寄存器手册512页)(4)配置寄存器(寄存器手册548页)

m0_72615170的博客 1468

Spark_Hive相关的依赖冲突,后期持续更新总结

这个依赖是Spark开启支持hive SQL解析,其中2.11是Spark对应的Scala版本,如Spark2.4.7,对应的Scala版本是2.11.12;这个依赖会由于Spark内部调用的依赖guava的版本问题出现冲突;这个spark版本中的guava版本为 16.0.1 ,该版本中移除了相关方法,所以会导致报错。

m0_46168848的博客 1510

【AIGC】COT思维链:让AI学会拆解问题,像人一样思考

COT思维链的出现,为AI的发展开辟了一条新的道路。它让AI学会了像人类一样思考,将复杂问题分解成简单的步骤,并逐步推理出最终答案。希望我的引导会对你产生启发。

智兔唯新的博客 9003

spark插入动态分区代码报错

config("hive.metastore.dml.events","false") 就好了。windows确实好了。.config("hive.exec.dynamic.partition.mode", "nonstrict")//动态分区。.config("hive.metastore.dml.events","false")//动态分区。但是我在服务器跑代码反复测试 都是可以重复插入分区的。window实在是难搞。dataset第一次插入分区没有问题,但是第二次重新跑的时候。

cclovezbf的博客 2878

c++ webrtc基础(1) :webrtc源码下载与编译、项目模块介绍、学习资料推荐

本篇博客介绍webrtc源码的下载与编译,以及推荐webrtc学习资料。 源码下载 电脑环境:win10/win11 64bit,合理的上网环境,没有合理的网络环境无法拉取、下载webrtc代码和工具,宽带速度要快,尽量50M. 主要步骤如下: (1) 安装git (2) 打开cmd控制台,下载google开发工具depot_tools: git clone https://chromium.googlesource.com/chromium/tools/depot_tools.git (3) 新建一个目

琅嬛福地 3299

在 SAP ECC 中定义 ledger 时遇到 “Define exactly one leading ledger“(消息号 FAGL_LEDGER_CUST012)的错误

摘要:SAP系统要求必须且只能定义一个主导分类账(Leading Ledger)。当出现错误消息FAGL_LEDGER_CUST012时,需通过事务码FINSC_LEDGER或SPRO路径检查分类账配置,确保仅有一个分类账被标记为"LeadingLedger",其余设为"Non-leadingLedger"。主导分类账是SAP默认用于标准报表的核心分类账,修改配置需谨慎以免影响已有数据。若问题未解决,建议检查未完成配置或查阅SAP Notes获取解决方案。

金牌架构师 802

Error in query: org.apache.hadoop.hive.ql.metadata.HiveException: org.apache.thrift.TApplicationExce

这个错误通常是由于Hive配置参数的问题引起的。根据Cloudera社区的一篇帖子,他们在升级Cloudera版本时遇到了类似的问题,并通过更改Hive配置参数 “hive.metadata.dml.events” 的值为 “false” 来解决了这个问题。这个参数控制是否启用Hive元数据DML事件。你可以尝试将这个参数设置为 “false”,然后重新运行你的查询,看看问题是否得到解决。以下是一个伪代码示例,演示如何使用Python的PyHive库来连接Hive并设置Hive配置参数:python。

qq_43688472的博客 927

Neo4j LLM知识图谱构建器使用教程

是一个开源应用程序,旨在将非结构化数据(如PDF、文档、文本、YouTube视频、网页等)转换为存储在Neo4j中的知识图谱。该项目利用大型语言模型(如OpenAI、Gemini等)从文本中提取节点、关系及其属性,并通过Langchain框架创建结构化的知识图谱。

u013250861的博客 542

Hive 之 API

JDBC 连接hive2, 程序挺简单, 跟其他数据库查询类似, 连接/执行查询/得到结果: package com.huiq.bigdata.test; import java.sql.Connection; import java.sql.DriverManager; import java.sql.ResultSet; import java.sql.Statement; public class ApiQueryTest { private static String driverNam

小强签名设计 的博客 2032

【教程4>第2章>第19节】 GMSK解调系统的FPGA开发与matlab对比验证

MSK(Minimum Shift Keying,最小频移键控)和GMSK(Gaussian Minimum Shift Keying,高斯最小频移键控)都是数字调制技术,主要用于无线通信系统中将数字信号转换为模拟信号进行传输。它们都是连续相位移键控(Continuous Phase Shift Keying, CPK)的一种形式,意味着相邻码元之间没有相位跳变的突变,而是连续过渡,这有助于减少信号带宽和降低邻道干扰。GMSK的解调过程与MSK类似,我们这里还是采用和MSK解调一样的1bit解调方法。

FPGA/MATLAB学习教程/源码/项目合作开发 1221

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

springboot jdbc 连接 hive 时所遇到的问题

(一)常见的问题 在使用springboot jdbc连接hive时,通常会报各种各样的java 包冲突以下是几种常见的错误 首先声明我使用的CDH版本是 CDH5.12.0 ,springboot 版本是2.0.8 1.1、org.apache.thrift.TApplicationException: Required field ‘client_protocol’ is unset! Struct:TOpenSessionReq(client_protocol:null) 则极可能的原因是你项目的

zhengqianjin的博客 5296

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

org.apache.thrift.TApplicationException: Invalid method name:XXX

问题是在client端报出来的。 看了一下thrift生成的代码,远程调用是按照如下的流程进行的,发送请求,括号里面是参数 然后接受响应,并返回,问题就是出在recv_xx里面,服务端返回的是个异常 send_xx(xx, xx, xx); return recv_xx(); 在ReceiveBase中,就直接抛出这个异常了 服务端侧日志没有出现...

小黄宝宝的专栏 2938

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

报错:org.apache.thrift.TApplicationException: Required field 'client_protocol' is unset!

我用的sbt来管理的spark项目,我所需要的jar包都放到了lib目录下,我用jdbc的方式去连接hive。本地测试一点毛病没有。但是!!!发布到服务器上,就报错:org.apache.thrift.TApplicationException: Required field ‘client_protocol’ is unset! 于是我就百度谷歌,原因是我项目中的hive-jdbc版本与远程hi...

qq_36231887的博客 5284

hive 安装报错“java.lang.NoClassDefFoundError: org/apache/thrift/TException”

在集群安装hadoop  的情况下,hive 安装在master节点上,安装hive 报错: 如下: Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/thrift/TException         at java.lang.Class.forName0(Native Method)      

走位风一样的专栏 1万+

hive报错:Required field 'client_protocol' is unset!

问题描述 在使用客户端连接Hive时,发现无法连接上上hiveserver2 报错信息如下: SLF4J: Class path contains multiple SLF4J bindings. SLF4J: Found binding in [jar:file:/home/yeluo/.m2/repository/org/slf4j/slf4j-log4j12/1.7.16/slf4j-log...

pre_tender的博客 1684

org.apache.thrift.TApplicationException: Invalid method name问题解决

    在调用Thrift接口时,报出的错误(org.apache.thrift.TApplicationException: Invalid method name)。1 检查调用的ip和端口是否正确。2 检查客户端和服务端采用的协议是否一致。...

BlueSky的博客 1万+

spark: Required field ‘filesAdded‘ is unset!

Required field 'filesAdded' is unset! Struct:InsertEventRequestData(files), hive , filesAdded, unset

qq_40841339的博客 482

解决java使用jdbc连接hive2出现Required field ‘client_protocol‘ is unset! Struct:TOpenSessionReq

java.sql.SQLException: Could not establish connection to jdbc:hive2://:**** Required field 'client_protocol' is unset! Struct:TOpenSessionReq(client_protocol:null, configuration:{use:database=***}) at org.apache.hive.jdbc.HiveConnection.openSession(Hive...

u011250186的博客 2656

解决hive客户端连接服务端报错“Required field ‘client_protocol‘ is unset! ” 的问题

当用hive客户端去连接服务端时,注意客户端的 hive-jdbc的version 要和hive Server的version要保持一致哦。

wowYuXuan808的博客 948

org.apache.thrift.TApplicationException: Required field 'client_protocol' is unset!

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34238633的博客 1982
上一篇: Spark dataset.mapPartitions debug到mapPartitions的函数体
下一篇: ftp查看根目录对应的linux目录位置
IT-Billy
博客等级 码龄7年 9粉丝 19原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值