解决Flink sql client执行任务报错:java.lang.IllegalArgumentException: Cannot write delete files in a v1 table

Flink常见异常&解决办法 Flink版本问题,从1.13.2升级到1.14.6,问题解决~ 阅读详情

在Flink sql client执行如下数据去重任务报错:java.lang.IllegalArgumentException: Cannot write delete files in a v1 table的解决办法

在Flink sql client执行如下数据去重任务报错:java.lang.IllegalArgumentException: Cannot write delete files in a v1 table

create catalog hadoop_catalog with (
'type'='iceberg'
'catalog-type'='hadoop'
'catalog-name'='hadoop catalog',
'warehouse'='alluxio:xx.xx.xx.xx:19998/iceberg/warehouse/iceberg_db'
'property-version'='2',
'format-version'='2'
);

use catalog hadoop_catalog;

create database if not exists iceberg2iceberg_dwd_db; 
use iceberg2iceberg_dwd_db;

CREATE TABLE if not exists student_deduplication( 
id INT,
name STRING, 
test STRING, 
score INT,
process time TIMESTAMP(3), 
row_num BIGINT,
PRIMARY KEY (id) NOT ENFORCED
);

INSERT INTO hadoop_catalog.iceberg2iceberg_dwd_db.student_deduplication(id, name, test, score, process_time, row_num) 
SELEcT id, name, test, score, process_time, row num 
FROM(
    SELECT id, name, test, score, process time, 
        ROW NUMBER() OVER (PARTITION BY(name, score) ORDER BY process_time DESC) As row_num 
    FROM hadoop_catalog.mysql_kafka2iceberg_db.student_original) 
WHERE row_num=1;

通过在建表时加上如下两条属性信息解决:

'property-version'='2', 
'format-version'='2'

添加过后,可执行的完整sql

create catalog hadoop_catalog with (
'type'='iceberg'
'catalog-type'='hadoop'
'catalog-name'='hadoop catalog',
'warehouse'='alluxio:xx.xx.xx.xx:19998/iceberg/warehouse/iceberg db'
'property-version'='2',
'format-version'='2'
);

use catalog hadoop_catalog;

create database if not exists iceberg2iceberg_dwd_db; 
use iceberq2iceberg dwd_db;

CREATE TABLE if not exists student_deduplication( 
id INT,
name STRING, 
test STRING, 
score INT,
process time TIMESTAMP(3), 
row_num BIGINT,
PRIMARY KEY (id) NOT ENFORCED
)WITH (
'property-version'='2', 
'format-version'='2'
);

INSERT INTO hadoop_catalog.iceberg2iceberg_dwd_db.student_deduplication(id, name, test, score, process_time, row_num) 
SELEcT id, name, test, score, process_time, row_num 
FROM(
    SELECT id, name, test, score, process time, 
        ROW NUMBER() OVER (PARTITION BY(name, score) ORDER BY process_time DESC) As row_num 
    FROM hadoop_catalog.mysql_kafka2iceberg_db.student_original) 
WHERE row_num=1;
FlinkSQLread hive IllegalArgumentException: field does not exist 1、FlinkSQL读取和hive数据发生字段不存在 创建一个hive表,先插入一条数据,然后再修改表增加一个update_time字段,再用FlinkSQL查询就会报update_time, 字段不存在。 2、异常报错如下 +--------------------------------+-------------+-------------------------------+ | name | age | 阅读详情

相关推荐

【Flink】 IllegalArgumentException: open() failed.The server time zone value ‘�й���׼ʱ��‘

Caused by: java.lang.IllegalArgumentException: open() failed.The server time zone value '�й���׼ʱ��' is unrecognized or represents more than one time zone. You must configure either the server or JDBC driver (via the serverTimezone configuration property) .

一杯咖啡半杯糖的博客 2293

iceberg读写常见报错

flink写iceberg报错 场景:flink sink iceberg时,使用equalityFieldColumns指定字段时,报错如下: java.lang.IllegalArgumentException: Cannot write delete files in a v1 table at org.apache.iceberg.ManifestFiles.writeDeleteManifest(ManifestFiles.java:154) at org.apache.iceberg.Sna

yiweiyi329的博客 2685

PaddleOCR实战:从零开始打造专属OCR模型的完整指南

本文提供了一份从零开始使用PaddleOCR打造专属OCR模型的完整实战指南。内容涵盖环境搭建、数据标注与准备、模型训练与调优,以及最终的模型转换与部署。重点介绍了如何利用PaddleOCR进行模型训练,并整合PPOCRLabel等工具高效准备数据集,帮助开发者快速构建适用于特定场景的高精度OCR识别能力。

rl6adventurer的博客 733

Flink报错:java.lang.IllegalArgumentException: Time should be non negative

Flink报错:java.lang.IllegalArgumentException: Time should be non negative

qq_39902301的博客 824

VLA强化学习训练:π0到π0.5的技术优化与实现

视觉语言动作模型(VLA)作为多模态强化学习的重要分支,通过融合视觉、语言和环境状态数据实现智能决策。其核心技术在于多模态特征融合与动作空间设计,其中PPO算法因其出色的训练稳定性成为首选方案。在工程实践中,延迟补偿机制和课程学习设计能显著提升模型性能,如在四足机器人项目中使避障成功率提升47%。针对实际部署中的性能下降问题,需要特别关注硬件量化参数和控制频率一致性等关键因素。本文通过π0与π0.5版本的对比实验,详细解析了VLA模型在机械臂控制等具身智能场景中的优化路径。

weixin_29041767的博客 246

设计师必看!用Figma MCP自动生成开发文档的隐藏技巧

本文为设计师揭秘利用Figma MCP协议自动生成开发文档的隐藏技巧。通过将设计稿转化为结构化数据,实现设计规范的自动化输出、版本同步与动态更新,并借助AI助手提升协作效率,彻底告别繁琐的手动标注与沟通。

berry的博客 923

flink+hive进行数据挖掘出现java.lang.IllegalArgumentException: The minBucketMemorySize is not valid!

项目背景 使用flink(1.12.0)+hive(3.1)进行数据分析,使用windows10_x64(8GB内存)+idea进行开发,因为需要本地调试,且数据量是3W*3W左右的两个表,因此直接通过flink-client的MiniCluster在本地直接运行。 问题描述 将A、B两个表进行join后,按照其中4个字段进行group by并执行sum()和select()操作,这里会出现问题,错误堆栈如下 Exception in thread "main" java.lang.Runtime

我要上天和太阳肩并肩的专栏 2924

STM32驱动WS2812B实现音乐频谱可视化系统

本文详细介绍了基于STM32驱动WS2812B灯带实现音乐频谱可视化系统的设计与实现。通过FFT算法实时分析音频信号,将频谱映射到炫彩灯光控制系统,结合PWM和DMA技术实现低延迟响应。系统支持多模式切换和动态亮度调节,适用于创意灯光秀和智能家居场景。

weixin_29171129的博客 302

【现场问题】flink-cdc,sql一直校验不通过,为什么,明明sql没有错误

这里的flink-cdc的sql对了好几遍,都没问题,包括单个执行create,也是显示校验通过。我尝试着在sql语句之间,加上。

吃素的哈士奇de博客 1412

华为OD机考双机位C卷 - 朋友圈个数(Java & Python& JS & C/C++ & GO )

华为OD机考双机位C卷 - 朋友圈个数(OD上机考试双机位C卷)。提供Java、C++、Python、Go、JavaScript源码实现,并提供完整思路讲解,以及在线OJ模拟做题。

算法大师! 695

【YOLOv12[基础]】热力图可视化实践 | 脚本升级 | 优化可视化效果 | 论文必备 | GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM等

热力图可视化实践 | 脚本升级 | 优化可视化效果 | 论文必备 GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM等

静谧、淡雅 895

Flink checkpoint操作流程详解与报错调试方法汇总,增量checkpoint原理及版本更新变化,作业恢复和扩缩容原理与优化

第一步,Checkpoint Coordinator 向所有 source 节点 trigger Checkpoint;。第二步,source 节点向下游广播 barrier,这个 barrier 就是实现 Chandy-Lamport 分布式快照算法的核心,下游的 task 只有收到所有 input 的 barrier 才会执行相应的 Checkpoint。

Direction_Wind的博客 3870

使用STARTER V5.6软件将项目文件下载到S120驱动器控制单元CF卡中的具体方法演示

使用STARTER V5.6软件将项目文件下载到S120驱动器控制单元CF卡中的具体方法演示

Robot_PLC_HMI_Automation 1912

flink报错 java.lang.IlleagalStateException: No ExecutorFactory found to execute the application

idea中flink的代码再1.10版本的时候可以正常运行,但是当把flink版本改成1.11的时候运行就报错 flink报错 java.lang.IlleagalStateException: No ExecutorFactory found to execute the application 报错如下:很是郁闷,究其原因是少依赖,1.11版本需要引入flink-clients 依赖 具体看flink官网 https://ci.apache.org/projects/flink/flink-docs

yang灬仔 1711

matlab 显示曲面网格【2025最新版】

matlab点云工具箱对点云三维重建结果显示的函数。博客长期更新,本文最近更新时间为:2025年9月14日。

点云侠的博客 2580

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

java.lang.IllegalStateException: Only single-level inheritance supported: XXXClient

在SpringCloud中Feign支持继承,但是不支持多层继承

SiuPang 4217

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

亲测有效!!!已解决java.lang.IllegalArgumentException异常,已解决java.lang.IllegalArgumentException异常的正确解决方法,亲测有效!!

java.lang.IllegalArgumentException 是 Java 中的一个运行时异常,它表示向方法传递了一个不合法或不适当的参数。这个异常通常用于表示调用者违反了API合约,即方法调用者传递了一个方法签名预期之外的值。 问题分析 当 Java 程序抛出 IllegalArgumentException 时,意味着程序中的某个方法收到了一个不符合其要求或期望的参数。这可能是由于参数的类型错误、值范围错误、格式错误或任何其他不满足方法使用条件的情况。 报错原因 IllegalArgumen

PythonAigc的博客 1万+

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Flink报错java.lang.IllegalStateException: No ExecutorFactory found to execute the application

flink

小泽 2229

flink sql 校验常见错误及解决办法

几个常见的flink sql 语法校验和运行时报错。

cs3520的博客 5014

java.lang.IllegalArgumentException 异常报错完美解决

目录 修改JDK使用版本 修改开发工具idea配置(eclipse的直接跳过这个看下面) 修改开发工具eclipse配置 学习spring依赖注入的时候碰到这个坑,折腾了许久,记录一下以防其他小伙伴入坑! 该异常主要原因是因为JDK与Spring版本不一致。要么更换jdk,要么重新下载符合jdk的springjar包 我本地装了两个JDK版本,一个1.8,一个1.7,原本以为只要修改一...

辰小白 16万+

实践数据湖iceberg 第二十一课 flink1.13.5 + iceberg0.131 CDC(测试成功INSERT,变更操作失败)

实践数据湖icerberg专栏 本专栏记录iceberg菜鸟到专家的过程,记录踩坑,填坑,iceberg特征的了解与原理的认知

spark_dev的博客 3183

在做投屏出现的一个坑

我使用TCP与手机端建立链接时如果有一次失败后面都不会再成功试了很多方法最终找到了问题。。。。 ServiceSocket没有设置超时时间 setSoTimeOut 大致代码如下: public class ServiceUtils { private  ServerSocket service ; private static int port=1000; private Ser

yinbucheng的博客 2万+

java.lang.IllegalArgumentException 非法参数异常解决方法

这个异常的关键原因是:jdk与spring的版本不一致。要么更换jdk,要么重新下载符合jdk的springjar包 这里选择更换jdk,步骤如下: 下载两个版本的jdk安装完后,到我的计算机里设置环境变量,path添加上 ;%JAVA_HOME%\bin;%JAVA_HOME%\jre\bin;, 然后新建一个JAVA_HOME,一个JAVA7_HOME设置为jdk1.7版本的路径,JA...

小屁孩的博客 5万+

java.lang.IllegalArgumentException 如何解决这个异常

很多人说这个异常是spring版本和jdk版本不一致导致的,其实不然你可以运行一下这一段代码 public static void main(String[] args) { String timeStamp = "1531782000000";//直接是时间戳 // long timeStamp = System.currentTim...

废墟中的猫 40万+
上一篇: primary key(id) NOT ENFORCED的含义
下一篇: 【无标题】
JCjunior
博客等级 码龄11年 45粉丝 57原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值