自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(8)
  • 收藏
  • 关注

原创 Pyflink SimpleStringSchema反序列化器的局限性问题解决,自定义DeserializationSchema

pyflink 在使用kafka source时,可能遇到SimpleStringSchema无法反序列化而报错的情况,比如debezium产生的墓碑事件(value为空)。我们可以自定义反序列化器来解决这个问题。

2025-03-25 11:00:27 441

原创 Pyflink自定义Sink实现,以Neo4j Sink为例

Flink Neo4jSink 的java实现和python实现。java一个小时能写出三种实现,老架构、新架构、新架构v2。pyflink是真的不好用,非必要还是用java api!

2025-03-13 16:36:23 1047

原创 首次贡献Flink源码,竟贡献了3600+行?记录首次PR经历!

祝大家早日成为Contributor!

2025-02-25 16:03:49 484

原创 Flink源码编译完成之后,部分代码构建后显示找不到

比如说以下代码:flink-table/flink-sql-parser/src/main/java/org/apache/flink/sql/parser/dql/SqlShowDatabases。另外建议强迫症选手在此后不要点开ParseException类哈,不然会报红让你把目录已到项目根目录去,显然咱们不可能移过去,虽然不影响使用,但是看着很烦。原因:这个目录其实是flink运行时由javacc生成的,我们编译完成后,可以在target目录找到它。

2025-02-19 15:37:26 165

原创 Flink源码编译报错Connect to repository.apache.org:443 [repository.apache.org/65.109.119.155] failed: Conne

开启vpn时,部分流量没有代理,即使是全局代理,也会有同样报错,解决方式:开启vpn TUN代理模式,即可代理本机所有流量。

2025-02-18 19:53:28 168

原创 flink源码编译时flink-runtime-web模块报错npm相关

看看这两个文件是否完整(看大小),如果不完整,删掉这个文件,再重新clean install,还不行可以自己去网上下载node.exe文件放进来。编译了三四次源码了,flink版本1.16 1.18 1.20,分别在各种不同环境下编译都遇到了这个报错,有时候node.js和npm一起报错。首先在flink-runtime-web的pom文件找到这一行,将npm镜像改为。这次我编译比较顺利,暂时没有遇到其他问题,以后有机会再收集其他的问题。node.js报错的话,找到本地仓库地址。

2025-01-27 15:46:32 1361

原创 PyFlink/Flink datastream api写ES无法写复合数据类型的一种解决方案

pyflink/flink 写ES 无法写复合数据类型???

2025-01-27 10:05:11 282

原创 编译flink源码报错Too many files with unapproved license: 8 See RAT report in

编译flink源码时报错 Too many files with unapproved license: 8 See RAT report in: D:\apache-maven-3.9.9\mvn_repo\flink-1.20.0\flink-formats\flink-avro\target\rat.txt。在IDEA的设置里找到Maven->Runner,VM Options添加 -Drat.skip=true。

2025-01-27 09:11:53 206

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除