自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(21)
  • 资源 (3)
  • 收藏
  • 关注

原创 【FlinkCDC】FlinkCdc使用Q&A - 持续更新中

文章记录Flink CDC使用过程中的常见问题,以供开发者参考。内容持续更新中。

2023-08-28 13:52:12 620

原创 【Kafka】Kafka运行指标与prometheus+grafana集成

一篇文章教会你怎么采集kafka指标到prometheus+grafana,并完成可视化配置。

2023-07-17 19:31:12 1755

原创 【Flink】Flink运行指标接入Prometheus+Granfana

手把手教你导出flink运行指标,完成prometheus+grafana监控集成。

2023-06-07 21:07:00 3450 1

原创 【FlinkCdc】Flink MysqlCdc连接数据库失败,SSLHandshakeException怎么破?

Flink MysqlCdc连接数据库失败,报SSLHandshakeException,应该怎么破?

2023-05-22 20:43:53 3001

原创 【Starrocks】starrocks查询bug:count(distinct)影响count(1)计算结果

报告一个Starrocks基础的执行引擎查询bug及其临时解决方案

2023-04-24 15:49:40 807 2

原创 Kafka如何配置内外网多ip访问

Kafka如何配置内外网多ip访问

2023-03-21 20:47:06 7111

原创 FlinkCDAS同步starrrocks,varchar超长导致数据同步失败

使用FlinkCDAS同步mysql数据到starrocks,报org.apache.flink.table.api.TableException: Failed to deserialize the input record,究竟是怎么回事?

2023-03-13 10:24:44 1613 1

原创 【数据湖hudi应用】hudi同步NoSuchMethodError(Types$PrimitiveBuilder.as)修复

一篇文章告诉你hudi同步数据出现NoSuchMethodError(Types$PrimitiveBuilder.as)怎样修复

2022-08-09 09:29:12 2013 4

原创 【Hudi数据湖应用】Flink作业同名类强转异常ClassCastException修复

运行flink作业时,出现同名类强转异常ClassCastException,这到底是怎么回事呢?应该怎么解决?阅读这篇文章,我们一起寻找答案。

2022-06-27 10:00:19 1072 2

原创 【Hudi数据湖应用】hudi 0.11编译异常之HoodieParquetDataBlock找不到合适的ByteArrayOutputStream构造器

一篇文章告诉你如何修复Hudi0.11编译:HoodieParquetDataBlock找不到合适的ByteArrayOutputStream构造器。

2022-06-13 08:00:00 1313

原创 【Hudi数据湖应用】手把手带你应用hudi的hive sync tool与避坑

一篇文章教会你如何使用hudi的hive sync tool及如何避免已知的hive sync tool的坑。

2022-06-05 19:59:15 3778

原创 【Java基础】Idea启动Spring boot失败之Could not resolve placeholder解决全攻略

Spring boot项目一般会使用大量注解来注入配置,当注解解析失败无疑会直接影响项目启动。出现这种情况时应该怎么办呢?一篇文章解答所有注解注入失败的所有情况!

2022-05-14 18:40:44 17581 1

原创 【Hudi数据湖应用】Hudi-Spark-Bundle NoSuchMethodError(SessionHandler.setHttpOnly)异常修复

最近尝试在sparksql上对hudi表进行insert数据,会报java.lang.NoSuchMethodError: org.apache.hudi.org.apache.jetty.server.session.SessionHandler.setHttpOnly(Z)V异常。如果只是进行简单的create table, 然后进行select查询是没有问题的。但如果是create table test_cow using hudi as select * from source_cw这样的语句,由

2022-04-18 14:46:38 2907 9

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略七:FlinkSQL常用命令

一篇文章记录FlinkSQL常用命令。

2022-02-27 19:27:06 2724 1

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略六:极限压测下炸出来的FlinkCDC-Hudi坑,真多

一篇文章告诉你,使用FlinkCDC写入Hudi完成数据入湖会遇到什么坑。

2022-02-27 19:14:13 5429 5

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略五:FlinkSQL同时输出到kafka与hudi的几种实现

一文告诉你如何在FlinkSQL中实现一个作业多路输出。

2022-02-22 11:16:36 3264

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略四:两种FlinkSql kafka connector的特征与应用

一篇文章带你全面了解FlinkSql中两种kafka connector,掌握其应用特征与适用场景,轻松应于生产服务与数据入湖。

2022-02-21 11:49:41 4191 4

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略三:探索实现FlinkCDC mysql 主从库同步高可用

在生产环境中,mysql一般会配备主从库,以实现数据备份、服务容灾、读写分离等需要。使用FlinkCdc进行mysql数据入湖时,就不可避免地要和主从库打交道。FlinkCDC对mysql主从库的切换支撑到什么程度、数据库需要怎么配置、同步程序要怎么配合操作和开发,是FlinkCDC投入生产应用前必验项目。本文记录了使用FlinkCDC进行Mysql主从数据同步的主要验证过程,以为后鉴。

2022-02-17 20:56:43 7121 8

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略二:Hudi与Spark整合时所遇异常与解决方案

在Hudi与Spark整合的过程中,会有不少坑。本文记录Hudi与Spark整合过程中发现的坑点及其解决方案。

2022-02-14 19:39:09 3334 1

原创 FlinkCDC-Hudi:Mysql数据实时入湖全攻略一:初试风云

一、背景FlinkCDC是基于Flink开发的变化数据获取组件(Change data capture),目前支持mysql、PostgreSQL、mongoDB、TiDB、Oracle等数据库的同步。Hudi是一个流式数据湖平台,使用Hudi可以直接打通数据库与数据仓库,Hudi可以连通Hadoop、hive,支持对数据record粒度的增删改查。Hudi支持同步数据入库,提供了事务保证、索引优化,是打造实时数仓、实时湖仓一体的新一代技术。本文尝试使用FlinkCDC同步Mysql数据,通

2022-02-10 19:46:04 5847

原创 程序包不存在,找不到符号,但实际“存在”

maven编译找不到包,换不到符号

2022-01-27 18:36:53 7229 5

hudi-hadoop-mr-hundle.jar

hudi:0.10.1 hadoop:3.1.0 hive:3.1.0

2022-04-13

hudi-spark-bundle.jar

hudi:0.10.1 spark:3.1.3 scala:2.12 hadoop:3.1.0 hive:3.1.0

2022-04-13

hudi_0.10.1-flink_1.13.6-bundle

hudi:0.10.1 flink:1.13.6 scala: 2.12 hadoop:3.1.0 hive:3.1.0

2022-04-13

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除