
FlinkCDC
文章平均质量分 50
FlinkCDC实战
jwandbj
这个作者很懒,什么都没留下…
展开
-
FlinkCDC报错解决
如果利用FlinkCDC在同步的时候报这个错误,说明server_id需要指定一个;出现的原因是因为你监听的mysql的表时,有多个相同的server_id监听同一个binlog日志。如果不指定,Flink默认是给到server_id:5400-6400。原创 2023-12-26 15:22:06 · 1376 阅读 · 0 评论 -
FlinkCDC(三)同步mysql的binlog到doris
另外一种使用jdbc的方式,直接读取mysql的表结构信息,然后通过jdbc的方式连接doris创建表结构;1、在同步的时候,怎么实现在doris里面自动创建表结构。如果不是自动创建表结构,那么每次同步一个表都需要手动去创建表结构,这样的话会很累;使用jdbc的方式,直接读取mysql的表结构信息,然后通过jdbc的方式连接doris创建表结构;2、多个表或者整库同步的时候,怎么通过只连接一次,就可以监听多个表或者整库的数据变动;所以呢,这篇文章先解决第一个问题,如何自动同步表结构到doris;原创 2023-12-26 14:42:49 · 1644 阅读 · 0 评论 -
FlinkCDC(二)同步mysql的binlog到doris
前面一章使用flink sql的方式来做数据的同步,但是有一个问题,如果我们一个库里面有100多张表或者更多,那就要写100多个create table来连接,mysql的连接数也会一下子暴涨,所以对于多个表或者整个库或者多库的数据同步,只能使用datastream来同步。这个项目部需要用到spirng、springboot和springclound,直接在main方法里面实现逻辑;先创建一个project,取名flinkcdc-mysql-doris。第一步先创建flink datastream的环境。原创 2023-12-25 17:03:23 · 1114 阅读 · 0 评论 -
Flinkcdc(一)同步mysql的binlog到doris
现在使用第一种方式来实现,通过在flink的client里面进行sql方式的执行。在flink的bin目录下有一个./bin/sql-client.sh,进入到这里面可以执行sql语句。flink利用mysql-cdc从mysql读取binlog日志;一种使用的是datastream的方式;一种是直接使用sql的方式;原创 2023-12-25 15:41:21 · 980 阅读 · 0 评论