
flink系列
鲸失
这个作者很懒,什么都没留下…
展开
-
flink系列--flinksql cdc源码分析
前言 关于cdc(change data capture)不知道的小伙伴们可以去百度一下,简单来说就是对于数据库的变更进行一个探测,因为数据库的更改对于客户端来说是没有感知的,你需要开启线程去查询,才知道数据有没有更新,但是就算是查询,如果是直接select * from ....,这样获取的结果还要和上次获取的结果对比,才知道数据有没有发生变化,耗时大,一个简单的思路是在要查询的表中添加一个updateTimestamp字段,然后判断updateTimestamp字段是否大于上次查询时的时...原创 2020-11-02 00:44:41 · 1768 阅读 · 1 评论 -
flink系列--connector源码分析
1.概念connector简单来说就是flink系统对接的外界数据源2.支持的数据源类型该截图来自于官网,可以看到官网并没有支持很多常见的数据源,而且支持的数据源不一定source和sink都支持,那这是为什么呢?如果你了解flink架构中taskmanager是如何进行数据交换的,那么这个问题也就不难理解,一般一个taskmanager会有两个网关(输入和输出),每一个taskmanager输入网关和上游的taskmanager的输出网关是通过netty进行交互的,有了一个buffer原创 2020-10-25 16:42:23 · 1610 阅读 · 6 评论