
flink
普罗米修斯之火
这个作者很懒,什么都没留下…
展开
-
实测解决 flink cdc mysql 时间字段差8小时/差13小时问题
实测解决 flink cdc mysql 时间字段差8小时/差13小时问题原创 2022-10-18 14:08:39 · 5378 阅读 · 18 评论 -
gp 索引列表查询,表字段类型,字段注释查询
--所有索引列表SELECT n.nspname as "Schema", c.relname as "Name", c2.relname as "Table"FROM pg_catalog.pg_class c JOIN pg_catalog.pg_roles r ON r.oid = c.relowner LEFT JOIN pg_catalog.pg_namespace n ON n.oid = c.relnamespace LEFT JOIN原创 2022-03-09 11:40:15 · 2024 阅读 · 0 评论 -
Mysql binlog日志读出来的时间差8小时问题解决方案
//timeStamp = 2022-02-16T12:27:20.828524Z String zonedDateTime = LocalDateTime.parse(timeStamp.replace("Z", "")) .atZone(ZoneId.of("UTC"))//设置老时区 .withZoneSameInstant(ZoneId.of("Asia/Shanghai"))//设置新时区原创 2022-02-16 14:49:37 · 1796 阅读 · 0 评论 -
flink 自定义带超时时间的计数窗口触发器
自定义带超时时间的计数窗口触发器import org.apache.flink.api.common.functions.ReduceFunction;import org.apache.flink.api.common.state.ReducingState;import org.apache.flink.api.common.state.ReducingStateDescriptor;import org.apache.flink.api.common.typeutils.base.LongSe原创 2022-02-11 15:40:07 · 1992 阅读 · 0 评论 -
greenplum主键存在就不插入的SQL
该sql当id=1的数据已存在时,就不会插入数据,如果不存在就正常插入INSERT INTO ods.ods_iot_project(id, project_id, status) SELECT 1,456,456 FROM (SELECT 1) tmp WHERE NOT EXISTS ( SELECT 1 FROM ods.ods_iot_project WHERE id=1 );...原创 2021-12-22 10:51:36 · 505 阅读 · 0 评论 -
flink 通过事务和checkpoint的共同提交,保证EXACTLY_ONCE
获得gp的数据库连接池,使用连接池,不要使用单连接package com.ysservice.dataStreamApi.utils;import com.alibaba.druid.pool.DruidDataSourceFactory;import javax.sql.DataSource;import java.sql.Connection;import java.sql.SQLException;import java.util.Properties;/** * @Descripti原创 2021-11-17 15:37:13 · 1407 阅读 · 0 评论 -
flink通过checkpoint的完成信号,提交jdbc sql,保证数据一致性
package com.ysservice.dataStreamApi.sink;import com.ysservice.dataStreamApi.utils.GreenplumUtil;import com.ysservice.dataStreamApi.utils.RegexUtils;import org.apache.flink.api.common.state.CheckpointListener;import org.apache.flink.api.java.tuple.Tupl原创 2021-11-11 15:27:19 · 1959 阅读 · 0 评论 -
flink cdc 2.0.0 sql 开发模板,及踩坑记录
flink cdc sql 开发模板flink cdc sql 读mysql的binlog日志,实时同步到mysql开发模板使用flink cdc前提条件:读取目标库的用户必须开启binlog权限package com.ysservice; import com.typesafe.config.Config;import com.typesafe.config.ConfigFactory;import com.ysservice.utils.MyCheckpoint;import com.原创 2021-10-29 15:56:02 · 3499 阅读 · 6 评论 -
flink cdc 将binlog日志反序列化成sql语句
package com.ysservice.streaming.source;import com.alibaba.ververica.cdc.debezium.DebeziumDeserializationSchema;import com.ysservice.streaming.utils.MysqlUtil;import com.ysservice.streaming.utils.SystemConstants;import io.debezium.data.Envelope;import原创 2021-10-18 17:13:37 · 877 阅读 · 3 评论 -
flink table api 有界无界窗口的使用
Table aggVin = inputTable.window(Over.partitionBy("vin").orderBy("rt").preceding("1.rows").as("w")) .select("vin,rt,carTime,min(carTime) over w as min_carTime") .select("vin,rt,carTime,min_carTime,(carTime - min_carT...原创 2021-08-21 00:17:06 · 388 阅读 · 0 评论