
Flink数据写入数据库
文章平均质量分 64
me凡
这个作者很懒,什么都没留下…
展开
-
Flink 消费Kafka每日不定时积压(非重启不能解决)问题排查解决
进来看看吧,说不定有收获原创 2022-07-25 11:16:27 · 4921 阅读 · 3 评论 -
FlinkSql多表(三表) join/interval join
直接上sql和数据流图一: join(regular join)insert into `flinkThreeWaterT`select ck.userid, ck.click, py.payway, pc.price, ck.ctime, py.ptime, pc.etimefrom ( select userid, click, TO_TIMESTAMP (ctime) as ctime from flink_kafka_join_click)原创 2021-06-09 17:01:19 · 5002 阅读 · 2 评论 -
Flink 滑动窗口理解&具体业务场景介绍
1. 窗口划分与数据清理 StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.setParallelism(1); env.setStreamTimeCharacteristic(TimeCharacteristic.EventTime); DataStreamSource<String> local原创 2020-12-22 17:59:50 · 3569 阅读 · 4 评论 -
flink1.11 sql本地运行demo & 本地webUI可视解决
1. pom依赖 <properties> <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> <flink.version>1.11.0</flink.version> <avro.version>1.8.2</avro.version> <java.version原创 2020-11-28 18:13:31 · 1956 阅读 · 2 评论 -
Flink1.11 多并行度watermark测试
source 单并行度参考https://blog.youkuaiyun.com/xu470438000/article/details/83271123结论:###窗口触发条件1、watermark时间 >= window_end_time2、在[window_start_time,window_end_time)中有数据存在###对于设置了allowedLateness(Time.seconds(N))的1. 第一次触发是在watermark >=window_end_time时.原创 2020-11-09 17:23:40 · 870 阅读 · 7 评论 -
Flink1.11 Jdcb方式写mysql测试用例
本demo是计算窗口内wordCount然后写入mysql//数据通过jdbc方式sink到mysql windowCounts.addSink(JdbcSink.sink("replace into flink_test(words,nums) values(?,?)", new JdbcStatementBuilder<Tuple2<String, Integer>>() { @Ove.原创 2020-11-06 11:14:29 · 1135 阅读 · 0 评论 -
flink cep对于超时时间处理patternTimeoutFunction
Flink Cep是对复杂时间处理的一种手段,通过规则进行匹配,比如有 A B A C B C D是个消息,我们想获取 B C这种事件的消息,就可以通过定义相关规则来进行业务处理,通常我们会对C消息到达的时间有要求,比如在3s之内,那么我们获得超出3s已经匹配到的消息呢?现在来讨论下Flink CEP对于超时时间的处理直接上demo(实现功能,匹配click后为buy事件的消息,事件限定为5s,同时获取超时时间外匹配的消息)git地址https://github.com/fan-code/fl.原创 2020-06-09 14:27:00 · 1975 阅读 · 0 评论 -
flink sink数据到elasticsearch(scala&java)
代码参考了 zhisheng的java http://www.54tianzhisheng.cn/2018/12/30/Flink-ElasticSearch-Sink/以及同事的scala,在此说明一下java 有add和upsert操作scala只有upsert操作代码git连接https://github.com/fan-code/flinkSink2Es原创 2020-05-27 11:51:19 · 869 阅读 · 0 评论 -
NoClassDefFoundError: org/apache/flink/streaming/api/environment/StreamExecutionEnvironment 已解决
依赖中有配置<!--<scope>provided</scope>--> 去掉即可原创 2020-05-26 16:28:36 · 3191 阅读 · 1 评论 -
Flink Demo测试------Kafka连接(Flink1.8;Hadoop3.0)
pom文件 <name>Flink Quickstart Job</name> <url>http://www.myorganization.org</url> <repositories> <repository> <id>apache.snapsh...原创 2019-06-05 13:43:33 · 1805 阅读 · 0 评论 -
Flink Demo测试------读取本地文件WordCount并写入mysql(Flink1.8;Hadoop3.0)
pom文件<name>Flink Quickstart Job</name> <url>http://www.myorganization.org</url> <repositories> <repository> <id>apache.snapsho...原创 2019-06-05 13:48:14 · 3357 阅读 · 0 评论