
Flink
数据游戏
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
doris 导入遇tablet writer write failed, err=-235问题解决
doris 导入 err-235原创 2021-12-24 15:19:39 · 8042 阅读 · 2 评论 -
flink 使用jdbc批量写入
public class JdbcSinkOperator<T extends Serializable> extends AbstractStreamOperator<Object> implements ProcessingTimeCallback, OneInputStreamOperator<T, Object>{ private Map<String,List<String>> map; private ListState原创 2021-11-16 09:37:15 · 1639 阅读 · 0 评论 -
jdbc连接Phoenix问题解决
JDBC连接Phoenix报错以及解决说明:在构建实时项目中idea中使用Phoenix查询hbase维度数据时,连接建立后又发生错误,异常信息如下Caused by: java.lang.IllegalAccessError: tried to access method com.google.common.base.Stopwatch.<init>()V from class org.apache.hadoop.hbase.zookeeper.MetaTableLocator查询后发原创 2021-05-29 17:03:33 · 1720 阅读 · 2 评论 -
记一次flink中状态使用所遇问题
记一次flink状态使用所遇问题在用flink做实时计算时,用到状态去存储一些中间数据或者结果数据,在本次项目中我要用到两个相同类型的状态,所以在做初始化时,以为描述器可以重用,所以只创建了一个描述器。//定义描述器val ttlDes = new ValueStateDescriptor[Boolean]("ttl", classOf[Boolean])//初始化ttlState = getRuntimeContext.getState[Boolean](ttlDes)subjectState原创 2021-05-11 18:02:40 · 338 阅读 · 0 评论 -
flink中listState删除指定value
Flink中listState删除指定valueFlink作为流批统一的计算框架,其中有一大特点就是它的状态编程,利用状态编程可以省去部分中间存储系统,当我们使用ListState存储一些中间结果时,有时候避免不了要删除指定的状态,以下为指定删除value的一段实现代码import java.langimport org.apache.flink.api.common.functions.RichMapFunctionimport org.apache.flink.api.common.state原创 2021-03-30 15:27:28 · 1646 阅读 · 3 评论 -
canal指定binlog位点启动
canal指定binlog位点启动1. canal基于集群模式搭建,所用版本为带有可视化页面的canal-1.1.4,包结构如下canal-adaptercanal-admincanal-server2.抽取实例主要配置canal-server,包结构如下cd canal-server/binconfliblogs#conf目录[canal-server]$ cd conf/canal_local.propertiescanal.propertiesexamplelogba原创 2021-01-21 13:41:40 · 1741 阅读 · 1 评论 -
flink常用算子以及window
Flink 窗口种类以及常用算子使用flink有以下几类窗口:Tumbling Windows滚动窗口长度固定,滑动间隔等于窗口长度,窗口元素之间没有交叠。// tumbling event-time windowsinput .keyBy(<key selector>) .window(TumblingEventTimeWindows.of(Time.sec...原创 2020-05-07 18:11:36 · 909 阅读 · 0 评论 -
Flink 1.9 Table API -kafkaSource
Flink 1.9 Table API -kafkaSource 使用kafka作为flink的数据源对接flink Table,本次测试使用的是单节点的kafka以及flink,以下为一次简单的操作,包括kafka主题的创建、订阅、发布以及具体的小案例kafka中主题的创建[root@CentOSA kafka_2.11-2.1.0]# bin/kafka-topics.sh --cre...原创 2020-02-17 14:16:29 · 743 阅读 · 0 评论 -
Flink 1.9 Table API & SQL 2
Flink 1.9 Table API & SQL 2Table API是用于流和批处理的统一关系的API,以下为对同一种需求的三种简单的不同使用形式需求:求每个用户的订单总额1.使用tableEnv.registerTableSource()进行表的注册import org.apache.flink.api.common.typeinfo.{TypeInformation, Ty...原创 2020-01-31 19:58:54 · 1843 阅读 · 0 评论 -
flink-1.9.1单机版环境的搭建
Flink基础环境本次安装Flink版本为flink-1.9.1,可以点击此链接直接下载https://www.apache.org/dyn/closer.lua/flink/flink-1.9.1/flink-1.9.1-bin-scala_2.11.tgz前提条件1.安装JDK[root@CentOSA ~]# rpm -ivh jdk-8u191-linux-x64.rpmwar...原创 2020-01-27 19:49:25 · 1272 阅读 · 0 评论