
Flink
文章平均质量分 75
Flink
落幕7
山山而川
展开
-
windows上简单部署flink
Windows上配置Flink原创 2023-06-01 16:42:50 · 4640 阅读 · 1 评论 -
Flink重启策略
目录 概览 重启策略 固定间隔 (Fixed Delay) 重启策略 失败率 (Failure Rate) 重启策略 无重启 (No Restart) 策略 回调 (Fallback) 重启策略 Flink 支持多种不同的重启策略,这些策略控制了在失败情况下工作要如何重启。 集群在启动时会伴随一个默认的重启策略,在没有定义具体工作重启策略时会使用该默认策略。 如果在工作提交时制定一个重启策略,该策略会覆盖集群的默认设定。 概览 默认的重启策略可以...转载 2022-01-10 16:12:04 · 1189 阅读 · 0 评论 -
Flink读Kafka写入HBase
文章目录Flink从kafka读数据写入HBase读取Hbase数据Flink从kafka读数据写入HBaseFlink官网帮助文档链接先导入依赖<dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-connector-hbase_2.11</artifactId> <version&原创 2021-11-29 20:44:39 · 1438 阅读 · 0 评论 -
Flink整合Hive
文章目录Flink整合Hive1、将整合需要的jar包上传到flink的lib目录2、启动hive元数据服务3、如果在sql-client中使用hive的catalog4、在sql-client中使用hive的catalog5、idea里写flinkSQL打包上传到集群运行Flink整合Hive1、将整合需要的jar包上传到flink的lib目录#需要三个jar包flink-sql-connector-hive-1.2.2_2.11-1.11.0.jarhive-exec-1.2.1.jarhi原创 2021-11-29 20:28:51 · 2380 阅读 · 4 评论 -
Flink的端对端精准一次处理(Exactly-Once)
端对端精准一次处理Two-Phase Commit(两阶段提交协议)两阶段提交Flink中应用原创 2021-11-27 21:41:28 · 3628 阅读 · 0 评论 -
Flink的Time、Window、State、Checkpoint
文章目录TimeWindowTime WindowSession WindowCount WindowStatecheckPointTimeTime的概念: Event Time and Processing Time(事件时间和处理时间)处理时间:处理时间是指正在执行相应操作的机器的系统时间。当流程序按处理时间运行时,所有基于时间的操作(如时间窗口)将使用运行相应算子的机器的系统时钟。每小时处理时间窗口将包括在系统时钟指示整小时之间到达特定操作员的所有记录。例如,如果应用程序在上午 9:15原创 2021-11-26 22:38:04 · 1413 阅读 · 0 评论 -
kafka搭建及使用
文章目录kafka搭建及使用使用kafkasourcekafka的APIkafka整合flume(监听hadoop日志)重置kafka相关命令kafka搭建及使用1、上传压缩包到任意节点2、解压,配置环境变量 所有节点都配置3、修改config/server.properties1、broker.id=0 #每一个节点broker.id 要不一样2、zookeeper.connect=master:2181,node1:2181,node2:21813、log.dirs=/usr/local原创 2021-11-25 23:22:57 · 1342 阅读 · 1 评论 -
Flink集群搭建和使用
flink -run…RPCon yarn直接提交原创 2021-11-25 22:56:45 · 1420 阅读 · 0 评论 -
Flink算子和入门案例(wordcount)
Flink入门案例wordcountpackage com.liu.coreimport org.apache.flink.streaming.api.scala._/** * @ Author : ld * @ Description : 实时统计word个数 * @ Date : 2021/11/23 18:57 * @ Version : 1.0 */object FlinkWordCount { def main(args: Array[String]): Unit = {原创 2021-11-23 22:20:18 · 1379 阅读 · 0 评论