
Flink
Flink
cts618
算法高级工程师
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Flink编程模型
Flink编程模型原创 2022-10-17 11:09:16 · 209 阅读 · 0 评论 -
Flink自定义网课数据源
Flink自定义网课数据源原创 2022-09-29 16:00:03 · 207 阅读 · 0 评论 -
Flink自定义数据源
Flink自定义数据源原创 2022-09-29 15:05:12 · 238 阅读 · 0 评论 -
Flink自定义订单数据源
Flink自定义订单数据源原创 2022-09-29 14:52:38 · 317 阅读 · 0 评论 -
Flink Stream,Flink SQL,Flink CEP三板斧优先级
Flink Stream,Flink SQL,Flink CEP三板斧优先级原创 2022-09-16 11:29:00 · 831 阅读 · 0 评论 -
为什么用 Flink?
为什么用 Flink?原创 2022-09-02 15:45:10 · 296 阅读 · 0 评论 -
Flink 海量数据如何高效去重
Flink 海量数据如何高效去重原创 2022-09-02 14:48:56 · 1105 阅读 · 0 评论 -
LookUpJoin案例
LookUpJoin案例原创 2022-07-11 10:17:59 · 729 阅读 · 1 评论 -
Flink SQLJoin案例
Flink SQLJoin案例原创 2022-07-11 10:16:59 · 214 阅读 · 0 评论 -
intervalJoin实例
intervalJoin实例原创 2022-07-11 10:15:35 · 159 阅读 · 0 评论 -
Flink 状态编程 广播状态(Broadcast State)案例
Flink 状态编程 广播状态(Broadcast State)案例原创 2022-07-11 10:12:23 · 278 阅读 · 0 评论 -
Flink的广播流状态实例
Flink的广播流状态实例原创 2022-07-11 08:59:27 · 807 阅读 · 0 评论 -
Flink获取最大值
Flink获取最大值原创 2022-06-29 08:49:34 · 886 阅读 · 0 评论 -
广播机制 案例
广播机制 案例原创 2022-06-26 07:25:28 · 234 阅读 · 0 评论 -
ListState之每10秒输出一次用户信息
ListState之每10秒输出一次用户信息原创 2022-06-24 07:32:05 · 116 阅读 · 0 评论 -
ListState排序
ListState排序原创 2022-06-24 07:18:53 · 294 阅读 · 0 评论 -
coGroup DataSet数据集
coGroup DataSet数据集原创 2022-06-23 07:32:49 · 110 阅读 · 0 评论 -
Flink迟到数据输出到测输出流
Flink迟到数据处理原创 2022-06-14 08:05:21 · 688 阅读 · 0 评论 -
线程池工具类
线程池工具类原创 2022-06-12 09:06:05 · 107 阅读 · 0 评论 -
Flink超时数据提取
Flink超时数据提取原创 2022-06-11 10:22:51 · 228 阅读 · 0 评论 -
JdbcSink
JdbcSink原创 2022-06-11 09:51:06 · 1159 阅读 · 0 评论 -
out特殊写法
out特殊写法原创 2022-06-11 08:34:41 · 228 阅读 · 0 评论 -
flink设置TTL
flink中状态如果不清理就会越来越大,实际上很多状态是可以清理的,比如说我们在计算日活时,使用日期作为key划分流,为了过滤掉重复的用户,在每个key内都维护了一个MapState。而我们实际上只关注当前日期的日活(因为之前的日活我们已经知道了),所有可以将之前日期的状态都清理。手动清理很麻烦,我们可以为状态设置超时时间,当超过这个时间之后,flink会自动清除这些数据:...原创 2022-06-11 06:46:30 · 2155 阅读 · 0 评论 -
Flink_SQL_Union
Flink_SQL_Union原创 2022-06-09 10:54:57 · 412 阅读 · 0 评论 -
去掉JSON字符串中的转义字符
去掉JSON字符串中的转义字符原创 2022-06-06 18:15:17 · 5035 阅读 · 0 评论 -
Flink表中模式匹配
####官网地址:https://nightlies.apache.org/flink/flink-docs-release-1.12/zh/dev/table/streaming/match_recognize.html####我们有实时的机房温度监控数据,机房温度过高会触发告警。我们想知道每个机房每次告警的起止时间和平均温度等数据#导入依赖:<dependency> <groupId>org.apache.flink</groupId>原创 2022-05-31 14:58:37 · 379 阅读 · 0 评论 -
Flink分区策略
import org.apache.flink.api.common.functions.Partitioner;import org.apache.flink.api.java.functions.KeySelector;import org.apache.flink.streaming.api.datastream.DataStreamSource;import org.apache.flink.streaming.api.environment.StreamExecutionEnvironme.原创 2022-05-31 09:41:33 · 193 阅读 · 0 评论 -
MySQLSink
import org.apache.flink.streaming.api.datastream.DataStreamSource;import org.apache.flink.connector.jdbc.JdbcConnectionOptions;import org.apache.flink.connector.jdbc.JdbcExecutionOptions;import org.apache.flink.connector.jdbc.JdbcSink;import org.apach.原创 2022-05-31 09:24:13 · 359 阅读 · 0 评论 -
connect算子案例
connect:可以连接相同数据类型的两种流,也可以连接不同数据类型的两种流public class ConnectDemo { public static void main(String[] args) throws Exception { // 创建执行环境 StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.s原创 2022-05-30 15:23:38 · 141 阅读 · 0 评论 -
Flink开启本地运行环境
// Flink 开启本地运行环境object Demo002 { def main(args: Array[String]): Unit = { val con: Configuration = new Configuration() con.setLong("hadoop102",9999) val env: StreamExecutionEnvironment = StreamExecutionEnvironment.createLocalEnvironmentWith.原创 2022-05-30 14:58:12 · 308 阅读 · 0 评论 -
Flatmap三大功能
1,压平切分:2,转换数据结构:3,过滤:因为flatmap的返回值是void,所以数据可以直接写出去 //TODO 3.将数据转换为JSON对象 SingleOutputStreamOperator<JSONObject> jsonObjDS = pageStringDS.map(JSON::parseObject); //TODO 4.过滤数据,只需要访问主页跟商品详情页的数据 SingleOutputStreamOperat原创 2022-05-28 08:50:58 · 1069 阅读 · 0 评论 -
JavaBean示例
JavaBean示例原创 2022-09-30 14:20:06 · 86 阅读 · 0 评论 -
Log4j配置文件
log4j.appender.stdout=org.apache.log4j.ConsoleAppenderlog4j.appender.stdout.target=System.outlog4j.appender.stdout.layout=org.apache.log4j.PatternLayoutlog4j.appender.stdout.layout.ConversionPattern=%d{yyyy-MM-dd HH:mm:ss} %10p (%c:%M) - %m%nlog4j.roo.原创 2022-05-27 10:22:13 · 86 阅读 · 0 评论 -
TimestampLtz3CompareUtil
package com.cnic.utils;import java.util.Comparator;public class TimestampLtz3CompareUtil { public static int compare(String timestamp1, String timestamp2) { // 数据格式 2022-04-01 10:20:47.302Z // 1. 去除末尾的时区标志,'Z' 表示 0 时区 Stri.原创 2022-05-27 10:15:48 · 299 阅读 · 0 评论 -
ThreadPoolUtil
package com.cnic.utils;import lombok.SneakyThrows;import java.util.concurrent.LinkedBlockingDeque;import java.util.concurrent.ThreadPoolExecutor;import java.util.concurrent.TimeUnit;public class ThreadPoolUtil { private static ThreadPoolExecu.原创 2022-05-27 10:14:33 · 314 阅读 · 0 评论 -
MySQL工具类
package com.cnic.utils;public class MysqlUtil { public static String getBaseDicLookUpDDL() { return "create table `base_dic`( " + " `dic_code` string, " + " `dic_name` string, " + " `.原创 2022-05-27 10:13:02 · 346 阅读 · 0 评论 -
Kafka工具类
package com.cnic.utils;import org.apache.flink.api.common.serialization.SimpleStringSchema;import org.apache.flink.api.common.typeinfo.BasicTypeInfo;import org.apache.flink.api.common.typeinfo.TypeInformation;import org.apache.flink.streaming.connect.原创 2022-05-27 10:10:43 · 387 阅读 · 0 评论 -
ClickHouse工具类
package com.cnic.utils;import com.atguigu.bean.TransientSink;import com.atguigu.common.GmallConfig;import lombok.SneakyThrows;import org.apache.flink.connector.jdbc.JdbcConnectionOptions;import org.apache.flink.connector.jdbc.JdbcExecutionOptions;i.原创 2022-05-27 10:09:28 · 547 阅读 · 0 评论 -
KeywordUtil
package com.cnic.utils;import org.wltea.analyzer.core.IKSegmenter;import org.wltea.analyzer.core.Lexeme;import java.io.IOException;import java.io.StringReader;import java.util.ArrayList;import java.util.List;public class KeywordUtil { publi.原创 2022-05-27 10:06:06 · 143 阅读 · 0 评论 -
JedisUtil
package com.cnic.utils;import redis.clients.jedis.Jedis;import redis.clients.jedis.JedisPool;import redis.clients.jedis.JedisPoolConfig;public class JedisUtil { private static JedisPool jedisPool; private static void initJedisPool() { .原创 2022-05-27 10:04:20 · 179 阅读 · 0 评论