
Flink
文章平均质量分 75
大数据
越奋斗,越幸运
当你遇到困难时,你会如何去面对, 这将会决定你的人生最终能够走多远!
展开
-
18.Flink开发笔记三
Flink开发笔记三1. 表2. 更新模式3. 输出到mysql4. 动态表转换成DataStream5. 时间特性6. 窗口6.1. 案例7. 函数7.1. 一对一,scalar函数1. 表2. 更新模式3. 输出到mysql4. 动态表转换成DataStream5. 时间特性6. 窗口6.1. 案例package com.xiaofan.apitest.tabletestimport com.xiaofan.apitest.source.SensorR原创 2021-04-21 12:01:48 · 367 阅读 · 0 评论 -
17.Flink开发笔记二
Flink开发笔记二1. WindowFunction2. Watermark2.1. 分布式的Watermark2.2. DataStream和其他流之间的转换2.3. Window的抽象概念2.4. Window Trigger2.5. Window Evictor2.6. 1.11版本Watermark写法3. State 状态管理3.1. 算子状态(operator state)3.2. 键控状态(keyed state)3.3. 状态编程4. ProcessFunction API(底层 API)原创 2021-04-20 16:23:40 · 587 阅读 · 0 评论 -
16.Flink开发笔记一
Flink开发笔记1. pom.xml2. 并行度优先级问题3. wordcount再standalone结点(默认配置)提交资源不足的问题集群提交常用命令1. pom.xml<properties> <maven.compiler.source>8</maven.compiler.source> <maven.compiler.target>8</maven.compiler.target> <flink.versio原创 2021-04-16 18:53:52 · 438 阅读 · 0 评论 -
15.Idea搭建Flink项目Java和Scala混合项目
Flink实战1. 创建项目步骤2. 添加pom.xml3. 编写代码进行测试1. 创建项目步骤安装scala 2.11.8在idea中安装scala插件,并且导入scala创建普通的maven项目,创建scala相关文件夹,并且标记source 和 test给这个module添加scala依赖2. 添加pom.xml<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache原创 2021-03-03 16:29:55 · 992 阅读 · 1 评论 -
14.Flink1.11 安装部署及Release 文档解读
Flink1.11 安装部署及Release 文档解读1. [Flink 1.11 Release 文档解读](https://ci.apache.org/projects/flink/flink-docs-release-1.11/release-notes/flink-1.11.html)1.1. 集群和部署1.2. 内存管理1.3. Table API/SQL1.4. 状态1.5. Connectors1.6. Runtime1.7. 各种接口变更1.x. 参考链接2. [构建安装部署](https:原创 2020-08-03 18:28:07 · 1809 阅读 · 11 评论 -
12. 离线处理之业务数据采集、生成用户画像、推广效果分析以及知识点总结
离线处理之业务数据采集、生成用户画像、推广效果分析以及知识点总结1. 业务数据采集1.1. 后台通过`logback`把业务接口日志写入到本地文件1.1.1. logback配置文件1.1.2. 拦截器当中记录接口日志1.1.3. 本地日志目录1.2. 通过Flume采集数据到Kafka1.3.2. 生成用户画像3. 推广效果分析4. 知识点总结4.1. Tomcat4.1.1. [Tomcat使用详细教程](https://blog.youkuaiyun.com/weixin_39657319/article/det原创 2020-07-21 18:37:07 · 2026 阅读 · 0 评论 -
11.Flink ProcessFunction介绍及KeyedProcessFunction实例
Flink ProcessFunction介绍及KeyedProcessFunction实例1. ProcessFunction简介2. KeyedProcessFunction简单使用2.1. [Java版本](https://github.com/fanjianhai/flink_project_maven_repository.git)2.2. [Scala版本]()(`代码非常简洁`)3. 参考链接4. 寄语:心静一切皆美,情深万象皆深1. ProcessFunction简介转换算子是无法访问原创 2020-07-08 11:36:09 · 4898 阅读 · 0 评论 -
10. logback详解,Flink流处理案例及Hive和Hbase的整合
logback详解1. [logback的使用和logback.xml详解](https://www.cnblogs.com/warking/p/5710303.html)1.1. 按指定间隔滚动生成日志文件1.2. [logback指定某一包或者类下日志记录到不同文件中](https://blog.youkuaiyun.com/philip502/article/details/105268526/)1.3. [logback按日期和大小切分日志](https://blog.youkuaiyun.com/itjavaer/art原创 2020-06-08 11:50:50 · 18563 阅读 · 0 评论 -
9. Blink了解,任务调度工具azkaban,sbt下载jar包慢的原因,日志记录logback使用(sbt依赖排除)
Flink源码分析1. [Blink的初使用](https://www.jianshu.com/p/4f59e512b178)1. Blink的初使用注意: blink和flink的用法和部署差不多,只是底层做了优化,里面已经兼容了各个版本的hadoop了...原创 2020-05-08 18:22:18 · 512 阅读 · 0 评论 -
8.sql和hsql以及flink-sql总结
文章目录1. SQL1.1. 初始化操作1.2. 数据定义语言DDL(==Data Definition Language==)1.3. 数据操纵语言DML(==Data Manipulation Language==)1.4. 数据查询语言DQL(==Data Query Language==)1.5. 数据控制语言DCL(==Data Control Language==)2. HQL3. F...原创 2020-04-03 19:54:09 · 1844 阅读 · 1 评论 -
7. Flink on yarn模式部署以及flink和hive的集成
文章目录1. Flink Yarn 模式高可用性配置1. Flink Yarn 模式高可用性配置本次采用自编译(基于Flink-1.10,hadoop-2.9.2)搭建集群Flink高可用集群搭建启动集群时遇到的错误错误一java.lang.NoSuchMethodError: org.apache.commons.cli.Option.builder(Ljava/lang/St...原创 2020-03-29 18:21:48 · 2926 阅读 · 1 评论 -
6. Flink编译及其相关软件的安装部署
文章目录1. Flink DataSet语义注解1.1. ForwardedFields转发字段1.1.1. 单输入算子转发字段1.1.2. 双输入算子转发字段1.2. Read Fields(读取字段注解)2. [Flink 1.10源代码编译,基于Flink release-1.10分支](https://blog.youkuaiyun.com/m0_37690267/article/details/1...原创 2020-03-17 18:18:43 · 1718 阅读 · 0 评论 -
5.Flink对接Kafka入门
Flink Connector Kafka1. Kafka1.1. [Kafka官网](http://kafka.apache.org/)1.2. Kafka 简述1.3. Kafka特性1.4. kafka的应用场景2. Kafka与Flink的融合3. 寄语:海阔凭鱼跃,天高任鸟飞1. Kafka1.1. Kafka官网1.2. Kafka 简述Kafka 是一个分布式消息系统:...原创 2020-03-10 20:11:30 · 12420 阅读 · 0 评论 -
4.Flink水印机制测试及状态介绍
Flink DataStream API 编程指南目录1. 概览2. Event Time and Watermarks2.1. [EventTime时间模型](https://www.jianshu.com/p/c39f224ec39f)2.2. 水印测试2.3. 延迟测试2.4. [再谈Flink事件时间、水印和迟到数据处理](https://www.jianshu.com/p/c612e95...原创 2020-03-06 18:20:02 · 647 阅读 · 0 评论 -
Spark和Flink当中的常用算子详解
文章目录1. Transformation算子2. Action算子1. Transformation算子2. Action算子原创 2020-03-06 11:40:02 · 1389 阅读 · 1 评论 -
3. Flink集群配置文件以及日志系统概述
文章目录1. 常用Scope区别2. [Flink集群搭建](https://www.jianshu.com/p/c47e8f438291)2.1. 独立集群2.2. yarn集群2.3. 高可用HA3. [SLF4J和Logback和Log4j和Logging的区别与联系](https://www.cnblogs.com/suger43894/p/9543685.html)3.1. ==一个著名...原创 2020-03-02 17:29:57 · 2051 阅读 · 1 评论 -
2.IDEA中sbt创建Flink项目及build.sbt配置
文章目录1. Flink教程1.1. [诸葛子房的博客基础篇](https://www.cnblogs.com/zgzf/p/10794473.html)1.2. [诸葛子房的博客(新)](https://blog.youkuaiyun.com/weixin_43291055/category_9115592.html)2. Flink 定义2.1. Flink应用开发相关知识2.2. Flink基本架构原理...原创 2020-02-28 17:52:46 · 1229 阅读 · 0 评论 -
1. 初识Flink
文章目录1. [Flink官网](https://flink.apache.org/)2. Apache Flink简介1. Flink官网2. Apache Flink简介Apache Flink 是一个开源框架和分布式处理引擎,用于在无边界和有边界数据流上进行有状态的计算。Flink 能在所有常见集群环境中运行,并能以内存速度和任意规模进行计算。总述处理无界和有界数据部署应用到...原创 2020-02-24 18:00:41 · 477 阅读 · 0 评论