Flink学习笔记(一):为什么选择flink

Flink与RabbitMQ Connector RabbitMQ连接器许可证 Flink下的RabbitMQ连接器位于一个maven依赖” RabbitMQ AMQP Java Clien”上,由Mozilla Public License v1.1 (MPL 1.1) 许可。 Flink本身不重写” RabbitMQ AMQP Java Clien”中的源码,也不对其进行打包成二进制文件。 用户基于flink的rabbitMQ连接器(即Rab... 阅读详情

一、概述

在很多数据处理场景下,要求数据以数据流的形式进行分析和存储,然鹅er…为啥选flink呢?流处理的框架不是很多么

Q: 流处理框架有很多中,比如前面提到的spark,storm等,为什么选flink?

A: 1.flink具有高吞吐、低延迟、高性能的特性(海量数据秒级处理)

2.支持带有事件时间的窗口(Window)操作

3.持有状态计算的Exactly-once(严格/恰好一次)语义,保障状态的一致性

4.支持高度灵活的窗口(Window)操作,支持基于time、count、session,以及data-driven的窗口操作

5.一个运行时同时支持Batch on Streaming处理和Streaming处理

6.丰富的API支持,支持REST(Representational State Transfer)

7.支持机器学习(FlinkML),支持图分析(Gelly),支持关系数据处理(Table),支持复杂事件处理(CEP)

8.整合支持Flink on YARN,HDFS,Kafka,Apache HBase,Hadoop,
Tachyon
,持ElasticSearch,RabbitMQ,Apache Storm,S3,XtreemFS

文字不直观?来张图看看,是不是更清楚些了呢
在这里插入图片描述

二、场景结构

我们首先以一个场景为例,如下图所示
在这里插入图片描述

如图所示,kafka集群存储来自各个场景的日志数据,flink通过kafka接口进行消费,获取kafka的数据,flink加载分析引擎,然后通过进行数据处理,将处理完的数据写入mysql数据库中,然后通过前端展示出来。

三、应用场景

flink提供了大量的接口,我们可以方便的从数据源获取数据,处理后输出到指定的存储容器中,我们可以看一下fink的应用场景,看完是不是也跃跃欲试呢。
在这里插入图片描述

半吊子架构师,一来就想用Kafka取代RabbitMQ? 推荐阅读: 这套Github上40K+star学习笔记,可以帮你搞定95%以上的Java面试 毫不夸张的说,这份SpringBoot学习指南能解决你遇到的98%的问题 最全面试题新鲜出炉:70+算法题、近30种大厂面试笔试常考知识点 作为一个有丰富经验的微服务系统架构师,经常有人问我,“应该选择RabbitMQ还是Kafka?” 基于某些原因, 许多开发者会把这两种技术当做等价的来看待。的确,在一些案例场景下选择RabbitMQ还是Kafka没什么差别,但是这两种技术在底层实现方面是有许多差 阅读详情

相关推荐

flink cdc笔记(一):flink cdc简介

flink cdc

YiRan_Zhao的博客 3万+

flink基本原理与kafka数据处理实践

flink基本原理与kafka数据处理实践基本原理简介工作原理flink算子说明与代码解析MapFliteFlatMapKeyby分组后的聚合或数值运算Reduceflink的窗口计数窗口countWindow滚动窗口滑动窗口slidingWindowSession窗口EventTime窗口kafka数据处理实践flink数据处理流程flink处理kafka数据功能及环境说明功能说明kafka环境生产消息(Source)消息格式topic name数据处理(transformation)消息重写(sink)

m0_37516785的博客 2172

阿里巴巴为什么选择Apache Flink?

阿里妹导读:伴随着海量增长的数据,数字化时代的未来感扑面而至。不论是结绳记事的小数据时代,还是我们正在经历的大数据时代,计算的边界正在被无限拓宽,而数据的价值再也难以被计...

阿里技术 1万+

Flink Java 之 读取 kafka 数据与数据写入 kafka

序列与反序列化 kafka 数据 Flink Kafka Consumer 需要知道如何将 Kafka 中的二进制数据转换为 Java 或者 Scala 对象。KafkaDeserializationSchema 允许用户指定这样的 schema,每条 Kafka 中的消息会反序列化。 以上代码采用最简单的SimpleStringSchema。为了方便使用,Flink 提供了以下几种 schemas:TypeInformationSerializationSchema(和 Typ...

weixin_46376562的博客 3108

flink重温笔记(一):Flink 基础入门

最近发现 Flink 技术在实时数仓开发上占比越来越明显,希望通过抓紧复习,加强对 Flink 的理解和应用,提升自己实时数仓的开发能力,以下是今日整理的学习笔记,各种图像均按照自己理解重画,有疏漏的地方还请各位大佬指出,希望能和大家一起共同学习,互相进步。Tips:这是我的第一篇 优快云 博客,后续会持续分享每日学习总结和心得,2024年大家一起加油!

m0_60732994的博客 2545

GD32F427移植LiteOS-M实战:如何快速复用官方Demo进行二次开发

本文详细介绍了如何在GD32F427开发板上移植LiteOS-M操作系统,通过复用OpenHarmony官方Demo快速构建RTOS工程。文章涵盖环境搭建、芯片配置迁移、中断向量表处理和外设驱动适配等关键步骤,并提供了调试技巧和二次开发进阶建议,帮助开发者高效完成移植工作。

weixin_33736048的博客 414

【Flink介绍】为什么选择Flink?

本文总结一下项目里选择Flink的理由,还有自己当时对Flink的一些好奇~

qq_47450919的博客 1542

高校学籍管理系统(SQL Server数据库课程设计)

摘要: 高校的管理工作是一项复杂且系统化的工作。而随着当代社会积极响应国家“科教兴国”的战略。高校建设规模和招生人数每年均高不下,庞大的学生群体对高校的管理工作带来了巨大的挑战。而对学生的学籍管理工作更是高校管理工作的一个重要环节。 面对高校学生学籍信息如此庞大的数据群,如采用传统的管理模式,管理工作的效率不仅低下,而且数据错误的发生率相对较高,还会产生人力和物力上的巨大开支。面对这样的情况,开发一个高校学籍管理系统就显得尤为重要。 运用高校学籍管理系统可以大大提高高校管理工作效率、方便系统维护、减小开支、

qq_52030824的博客 7万+

为什么选择 Flink 做实时处理

我们平常开发的Java应用系统时没有状态的。Stom的实现方式。微服务架构将系统拆解成不同的独立服务模块,每个模块分别使用各自独立的数据库,这种模式解决了业务系统拓展的问题,但是也带来了新的问题,那就是业务交易数据过于分散在不同的系统中,很难将数据进行集中化管理,对于企业内部进行数据分析或者数据挖掘之类的应用,则需要通过从不同的数据库中进行数据抽取,将数据从数据库或业务系统中周期性地同步到数据仓库中,然后在数据仓库中进行数据的抽取、转换、加载(ETL),从而构建成不同的数据集市和应用,提供给业务系统使用。

程序猿进阶 5538

Raid5损坏两块盘

  以下为浪潮Inspur NF5460M4型号服务器故障处理过程: 设备raid5组损坏两块硬,并raid组处理离线状态,情况如图:     由于硬盘数据比较重要,面对此情况不要慌我们尽量做到安全保守的保证数据尽可能完整,以下为处理方法,(遇raid5两块盘出现问题处理方法)   以下截图均为遇相同问题的解决图案,并非现场截图。 Ctrl+H 进WebBios界面,发现两...

chen_lipeng的博客 2万+

使用VLC库实现视频播放器(WPF版)

使用wpf制作一个视频播放器 一、 LibVLCSharp介绍 LibVLCSharp是基于VideoLAN的LibVLC库的.NET平台的跨平台音频和视频API。它提供了一个全面的多媒体API,可以跨移动、服务器和桌面使用,以呈现视频和输出音频。支持Mono、.NET Framework和.NET核心运行时。在vs工具中,只需要安装截图中得两个nuget包。 二、视频播放器的实现 视频播放器的实现需要用到两个比较nuget包中提供的类,MediaPlayer类。MediaPlayer类型用于控

cangqiongxiaoye的博客 1万+

Flink(2):为什么选择Flink

0. 相关文章链接 1. 为什么选择Flink 1.1. 主要原因 Flink 具备统一的框架处理有界和无界两种数据流的能力 部署灵活,Flink 底层支持多种资源调度器,包括Yarn、Kubernetes 等。Flink 自身带的Standalone 的调度器,在部署上也十分灵活。 极高的可伸缩性,可伸缩性对于分布式系统十分重要,阿里巴巴双11大屏采用Flink 处理海量数据,使用过程中测得Flink 峰值可达17 亿条/秒。 极致的流式处理性能。Flink 相对于Storm 最大的特点是

yang_shibiao的博客 2151

游戏大厂射击游戏无缝大世界游戏DS服务器架构设计方案详解

摘要: 本文深入解析游戏大厂无缝大世界射击游戏的分布式服务器(DS)架构设计方案。以《和平精英》《量子特攻》为例,阐述如何通过动态分区、兴趣管理、弹性扩缩等核心技术应对高并发、低延迟、无缝切换等挑战。架构分为世界协调层、分区计算层、物理判定层等模块,结合微服务化、快照同步和Kubernetes调度,实现玩家跨区无感知迁移与一致判定。重点优化动态负载均衡、状态同步算法及容灾备份,依托分布式数据库与多云部署保障高可用性,为同类游戏提供可扩展的技术范本。(149字) 关键词: 无缝大世界、分布式服务器、动态分区、

本博客聚焦游戏开发技巧、创业实战心得及大学热门课程干货。这里既有技术深度,也有思维广度,无论你是开发者、创业者还是高校学子,都能在这里找到适合自己的成长之路! 561

Flink基础之为什么选择Flink

目录 前言: 1、连续事件处理的目标 2、流处理技术的演变 Lambda 架构概述:优势和局限性 3、初探Flink 批处理与流处理 4、为什么选择Flink 前言: 我们渴望按照流的方式处理数据,但要做好很困难;随着大规模数据在各行各业中出现,难度越来越大。这是一个属于物理学范畴的难题:在大型 分布式系统中,数据一致性和对事件发生顺序的理解必然都是有限的。伴随着方法和技术的演化...

zhangvalue的博客 1036

LVGL嵌入式GUI工程化架构与多窗口实践

嵌入式GUI开发中,LVGL作为轻量级图形库,其核心价值在于高效渲染与事件驱动机制。理解LVGL的对象树模型、资源管理机制(如RAW图像、静态字体)和屏幕生命周期,是构建稳定界面的基础。结合FreeRTOS等实时操作系统,可实现低功耗、高响应的交互体验。典型应用场景包括智能电表、HMI人机界面、工业控制面板等对内存敏感、需长期运行的设备。本文以微信式多窗口架构为范例,深入解析LVGL工程化落地的关键路径:分层目录结构、窗口模块封装、状态机式登录逻辑、TabView多页导航及图表/仪表盘动态可视化,覆盖从资源

weixin_36001279的博客 87

基于IEEE39节点系统的风力发电机组并网改造与稳定性研究

本文研究了基于IEEE39节点系统的风力发电机组并网改造与稳定性问题。首先将系统工作频率从60Hz转换为50Hz,并对同步发电机、变压器、线路和负荷参数进行相应调整。随后将30、32、34、37号节点的同步发电机替换为不同容量的永磁同步发电机(PMSG)和双馈感应发电机(DFIG),详细建立了两种风电机组的数学模型和控制策略。通过Simulink仿真验证,改造后的系统能够稳定运行并满足并网要求。研究成果为大规模风电并网系统仿真提供了参考,对提高电力系统可再生能源消纳能力具有重要意义。

huanghm88的专栏 109

为什么选择Awesome Flink?10个理由让你快速掌握Apache Flink生态系统

Apache Flink作为当今最强大的流处理框架之一,正在成为大数据领域的明星技术。然而,面对庞大的Flink生态系统,新手往往感到无从下手。这就是**Awesome Flink**的价值所在——它是一个精心整理的Apache Flink资源集合,帮助你快速掌握Flink生态系统的完整面貌。😊 [![Apache Flink生态系统资源集合](https://raw.gitcode.com/

gitblog_00458的博客 799

【学习系列】SAP RAP 8:行为定义-Authorization Control

本文介绍了SAP RAP中的授权控制实现方法,主要分为读取操作和修改操作两种场景。读取操作通过ABAP CDS的数据控制语言(DCL)实现,使用访问控制对象限制数据可见范围;修改操作则通过行为定义中的权限检查,包括全局授权、实例授权和预检查三种方式。文章详细说明了如何使用DCL创建访问控制规则,并通过实例演示了全局授权和实例授权的代码实现方法,以及预检查功能在数据更新前的权限验证。这些授权控制机制共同确保用户只能访问和操作其权限范围内的数据,有效保障系统安全性。

DeveloperMrMeng的博客 432

Flink初探-为什么选择Flink

参考文章:Flink初探-为什么选择Flink 本文主要记录一些关于Flink与storm,spark的区别, 优势, 劣势, 以及为什么这么多公司都转向Flink. What Is Flink 一个通俗易懂的概念: Apache Flink 是近年来越来越流行的一款开源大数据计算引擎,它同时支持了批处理和流处理. 这是对Flink最简单的认识, 也最容易引起疑惑, 它和storm和spar...

justlpf的专栏 1139

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

Flink 最锋利的武器:Flink SQL 入门和实战

一、Flink SQL 背景Flink SQL 是 Flink 实时计算为简化计算模型,降低用户使用实时计算门槛而设计的一套符合标准 SQL 语义的开发语言。自 2015...

微信搜:import_bigdata,大数据领域硬核原创作者 8万+

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

flink clickhouse_技术选型:为什么批处理我们却选择了Flink

最近接手了一个改造多平台日志服务的需求,经过梳理,我认为之前服务在设计上存在缺陷。经过一段时间的技术方案调研,最终我们决定选择使用 Flink 重构该服务。目前重构后的服务已成功经受了国庆节流量洪峰的考验,今日特来总结回顾,和大家分享一下经验。业务需求及背景在了解改造服务的需求前,我们首先要明确,要解决什么问题以及目前的服务是如何解决的。当前的业务逻辑还是比较清晰的:采集同一时段不同数据...

weixin_39737051的博客 1429

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

为什么会选择flink?

Flink 它可以处理有界的数据集、也可以处理无界的数据集、它可以流式的处理数据、也可以批量的处理数据。 Flink 是什么 ? 上面三张图转自 云邪 成都站 《Flink 技术介绍与未来展望》,侵删。 从下至上,Flink 整体结构 从下至上: 1、部署:Flink 支持本地运行、能在独立集群或者在被 YARN 或 Mesos 管理的集群上运行, 也能部署在云上。 2、运行:Flink 的核心是分布式流式数据引擎,意味着数据以一次一个事件的形式被处理。 3、API:DataS

在每次的突破中遇见更好的自己 426

Flink学习笔记

Flink 笔记记录

Cai_cai_1的博客 1058
上一篇: libinjection随笔(二):libinjection动态连接库使用
下一篇: Flink学习笔记(二):flink环境搭建以及kafka读取
胖胖的战士
博客等级 码龄18年 104粉丝 98原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值