【Flink】(二)Flink on Yarn模式启动Flink集群

【Flink】【第三章 Flink运行模式】 Flink on Yarn Yarn模式 在yarn模式下,启动flink集群之前要启动yarn和hadoop 以Yarn模式部署Flink任务时,要求Flink有Hadoop支持的版本。Flink1.10要求Hadoop环境需要保证版本在2.2以上,并且集群中安装有HDFS服务。 yarn模式,将flink集群部署在yarn集群上,用yarn的ResourceManager负责flink集群的资源调度。 1.Flink on Yarn的两种模式说明 Flink on yarn有两种运行模式:Session-Cluster和Per 阅读详情

Flink on Yarn模式启动Flink集群

模式名称描述
Session模式初始化时就创建一个集群,动态创建TaskManager
Yarn Per Job根据提交的任务,动态创建集群

准备环境

在开始Flink On Yarn模式之前,请确保Hadoop集群搭建完成,Flink已经配置完成
参考下面文章:
Hadoop集群搭建
Flink集群搭建

修改环境变量

vi /etc/profile
#Hadoop Environment
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin
source /etc/profile

启动

yarn-session

./bin/yarn-session.sh

启动成功后,可以看到输出了WebUI的地址
在这里插入图片描述
访问WebUI可以看到任务的TaskManger的数量为0
在这里插入图片描述
提交任务之后,这个的TaskManger就会根据任务的需要动态创建需要的资源

per job

bin/flink run -d -t yarn-per-job -c com.han.flinkdemo.FlinkDemoApplication flink-demo-0.0.1-SNAPSHOT.jar

参数解释

-d 后台运行
-t 运行模式
-c 运行主类

在这里插入图片描述
在resouceManger界面可以看到运行的程序

大数据-玩转数据-FLINK(Yarn模式)的安装与部署 在这些容器上,Flink 会部署JobManager 和 TaskManager 的实例,从而启动集群。一个Job会对应一个Flink集群,每提交一个作业会根据自身的情况,都会单独向yarn申请资源,直到作业执行完成,一个作业的失败与否并不会影响下一个作业的正常提交和运行。内存集中管理模式:在Yarn中初始化一个Flink集群,开辟指定的资源,之后我们提交的Flink Jon都在这个Flink yarn-session中,也就是说不管提交多少个job,这些job都会共用开始时在yarn中申请的资源。 阅读详情

相关推荐

Flink系列三:Flink架构、独立集群搭建及Flink on YARN模式详解

Flink架构,Flink独立集群搭建与使用,Flink on yarn的三种部署模式(Application,Per-Job Cluster,Session )

weixin_52134189的博客 3969

flink on yarn集群部署模式

介绍YARN 上部署的过程是:客户端把 Flink 应用提交给 Yarn 的ResourceManager, Yarn 的 ResourceManager 会向 Yarn 的 NodeManager 申请容器。在这些容器上,Flink 会部署JobManager 和 TaskManager 的实例,从而启动集群。Flink 会根据运行在 JobManger 上的作业所需要的 Slot 数量动态分配TaskManager 资源。集群部署模式分为1.会话模式2.单作业模式3.应用模式。

m0_73814022的博客 1889

Flink 搭建 - Flink On Yarn 集群模式

Flink 搭建 - Flink On Yarn 集群模式模式说明安装准备安装配置启动测试(Session模式)启动测试(Job 分离模式) Apache Flink 1.10 Documentation 模式说明 将 Flink 的 jar 包提交在 yarn 集群中,由 yarn 集群调度执行,所以我们只需要在 1 台服务器中解压 Flink 安装包就可以,其本质仅仅只是为了提交 Flink 应用到 yarn 集群中 Flink On Yarn 的两种运行模式 ① Session 会话模式 特点:需要事

半吊子Kyle的博客 1万+

hdfs通过接口退出安全模式_flink的yarn模式部署

1、yarn cluster 模式部署介绍mr和spark都可以基于yarn模式部署,flink也不例外,生产中很多也基于yarn模式部署。flink的yarn模式部署也分为两种方式,一种是yarn-session,一种是yarn-per-job。大致如下图:2、flink session HA模式需要先启动集群,然后在提交作业,接着会向yarn申请一块资源空间后,资源永远保持不变。如果资源满了,...

weixin_39591455的博客 471

Flink On Yarn模式配置

Flink On Yarn模式配置Flink On Yarn模式配置引言一、安装JDK二、安装Hadoop三、安装Zookeeper四、安装Flink Flink On Yarn模式配置 引言 ​ Flink依靠Yarn来实现高可用,由于Yarn依赖于Hadoop,而Hadoop又依赖于Jdk。 ​ 准备三台机器 ​ 1.1.1.1 node1 ​ 1.1.1.2 node2 ​ 1.1.1.3 node3 一、安装JDK 1. 下载解压 tar -xvf jdk-8u271-linux-x64.tar

weixin_44378305的博客 1万+

Flink实战——Yarn运行模式部署

会话模式下的相关Linux操作命令见下方:1. 开启Yarn会话命令(会话模式需要单独开启一个YARN会话2.命令行提交作业命令com.DemoDemo.jar其中,红色标注字体为用户根据实际情况所设定的类名和Jar包名。

m0_46332441的博客 2906

Flink on Yarn模式部署

独立(Standalone)模式由 Flink 自身提供资源,无需其他框架,这种方式降低了和其他第三方资源框架的耦合性,独立性非常强。但我们知道,Flink 是大数据计算框架,不是资源调度框架,这并不是它的强项;所以还是应该让专业的框架做专业的事,和其他资源调度框架集成更靠谱。而在目前大数据生态中,国内应用最为广泛的资源管理平台就是 YARN 了。所以接下来介绍的是 YARN 平台上 Flink 是如何集成部署的。整体来说,YARN 上部署的过程是:客户端把 Flink 应用提交给 Yarn 的Resour

陈小哥cw 8733

Flink on YARN的第三种部署模式:Application Mode

前言 短文状态继续。 长久以来,在YARN集群中部署Flink作业有两种模式,即Session Mode和Per-Job Mode,而在Flink 1.11版本中,又引入了第三种全新的模式:Application Mode。本文先回顾两种传统模式的做法与存在的问题,再简要介绍Application Mode。 传统部署模式 Session模式 Session模式是预分配资源的,也就是提前根据指定的...

LittleMagic's Blog 6282

Flink on Yarn的两种模式

Flink on Yarn模式部署始末:Flink的Standalone和on Yarn模式都属于集群运行模式,但是有很大的不同,在实际环境中,使用Flink on Yarn模式者居多。 那么使用on yarn模式到底好在哪呢? 首先,在集群运行时,可能会有很多的集群实例包括MapReduce、Spark、Flink等等,那么如果它们全基于on Yarn就可以完成资源分配,减少单个实例集群的维护,提高集群的利用率。 Flink o...

yang灬仔 1万+

flink on yarn提交任务的两种方式

flink on yarn提交任务的两种方式 flink on yarn 有两种提交方式: (1)、启动一个YARN session(Start a long-running Flink cluster on YARN); (2)、直接在YARN上提交运行Flink作业(Run a Flink job on YARN)。 简单bb两句,其实很好理解,一种是yarn-cl...

阿尼古 1万+

flink实战--flink on yarn

Flink on yarn 配置 如果我们打算把flink任务提交到yarn上,那么只需要一台flink客户机即可,但是需要有如下的配置 第一步:设置HADOOP_CONF_DIR环境变量 export HADOOP_CONF_DIR=/usr/local/service/hadoop/etc/hadooop/ 注意:如果在flink的配置文件中设置Hadoop的环境变量,......

阿华田的博客 6071

Flink 提交到 Yarn的两种模式

Flink on Yarn 模式的原理是依靠 YARN 来调度 Flink 任务,目前在企业中使用较多。 这种模式的好处是可以充分利用集群资源,提高集群机器的利用率,并且只需要 1 套 Hadoop 集群,就可以执行 MapReduce 和 Spark 任务,还可以执行 Flink 任务等,操作非常方便,不 需要维护多套集群,运维方面也很轻松。Flink on Yarn 模式需要依赖 Hadoop 集群,并且 Hadoop 的版本需要是 2.2 及以上。 Flink On Yarn 的内部实现原理: 当

yqqの博客 4872

scGPT-spatial 复现

文章摘要:Spatial scGPT项目复现流程 本文详细介绍了复现Spatial scGPT项目的完整流程,包含数据预处理、模型训练等关键步骤。首先需要使用scanpy加载H5AD文件并进行归一化、对数变换等预处理。然后构建基因词汇表(vocab),提取基因表达值和空间坐标信息。接着使用DataCollator进行数据分箱、掩码和填充处理。最后搭建TransformerModel进行训练。文章特别指出了需要自行补全的缺失部分,包括基因词汇表构建、空间坐标提取、数据集类定义和训练主循环脚本等。作者还提供了详

victory0431的博客 1683

flink on yarn集群搭建

环境需求 CentOS7.5.1804、jdk1.8.0_181、zookeeper3.6.2、hadoop3.2.2、flink1.12.2 关于hadoop的安装细节请查看《hadoop3.2.2集群搭建》 集群部署 下载flink-1.12.2的安装包,下载地址:https://archive.apache.org/dist/flink/flink-1.12.2/,如下图 下载scala-2.12.13的安装包,下载地址:https://scala-lang.org/download/2.12.

LW_ICE 6750

postman响应体:“msg“: “请求缺失签名Sign“、 “msg“: “请求缺失时间戳“

请求标头有Sign、Timestamp,但是直接将网址复制到postman时,Headers没有自动生成这两个参数,所以运行时会报错。

m0_46862648的博客 1706

Plant Simulation新手入门:5步搞定生产线物流仿真(附模型库使用技巧)

本文为Plant Simulation新手提供了从零开始构建生产线物流仿真的五步入门指南。通过理念重塑、流程规划、对象连接、参数设置到数据分析的完整流程,帮助用户快速掌握这一强大仿真工具的核心逻辑。文章特别强调了模型库的高效使用技巧,助力工程师在虚拟环境中精准模拟和优化生产系统,提升规划效率。

efc123456的博客 333

Flink源码解析之:Flink On Yarn模式任务提交部署过程解析

Flink源码解析之:Flink On Yarn模式任务提交部署过程解析

大数据开发、JAVA开发、人工智能AI 2780

Apple CarPlay Certification Guide December 2022 解析V1.0

Apple CarPlay Certification Guide December 2022更新说明

m0_74450450的博客 703

基于Flink1.8的Flink On Yarn的启动流程

基于Flink1.8版本,分析 On Yarn模式的任务提交过程: 明确提交模式:Job模式和Session模式 分析启动命令,确定Main方法入口

super_wj0820的博客 5766

ESP32-P4实战:LVGL V9.4 PPA加速配置与性能对比

本文详细介绍了如何在ESP32-P4平台上配置LVGL V9.4的PPA硬件加速功能,通过启用PPA加速显著提升图形处理性能并降低CPU占用率。文章包含环境准备、配置步骤、性能对比及常见问题解决方案,帮助开发者高效利用ESP32-P4的PPA加速器优化嵌入式GUI应用。

rice5的博客 1189

【赛题解析&命令脚本配置】2023年全国职业院校技能大赛GZ073网络系统管理赛项赛题第1套模块A:网络构建 & (五)无线网络配置+(六)出口网络配置-命令配置

【赛题解析&命令脚本配置】2023年全国职业院校技能大赛GZ073网络系统管理赛项赛题第1套模块A:网络构建 & (五)无线网络配置+(六)出口网络配置-命令配置

君逍遥o 408

Flink集群安装和部署之Flink On Yarn

文章目录一、Session-Cluster模式(yarn-session)二、Pre-Job-Cluster模式(yarn-cluster)   Flink on Yarn 模式的原理是依靠 YARN 来调度 Flink 任务,目前在企业中使用较多。这种模式的好处是可以充分利用集群资源,提高集群机器的利用率,并且只需要1套Hadoop集群,就可以执行 MR和 Spark 任务,还可以执行 Flink 任务等,操作非常方便,不需要维护多套集群,运维方面也很轻松。Flink on Yarn 模式需要依赖 Had

chbxw 7860

人工智能大语言模型微调技术:SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法

人工智能大语言模型微调技术:SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法

丨汀、的博客 4万+

flink1.10三节点集群之yarn-session模式

提前搭建Hadoop集群环境,可以参考这篇文章。 本文章的集群环境: 机器 ip 服务 flink1 172.21.89.128 flink2 172.21.89.129 flink3 172.21.89.130 安装配置flink 安装参考这篇文章 启动一个yarn session(分配1g的jobmanager和4g的taskmanager) [root@flink1 flink-1.10.0]# ./bin/yar...

ASN_forever的博客 1万+

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

Flink 集群搭建(基于flink on YARN模式)

基于Flink on YARN的flink集群规划 主机名 IP 说明 centoshadoop1 192.168.227.140 StandaloneSessionClusterEntrypoint(主节点进程名称) centoshadoop2 ...

天涯芳草 6482

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

上一篇: 【Hadoop】Hadoop(一)3.2.4集群搭建
下一篇: 【VisualVm】使用VisualVm排查线上故障导致服务不可用
JeffHan^_^
博客等级 码龄7年 1万+粉丝 134原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

JeffHan^_^

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值