Flink on Yarn模式启动Flink集群
| 模式名称 | 描述 |
|---|---|
| Session模式 | 初始化时就创建一个集群,动态创建TaskManager |
| Yarn Per Job | 根据提交的任务,动态创建集群 |
准备环境
在开始Flink On Yarn模式之前,请确保Hadoop集群搭建完成,Flink已经配置完成
参考下面文章:
Hadoop集群搭建
Flink集群搭建
修改环境变量
vi /etc/profile
#Hadoop Environment
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin
source /etc/profile
启动
yarn-session
./bin/yarn-session.sh
启动成功后,可以看到输出了WebUI的地址

访问WebUI可以看到任务的TaskManger的数量为0

提交任务之后,这个的TaskManger就会根据任务的需要动态创建需要的资源
per job
bin/flink run -d -t yarn-per-job -c com.han.flinkdemo.FlinkDemoApplication flink-demo-0.0.1-SNAPSHOT.jar
参数解释
-d 后台运行
-t 运行模式
-c 运行主类

在resouceManger界面可以看到运行的程序
文章介绍了如何在Yarn上启动Flink集群,包括Session模式,该模式下集群在初始化时创建,TaskManager动态创建。另外,还提到了YarnPerJob模式,这种模式根据提交的任务动态创建集群资源。在启动FlinkonYarn时,需要先确保Hadoop集群和Flink配置完成,然后通过指定命令启动session或运行单个job。
5991

被折叠的 条评论
为什么被折叠?



