Flink on Yarn模式启动Flink集群
模式名称 | 描述 |
---|---|
Session模式 | 初始化时就创建一个集群,动态创建TaskManager |
Yarn Per Job | 根据提交的任务,动态创建集群 |
准备环境
在开始Flink On Yarn模式之前,请确保Hadoop集群搭建完成,Flink已经配置完成
参考下面文章:
Hadoop集群搭建
Flink集群搭建
修改环境变量
vi /etc/profile
#Hadoop Environment
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin
source /etc/profile
启动
yarn-session
./bin/yarn-session.sh
启动成功后,可以看到输出了WebUI的地址
访问WebUI可以看到任务的TaskManger的数量为0
提交任务之后,这个的TaskManger就会根据任务的需要动态创建需要的资源
per job
bin/flink run -d -t yarn-per-job -c com.han.flinkdemo.FlinkDemoApplication flink-demo-0.0.1-SNAPSHOT.jar
参数解释
-d 后台运行
-t 运行模式
-c 运行主类
在resouceManger界面可以看到运行的程序