Flink任务部署-deply总结

本文详细介绍了Flink作业的部署流程,包括standalone模式、application模式和Session模式(Yarn-Per-Job和ApplicationMode),以及它们之间的区别和适用场景。重点讲解了不同模式下的启动命令、资源管理、任务管理和终止操作。

Flink作业deploy

https://nightlies.apache.org/flink/flink-docs-release-1.14/docs/deployment/overview/

https://nightlies.apache.org/flink/flink-docs-release-1.13/zh/docs/deployment/resource-providers/yarn/

https://nightlies.apache.org/flink/flink-docs-release-1.13/zh/docs/deployment/cli/

命令汇总

standalone模式

# 启动命令
flink run \
			-m doitedu01:8081 \   #	-m 指定jobmanager的位置 可省略
			-p 4 \                # -p 指定并行度
			-c wordcount.StreamWordCount \
			/root/jars/myflink.jar \
			--host bigdata111 --port 6666  #自定义参数
#查看当前运行的任务:
flink list
#查看所有的任务:
flink list --all
#任务取消:
flink cancel jobid

application模式

./bin/flink run-application -t yarn-application \
    -Djobmanager.memory.process.size=2048m \
    -Dtaskmanager.memory.process.size=4096m \
    -Dyarn.provided.lib.dirs="hdfs://myhdfs/remote-flink-dist-dir" \
    hdfs://myhdfs/jars/MyApplication.jar

# List running job on the cluster
./bin/flink list -t yarn-application -Dyarn.application.id=application_XXXX_YY
# Cancel running job
./bin/flink cancel -t yarn-application -Dyarn.application.id=application_XXXX_YY <jobId>

Session模式

# 通过flink命令启动flink集群**
bin/yarn-session.sh -n 2 -s 2 -jm 1024 -tm 1024 -nm 
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

htmljsp

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值