flink配置

本文介绍Apache Flink集群的基本操作命令,如启动、停止、列出任务等,并展示了关键配置参数,适用于Flink集群管理和故障排查。

./bin/flink list 列出计划和正在运行的job
./bin/flink list -s 列出预定job
./bin/flink list -r 列出正在运行的job
./bin/flink list -m yarn-cluster -yid -r 列出在YARN 中运行的job
./bin/flink cancel 通过jobID取消job
./bin/flink stop 通过jobID停止job

env.log.dir: /var/log/flink
high-availability.cluster-id: cluster_yarn
high-availability.storageDir: hdfs:///user/flink/ha
high-availability.zookeeper.path.root: /flink
jobmanager.heap.size: 1024m
rest.port: 8081
security.kerberos.login.keytab:
security.kerberos.login.principal:
security.kerberos.login.use-ticket-cache: false
state.checkpoints.dir: hdfs:///user/flink/cluster_yarn/checkpoints
state.savepoints.dir: hdfs:///user/flink/cluster_yarn/savepoints
streaming.mode: true
taskmanager.heap.size: 1024m
taskmanager.numberOfTaskSlots: 1
yarn.application-attempts: 10
yarn.taskmanagers: 1
high-availability: zookeeper
high-availability.zookeeper.quorum: hadoop102:2181,hadoop103:2181,hadoop104:2181

./flink run -m yarn-cluster -d /home/atguigu/flink-12-test-1.0-SNAPSHOT-shaded.jar -c test.Mytest -yjm 1024m -ytm 1024m
/etc/hadoop/conf.cloudera.yarn/yarn-site.xml

Flink 配置 Nacos 主要用于动态管理 Flink 集群中的配置信息。Nacos 是一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。通过将 Flink 配置信息存储在 Nacos 中,可以实现配置的动态更新而无需重启集群。 以下是使用 Nacos 管理 Flink 配置的基本步骤: 1. 首先需要在 Nacos 中创建相应的配置文件,包括 Flink配置项,如任务管理器(TaskManager)的数量、资源等。 2. 在 Flink配置文件 `flink-conf.yaml` 中添加 Nacos 相关的配置项,例如 Nacos 的地址、命名空间、配置分组以及数据ID等。 3. Flink 程序启动时会读取 `flink-conf.yaml` 中的配置,并连接到 Nacos 服务器拉取配置信息。 4. 当需要更新配置时,可以直接在 Nacos 控制台中修改配置Flink 集群会实时感知到配置的变化,并自动加载新的配置。 这里是一个简化的 `flink-conf.yaml` 文件配置示例: ```yaml # Nacos 配置项 nacos.server-addr: 127.0.0.1:8848 nacos.namespace: f28a599b-7733-4e7f-b787-76e6c8d5d5d5 nacos.group: DEFAULT_GROUP nacos.dataId: flink-config ``` 在程序中,可以通过 Flink配置对象 `Configuration` 来访问这些配置: ```java Configuration config = new Configuration(); String nacosServerAddr = config.getString("nacos.server-addr"); String nacosNamespace = config.getString("nacos.namespace"); String nacosGroup = config.getString("nacos.group"); String nacosDataId = config.getString("nacos.dataId"); // 使用获取到的 Nacos 配置信息连接到 Nacos 服务器获取实时配置 ``` 通过以上步骤,Flink 集群的配置就可以通过 Nacos 进行动态管理了。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值