flink可配置参数

一、checkpoint和savepoint相关参数

1. execution.checkpointing.enabled:

作用:指定是否启用作业的检查点(checkpoint)机制。
可设置的值:true(启用)或 false(禁用)
	
	(1) true(启用)

		a. state.checkpoints.num-retained:

		作用:设置要保留的检查点数量。
		可设置的值:正整数,表示要保留的检查点数量。

		b. execution.checkpointing.interval:

		作用:设置检查点之间的时间间隔。
		可设置的值:时间间隔,例如 "5000 ms"(5秒),"1 min"(1分钟)。

		c. execution.checkpointing.externalized-checkpoint-retention:

		作用:设置外部化检查点的保留策略。
		可设置的值:如下两种选项之一
		"RETAIN_ON_CANCELLATION":作业取消时会保留检查点。
		"DELETE_ON_CANCELLATION":作业取消时将删除所有检查点。

二、重启策略相关参数

1. restart-strategy(重启策略):

作用:指定重启策略的类型。
可设置的值:fixed-delay(固定延迟重启策略)或 failure-rate(故障率重启策略)。
	
	(1) fixed-delay(固定延迟重启策略)

		a. restart-strategy.fixed-delay.attempts(固定延迟重启策略的最大重试次数):

		作用:指定最大的重试次数。
		可设置的值:一个正整数,表示最大重试次数。默认值为 Integer.MAX_VALUE(无限次重试)。

		b. restart-strategy.fixed-delay.delay(固定延迟重启策略的重试延迟时间):

		作用:指定两次重试之间的延迟时间。
		可设置的值:一个正整数,表示延迟时间(以毫秒为单位)。默认值为 0。

	(2) failure-rate(故障率重启策略)

		a. restart-strategy.failure-rate.delay(故障率重启策略的延迟间隔):

		作用:指定两次故障之间的最小时间间隔。
		可设置的值:一个正整数,表示时间间隔(以毫秒为单位)。默认值为 10000 (10 秒)。

		b. restart-strategy.failure-rate.failure-rate-interval(故障率重启策略的计算窗口大小):

		作用:指定计算故障率的时间窗口大小。
		可设置的值:一个正整数,表示时间窗口大小(以毫秒为单位)。默认值为 300000 (5 分钟)。

		c. restart-strategy.failure-rate.max-failures-per-interval(故障率重启策略的每个窗口内最大故障次数):

		作用:指定每个时间窗口内允许的最大故障次数。
		可设置的值:一个正整数,表示最大故障次数。默认值为 1。
Flink的安装目录下,主要有以下几个配置文件: 1. flink-conf.yaml:该文件是Flink的主要配置文件,用于设置Flink的全局配置。 2. 日志的配置文件:用于配置Flink的日志打印格式、级别等相关参数。 3. zk配置:用于配置Flink与ZooKeeper的连接信息,以便Flink可以使用ZooKeeper来实现高可用和容错机制。 4. Flink SQL Client配置:用于配置Flink SQL客户端的相关参数,如连接信息、默认目录等。 除了以上配置文件,根据table程序的需要,还可以通过配置一些必要的参数来优化表操作。举个例子,对于无界流程序,可能需要确定必要的状态大小上限。 在Java代码中,可以使用TableEnvironment的getConfig()方法获取Flink配置对象,然后通过配置对象的setString()方法来设置底层的键值对配置。例如,可以通过以下方式设置mini-batch优化相关配置参数: ```java // 实例化table environment TableEnvironment tEnv = ...; // 访问flink配置 Configuration configuration = tEnv.getConfig().getConfiguration(); // 设置底层key-value配置 configuration.setString("table.exec.mini-batch.enabled", "true"); // 开启mini-batch优化 configuration.setString("table.exec.mini-batch.allow-latency", "5 s"); // 缓存输入数据5秒 configuration.setString("table.exec.mini-batch.size", "5000"); // 每个聚合操作任务可以缓存的最大数据条数为5000条 ``` 通过以上配置,可以启用mini-batch优化,并设置相应的缓存参数,以提高表操作的性能和效率。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [Flink 从 0 到 1 学习 —— Flink 配置文件详解](https://blog.youkuaiyun.com/tzs_1041218129/article/details/101104375)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [flink-sql查询配置与性能优化参数详解-1.14](https://blog.youkuaiyun.com/u012443641/article/details/127900815)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值