Flink 使用之配置与调优

端口地址

jobmanger.rpc.address jm的地址。

jobmanager.rpc.port jm的端口号。

web.port Flink web ui的端口号。

jobmanager.archive.fs.dir 将已完成的任务归档存储的目录。

history.web.port 基于web的history server的端口号。

historyserver.archive.fs.dir history server的归档目录。该配置必须包含jobmanager.archive.fs.dir配置的目录,以便history server能够读取到已完成的任务信息。

historyserver.archive.fs.refresh-interval 刷新存档作业目录时间间隔。

fs.hdfs.hadoopconf hadoop配置文件路径(已被废弃,建议使用HADOOP_CONF_DIR环境变量

yarn.application-attempts job失败尝试次数,主要是指job manager的重启尝试次数。该值不应该超过yarn-site.xml中的yarn.resourcemanager.am.max-attemps的值。

资源配置

jobmanager.heap.mb jm的堆内存大小。不建议配的太大,1-2G足够。

taskmanager.heap.mb tm的堆内存大小。大小视任务量而定。需要存储任务的中间值,网络缓存,用户数据等。

taskmanager.network.memory.max 网络缓冲区最大内存大小。

taskmanager.network.memory.min 网络缓冲区最小内存大小。

taskmanager.network.memory.fracti

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值