linux启动flink集群,flink1.10 Linux 集群安装

本文详细介绍了如何从官网下载Flink的jar包并部署至集群的过程。包括配置修改、脚本编写、集群启动及UI界面访问等内容。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.官网下载jar包:

8d8cba008f18c0fcb8fc9a4f651dfd7e.png

2.上传jar包并且解压:

e3bebdebdc1a809a686552dc1cdb6073.png

3.进入/flink-1.10.1/conf/flink-conf.yaml

配置修改以下参数:

1)jobmanager.rpc.address: 此处添加master节点的localhost

其余参数根据自己机器自行配置,我粘贴一下默认值和说明

2)jobmanager.heap.size:1024m  --每一个jobmanage可用的内存

3)  taskmanager.memory.process.size: 1728m --每一个taskmanager可用的内存

4)taskmanager.numberOfTaskSlots:4 --每个机器所能用的CPUs

5)io.tmp.dirs:/tmp --用于存放运算过程中的临时目录

4.进入/flink-1.10.1/conf/slaves

1)添加自己集群的slaves 例如:

192.168.1.102

192.168.1.103

192.168.1.104

5.写一个分发脚本将flink分发到各个节点。

======================================================================================

脚本:

#!/bin/bash

if[ $# -lt 1 ]

then

echo Not Enough Arguement!

exit;

fi

#2.遍历集群所有机器

for host in 此粗写你的节点例如(hadoop102 Hadoop103 Hadoop104)

do

echo =========================  $host    ================================

#3.遍历所有目录,挨个发送

for file in $@

do

#4 判断文件是否存在

if [ -e $file ]

then

#5.获取父目录

pdir=$(cd -P ${dirname $file}; pwd)

fname=${basename $file}

ssh $host "mkdir -p $pdir"

rsync -av $spdir/$fname $host:$pdir

else

echo $file does not exists!

fi

done

done

======================================================================================

6.在master上面输入启动命令开启集群:

bin/start-cluster.sh

7.访问ui界面:localhost:8081

8.关闭集群:

stop-cluster.sh

来源:https://www.cnblogs.com/laogou-idea/p/13307479.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值