【Flink】Flink(一)单节点启动以及集群环境启动

Flink 任务启动常用命令 flink cancel -s/--withSavepoint <path> <job_id> : 取消正在运行的job,并保存到相应的保存点。# -s,--fromSavepoint <savepointPath> : 基于savepoint保存下来的路径,进行恢复。flink modify <job_id> -p/--parallelism p : 修改job的并行度。flink list -r/--runing :列出正在运行的job。# -d,--detached : 在后台运行。 阅读详情

Flink(一)单节点启动以及集群环境启动

准备条件

在进行Flink部署之前,我们需要事先准备好以下几个条件

单节点启动

准备好前置条件之后,将flink-1.17.0-bin-scala_2.12.tgz压缩包上传到虚拟机/usr/local目录下进行解压

 tar -zxvf flink-1.17.0-bin-scala_2.12.tgz -C /usr/local

可以看到如下的目录结构
在这里插入图片描述
进入到flink目录中看下内部的结构
在这里插入图片描述
单节点启动无需做很多的修改,JobManager和TaskManager一体,所以只需要将8081管理端的端口给放开就行,放开端口有两个步骤:

  1. 关闭系统防火墙
systemctl stop firewalld
  1. 修改配置文件,修改绑定的ip
vi conf/flink-conf.yaml

将rest.bind-address: localhost给注释掉
在这里插入图片描述
保存之后,输入命令启动flink

bin/start-cluster.sh

浏览器输入虚拟机IP:8081端口访问管理端页面
在这里插入图片描述

单节点启动成功!!!

集群环境

集群环境,我们只需要在单节点的基础上额外修改一点配置就可以完成,两台三台没什么差别,我们这边就用2台来做演示,我这里配置了hosts文件,所以可以直接将我的主机名映射成IP

JobManagerTaskManager
centos1centos2
vi conf/flink-conf.yaml

配置JobManager地址,注释bind-host配置
注意这里的注释,也是很多其他博客里面没有的地方,taskManger需要与JobManger进行RPC通信,如果绑定的IP不注释,或者不指定IP,那么TaskManger无法建立连接,无法启动起来
在这里插入图片描述
继续编辑conf下的workers文件,添加上TaskManger的ip

vi conf/workers

在这里插入图片描述
接下来,将我们配置好的flink分发到centos2这台机器上

scp -p -r /usr/local/flink-1.17.0 root@centos2:/usr/local

这第二台虚拟机也同样的需要配置Java环境哦
下面启动集群

bin/start-cluster.sh

我们来看下两台机器的Java程序运行情况

centos1
在这里插入图片描述
centos2
在这里插入图片描述
再看看我们的管理界面
在这里插入图片描述

这里的Available Task Slots由于我们配置的是1个TaskManager,所有只有1,如果有2台,那这里就是2了,有兴趣的小伙伴可以试试

flink深入研究(04) flink的启动方式 Flink可以在单台机器上运行,甚至是单个Java虚拟机(Java Virtual Machine)。这种机制使得用户可以在本地测试或者调试Flink程序。Flink的启动方式总共有三种部署方式,local、standalone、Yarn。 local方式: 该方式是在Java虚拟机上运行Flink程序,或者是在正在运行程序的Java虚拟机上,像我们在IDE上直接运行就是采用的local方式,... 阅读详情

相关推荐

Flink流计算编程--Kafka+Flink整合demo

flink kafka

lmalds的专栏 4万+

Flink本地启动与集群启动

本地启动1. 下载安装包进入 Flink 官网,下载 1.13.0 版本安装包 flink-1.13.0-bin-scala_2.12.tgz,注意此处选用对 应 scala 版本为 scala 2.12 的安装包。2. 解压在 hadoop102 节点服务器上创建安装目录/opt/module,将 flink 安装包放在该目录下,并 执行解压命令,解压至当前目录。3. 启动进入解压后的目录,执行启动命令,并查看进程。 4. 访问 Web UI启动成功后,访问 http://hadoop102:8081,可

qq_59336423的博客 9837

Flink集群环境搭建(Standalone模式)

前置准备 CentOS7、jdk1.8、flink-1.10.1、hadoop-2.7.7 想要完成本期视频中所有操作,需要以下准备: Linux下jdk的安装 Scala环境搭建-视频教程 大数据常用shell脚本之分发脚本编写-视频教程 大数据常用shell脚本之ha-hadoop脚本编写-视频教程 大数据常用shell脚本之zk脚本编写-视频教程 Hadoop单机伪分布式-视频教程 Hadoop完全分布式集群环境搭建-视频教程 HA(高可用)-Hadoop集群环境搭建视频+图文教程 一、集群规划

广彐水厂 812

02 - Flink启动

1. 背景 在[01 - Flink源码编译] 文章中介绍了Flink源码如何编译,这篇文章主要介绍源码编译后的启动验证。 2. 说明 (1)Flink编译后的可执行jar包在flink-dist目录下,具体如下: 查看目录内容: a. bin目录:Flink的执行命令所在目录 c. conf目录:Flink配置文件所在的目录,主要有flink-conf.yaml(指定Flink配置)、masters(指定JobManager地址)、works(指定TaskManager地址)。 c. lib:Flin

weixin_45800556的博客 7681

3.1 快速启动Flink集群

在本实战中,我们将快速启动Apache Flink 1.13.0集群,并在Hadoop集群环境中提交作业。首先,我们会在本地下载Flink安装包并上传至云主机,解压并配置环境变量。接着,我们将启动Flink集群,通过访问Web UI进行监控管理。然后,我们会配置集群,将Flink分发到从节点,并在集群上提交作业。最后,我们将通过命令行提交作业,并在Web UI上查看任务节点的输出结果。这个过程涵盖了Flink集群的部署、配置和作业提交,为大数据处理提供了一个完整的实战经验。

howard2005的专栏 727

Flink单机和集群环境部署教程

通过以上步骤,我们成功部署了 Flink 单机和集群环境,并实现了一个简单的 Word Count 应用。Flink 提供了强大的流处理和批处理能力,可以在多种场景下处理实时数据。

闲人编程的博客 2212

Flink 配置2:Docker 部署 Flink 集群环境

基于 Docker 部署 FLink 集群环境。

北_鱼的博客 2182

案例分析|一篇文章带你看懂养鸡场智慧管理系统

养鸡场智慧管理系统是为了满足现代化养鸡业对精细化管理的需求而设计的一款专业软件。随着科技的发展和农业产业的升级,传统的手工记录和管理方式已无法满足高效、准确和实时的数据跟踪需求。本软件旨在通过集成各种功能模块,帮助养鸡场主实现从鸡苗孵化、饲养管理、饲料控制到销售结算等全链条的智能化操作。该系统的核心目标是提升养鸡场的运营效率和盈利能力,通过自动化数据处理,减少人工误差,节省时间和精力。例如,孵化报表和记录模块可以帮助管理者实时监控孵化过程,及时调整策略;

muyu2980的专栏 930

快速入门Flink(2)——Flink集群环境搭建(3台节点 建议收藏)

        上一篇博客给大家介绍了一下Flink,今天大家带来Flink集群环境搭建。(建议收藏) 一、Flink支持多种方式搭建(local,standalone,yarn) local( 本地) ——单机模式, 一般不使用 standalone ——独立模式, Flink 自带集群,开发测试环境使用 yarn——计算资源统一由 Hadoop YARN 管理,生产环境测试 1.1准备工作 JDK1.8以上(配置JA.

大数据记录 1万+

GPD源码分析

gpd使用示例 先看下面一段代码,为标准gpd算法的使用方法,可以看到输入为点云,cloud_camera_; 输入:std::unique_ptr<gpd::util::Cloud> cloud_camera_ 输出: std::vector<std::unique_ptr<gpd::candidate::Hand>> grasps; // detect grasp poses gpd对象:std::unique_ptr<gpd::GraspDetect.

weixin_41003113的博客 2331

为R720安装iDRAC Service Module

这玩意找了好久资料, 教程都不咋靠谱, 要不就是有不理解的地方 所以直接一路莽着过河: 去官网找到设备对应的驱动程序: 几个查找筛选项看图 官网链接: https://www.dell.com/support/home/zh-cn/product-support/product/poweredge-r720/drivers 在下方的列表中找到对应系统版本的驱动并下载: 由于安装的系统为ESXi 6.5 U2 Dell定制版, 这里没有刚好的驱动, 所以下了个兼容的: 下载好后是一个压缩包:

Janus 6361

Flink 配置1:Ubuntu 环境下部署 Flink 集群环境

Ubuntu 环境下配置 Flink 分布式环境

北_鱼的博客 2003

python cartopy绘制扇形区域图/cartopy绘制北极部分区域

实际上,这个问题原因还是由于投影转换的问题,在set_extend时,绘制的上下边界仍然是方形、未被正确投影的边界,与我们的set_boundary存在冲突,最根本的原因还是在于cartopy对于投影计算的一些缺陷。另外我们需要指出的是:**该方法不适用于极地投影,即NorthPolarStereo,由于NorthPolarStereo本身投影特性只需一个参数,本身并不适合。我们绘制极地投影时,同样也是使用set_boundary绘制圆形边界,那么当我们想要绘制扇形时,可以通过。请根据喜好自行选择,

weixin_43750300的博客 3212

Flink学习之旅:(一)Flink部署安装

进入Flink官网,点击Downloads往下滑动就可以看到 Flink 的所有版本了,看自己需要什么版本点击下载即可。

小健的博客 5144

FPGA新手避坑指南:手把手教你搞定RTL8211千兆网PHY的时序配置(附Verilog代码)

本文详细解析了FPGA与RTL8211千兆网PHY芯片的时序配置问题,重点介绍了TXDLY/RXDLY引脚设置、FPGA发送端和接收端的Verilog实现,以及调试与验证的完整流程。通过硬件电路设计和代码示例,帮助开发者解决网络连接不稳定、丢包等常见问题,提升千兆网通信的稳定性。

weixin_28732953的博客 539

展锐 Android 15 无听筒方案删除配置

【代码】展锐 Android 15 无听筒方案删除配置。

m0_60898338的博客 165

【Flink原理和应用】:Zookeeper集群环境的搭建

1. 引言 Flink实现高可用部署的方式有多种,其中Standalone模式是实现高可用的一种。对于Standalone模式,主要是要实现JobManager的高可用部署。 集群环境中JobManager的各个节点,需要借用zookeeper这个服务注册和服务发现组件来对其管理。 出于高可用性部署的考虑,所以zookeeper本身也要实现高可用性。所以本文先介绍下zookeeper的高可用部署。...

hxcaifly的博客 2354

MDIO接口协议与其详解——单片机

在单片机领域,通过MDIO接口可以与外部设备进行通信,实现对设备的控制和数据的读写。通过本文的介绍,你可以了解到MDIO接口协议的原理和使用方法,并参考源代码示例进行实际的开发和应用。具体的初始化方法与单片机的型号和开发环境有关,可以参考相应的单片机手册和开发工具的文档。(1)发送读取命令:向MDIO线发送读取命令,通常是发送一个特定的控制字节,用于指示要读取的寄存器地址。(1)发送写入命令:向MDIO线发送写入命令,通常是发送一个特定的控制字节,用于指示要写入的寄存器地址。二、MDIO接口协议使用方法。

web_class282的博客 2623

【Flink】记录一下flink的多种集群环境搭建

主要有standalone集群部署,HA模式部署,on-yarn集群部署

关于我转生变成程序猿这档事 552

SDMA 如何实现设备对主机内存的访问

摘要:SDMA(System Direct Memory Access)是PCIe设备直接访问主机内存的核心机制,使外设无需CPU干预即可高效读写系统RAM。其实现原理包括:设备作为主控发起DMA请求,通过PCIe Memory TLP访问主机物理地址;完整通路涉及驱动分配DMA安全内存、设备配置、地址转换(IOMMU)和中断通知等步骤;关键技术涵盖地址类型(HPA/IOVA)、TLP格式、缓存一致性和安全防护机制。SDMA广泛应用于GPU、网卡、NVMe等高性能场景,是现代异构计算的基础技术,需软硬件协同

MHD0815的博客 239

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

使用Flink集群环境进行数据处理

前言 上篇文章记录了搭建分布式Flink集群环境的过程 搭建Flink集群环境 这篇文章咱们聊一聊Flink客户端如何对接Flink集群环境的过程 示例:Flink读取Hadoop中的文件 然后通过集群环境进行数据处理的过程 Hadoop Hadoop集群环境搭建 搭建大数据运行环境之一 搭建大数据运行环境之二 Hadoop集群端口说明 Hadoop集群搭建过程异常情况 不能格式化存储目录 详细异常信息 org.apache.hadoop.hdfs.qjournal.client.QuorumExcept

孟凡霄 942

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

Flink集群环境搭建

Flink集群环境搭建Flink简介官网下载Flink解压文件修改配置文件Linux相关操作关闭防火墙及SELinux配置host地址映射设置免密登录生成.ssh 文件夹安装所需相关文件编写测试代码将测试代码部署到服务器测试结果 Flink简介 百度文档解释 官网下载Flink 官网地址 1.9.2版本 解压文件 将下载好的压缩文件上传至服务器 scp -p 端口号 文件名称(flink-1.9.2-bin-scala_2.11.tgz) 登录名@IP地址: 服务器中文件上传位置 tar -zvf fl

weixin_42633063的博客 366

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

Flink详细介绍(一)

文章目录一、概述1.1、流处理技术的演变1.2、初识Flink1.3、Flink核心计算框架二、Flink基本架构2.1、JobManager和TaskManager2.2、无界数据流和有界数据流2.3、数据流编程模型三、Flink运行架构3.1、任务提交流程3.2、TaskManager与Slots3.3、DataFlow3.3、并行数据流3.5、task和operator chains3.6、...

weixin_44240370的博客 5万+

【Flink】集群环境下的搭建(Standalone 模式)

Flink是目前开源社区中唯一一套集高吞吐、低延迟、高性能三者于一身的分布式流式数据处理框架,支持多种安装部署模式。主要包括以下几种‌1‌.Standalone 模式‌:这是独立运行的模式,不依赖任何外部的资源管理平台,只需要运行所有Flink组件服务。这种模式适合开发和测试环境‌。2‌.YARN 模式。

2403_86969226的博客 2002

Flink 部署

这里需要提到 Flink 中的几个关键组件:客户端(Client)、作业管理器(JobManager)和任务管理器(TaskManager)。我们的代码,实际上是由客户端获取并做转换,之后提交给 JobManger 的。所以 JobManager 就是 Flink 集群里的“管事人”,对作业进行中央调度管理;而它获取到要执行的作业后,会进一步处理转换,然后分发任务给众多的TaskManager。这里的 TaskManager,就是真正“干活的人”,数据的处理操作都是它们来做的, 一、快速启动一个 Fli.

mengxianglong123的博客 1万+

快速入门Flink (2) —— Flink 集群搭建

写在前面: 博主是一名大数据的初学者,昵称来源于《爱丽丝梦游仙境》中的Alice和自己的昵称。作为一名互联网小白,写博客一方面是为了记录自己的学习历程,一方面是希望能够帮助到很多和自己一样处于起步阶段的萌新。由于水平有限,博客中难免会有一些错误,有纰漏之处恳请各位大佬不吝赐教!个人小站:http://alices.ibilibili.xyz/ , 博客主页:https://alice.blog.youkuaiyun.com/ 尽管当前水平可能不及各位大佬,但我还是希望自己能够做得更好,因为一天的生活就是一生的缩影。.

大数据梦想家 5134
上一篇: 【Linux】Centos系统固定IP
下一篇: 【Hadoop】Hadoop(一)3.2.4集群搭建
JeffHan^_^
博客等级 码龄7年 1万+粉丝 134原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

JeffHan^_^

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值