后台启动集群 和 Storm常用操作命令

Storm集群的搭建和使用入门 Storm Storm是一个流式计算框架,数据源源不断的产生,源源不断的收集,源源不断的计算。(数据实时产生、实时传输、实时计算、实时展示) Storm只负责数据的计算,不负责数据的存储。 2013年前后,阿里巴巴基于storm框架,使用java语言开发了类似的流式计算框架佳作,Jstorm。2016年年底阿里巴巴将源码贡献给了Apache storm,两个项目开始合并,新的项目名字叫做stor... 阅读详情

4、安装storm

4.1、下载安装包

wget    http://124.202.164.6/files/1139000006794ECA/apache.fayea.com/storm/apache-storm-0.9.5/apache-storm-0.9.5.tar.gz

 

4.2、解压安装包

tar -zxvf apache-storm-0.9.5.tar.gz -C /export/servers/

cd /export/servers/

ln -s apache-storm-0.9.5 storm

4.3、修改配置文件

mv /export/servers/storm/conf/storm.yaml /export/servers/storm/conf/storm.yaml.bak

vi /export/servers/storm/conf/storm.yaml

输入以下内容:

 

#指定storm使用的zk集群

storm.zookeeper.servers:

     - "zk01"

     - "zk02"

     - "zk03"

#指定storm集群中的nimbus节点所在的服务器

nimbus.host: "storm01"

#指定nimbus启动JVM最大可用内存大小

nimbus.childopts: "-Xmx1024m"

#指定supervisor启动JVM最大可用内存大小

supervisor.childopts: "-Xmx1024m"

#指定supervisor节点上,每个worker启动JVM最大可用内存大小

worker.childopts: "-Xmx768m"

#指定ui启动JVM最大可用内存大小,ui服务一般与nimbus同在一个节点上。

ui.childopts: "-Xmx768m"

#指定supervisor节点上,启动worker时对应的端口号,每个端口对应槽,每个槽位对应一个worker

supervisor.slots.ports:

    - 6700

    - 6701

    - 6702

    - 6703

 

4.4、分发安装包

scp -r /export/servers/apache-storm-0.9.5 storm02:/export/servers

然后分别在各机器上创建软连接

cd /export/servers/

ln -s apache-storm-0.9.5 storm

4.5、后台启动集群

l 在nimbus.host所属的机器上启动 nimbus服务

cd /export/servers/storm/bin/

nohup ./storm nimbus &

l 在nimbus.host所属的机器上启动ui服务

cd /export/servers/storm/bin/

nohup ./storm ui &

l 在其它个点击上启动supervisor服务

cd /export/servers/storm/bin/

nohup ./storm supervisor &

4.6、查看集群

访问nimbus.host:/8080,即可看到storm的ui界面。

 

4.7、Storm常用操作命令

有许多简单且有用的命令可以用来管理拓扑,它们可以提交、杀死、禁用、再平衡拓扑。

l 提交任务命令格式:storm jar 【jar路径】 【拓扑包名.拓扑类名】 【拓扑名称】

bin/storm jar examples/storm-starter/storm-starter-topologies-0.10.0.jar storm.starter.WordCountTopology wordcount

l 杀死任务命令格式:storm kill 【拓扑名称】 -w 10(执行kill命令时可以通过-w [等待秒数]指定拓扑停用以后的等待时间)

storm kill topology-name -w 10

l 停用任务命令格式:storm deactivte  【拓扑名称】

storm deactivte topology-name

我们能够挂起或停用运行中的拓扑。当停用拓扑时,所有已分发的元组都会得到处理,但是spouts的nextTuple方法不会被调用。销毁一个拓扑,可以使用kill命令。它会以一种安全的方式销毁一个拓扑,首先停用拓扑,在等待拓扑消息的时间段内允许拓扑完成当前的数据流。

l 启用任务命令格式:storm activate【拓扑名称】

        storm activate topology-name

l 重新部署任务命令格式:storm rebalance  【拓扑名称】

        storm rebalance topology-name

        再平衡使你重分配集群任务。这是个很强大的命令。比如,你向一个运行中的集群增加了节点。再平衡命令将会停用拓扑,然后在相应超时时间之后重分配worker,并重启拓扑。

 

 

Storm集群安装详解 阅读详情

相关推荐

QCustomPlot实战:从入门到精通的数据可视化

本文详细介绍了如何使用QCustomPlot进行数据可视化,从基础环境搭建到高级图表定制,涵盖实时监控、多坐标系联动等实战技巧。基于Qt的QCustomPlot库以其强大的绘图能力和灵活的API,帮助开发者快速实现专业级数据可视化效果。

weixin_29003437的博客 115

Storm1.1.0 版本安装过程总结

首先还是要自我检讨一下,最近太懒了,关于Storm的书虽然看了不少,可是时间久了,加之没有机会实战,很多知识都忘记了。以致于现在回想起来,很多都犹如新知识,不禁身出冷汗,作为一个技术狗,这样怎可了得,故此这周开始再历学习,老祖宗,朱熹(宋)说得好啊,学习知之愈明,则行之愈笃。行之愈笃,则知之益明。 俗话说 “有知识的人不实践,等于一只蜜蜂不酿蜜。” 这Storm看似简单的部署,可是折腾了我好半天

m0_37828848的博客 3581

FSL软件安装

FSL软件安装

huang_tianyuan的博客 2630

大数据-zookeeper显示进程被占用,但是jps并没有显示QuorumPeerMain进程

这种情况是因为在使用完zookeeper之后,没有关闭好zookeeper,导致zookeeper的唯一标识id发生了改变,我们查看在zookeeper/conf/zoo.cfg里面的文件,可以发现我们刚开始绑定的时候。进入到 /home/hadoop/data/zookeeper/zkdata里面,你会发现myid里面的内容发生了改变。在zookeeper配置好,并使用脚本启动zookeeper之后,查看zookeeper的进程时候,出现。这个时候就需要将每个虚拟机的唯一标识更正过来既可。

Volcano99的博客 1135

阿里云大模型 ACP 认证教材内容突变?这些改动藏着通关密码,不看亏大!

【摘要】核心章节大换血,安全合规融入实战场景,大模型微调用数学深度解析,部署章节带来阿里云产品对比实战攻略,甚至整章内容被替换成藏满学习彩蛋的行业趋势指南。这些改动不仅重塑考试重点,更暗藏官方命题风向——安全合规考场景方案,微调原理考几何解析,部署设计考分析框架。无论你是数学小白还是部署新手,这篇攻略都将带你吃透变动逻辑,附赠急救包和考点清单,帮你抓住这些“隐形加分项”,速来解锁通关秘籍!

davidkorhenn的博客 1755

CAT24C16 EEPROM的I²C页写与页读底层实现

I²C是一种广泛应用于嵌入式系统的双线同步串行通信协议,其核心在于严格的时序控制、地址寻址机制与主从应答逻辑。理解I²C总线物理层(上拉电阻、SCL/SDA电气特性)、协议层(START/STOP、ACK/NACK、7位地址格式)及外设寄存器操作(如SR1状态标志、CCR时钟分频),是实现可靠通信的基础。在实际工程中,EEPROM类器件(如CAT24C16)因其非易失性、页缓冲区结构和写保护(WP)功能,成为数据持久化关键载体;其16字节页写约束、内部写周期(5–10ms)与地址指针自动递增等特性,直接决定

weixin_42591413的博客 388

【已解决】zookeeper启动失败Error contacting service. It is probably not running并且jps没有QuorumPeerMain进程

启动zookpeerer,查看状态显示Errorcontactingservice.Itisprobablynotrunning.,查看jps也没有QuorumPeerMain进程。查看zookeeper.out文件来寻找问题原因(当前处于哪个目录,执行完zkServer.shstart命令,zookeeper.out就会写在哪个目录)重点看Causedby的第一行(如果你的原因和我不一样,就去找对应的原因即可,应该网上都有)于是我将下面两行的注释单独放在一行。......

yyuan_in的博客 3173

2024年电气工程师最新面试题及答案

1. **基本电气工程原理**:包括电流、电压、电阻、功率等基本概念。2. **欧姆定律**:V = IR,描述电压、电流和电阻之间的关系。42. **风力发电系统组成**:包括风力涡轮机、发电机、控制系统等。44. **智能电网技术**:包括自动化控制、通信技术、数据分析等。10. **减少EMI**:使用屏蔽、滤波、合理布线等方法。40. **光伏系统组成**:包括光伏板、逆变器、控制器等。48. **能量存储技术**:包括电池、超级电容器、飞轮等。

guo162308的博客 6561

zookeeper启动失败+jps中没有QuorumPeerMain

java.io.IOException: No snapshot found, but there are log entries. Something is broken! at org.apache.zookeeper.server.persistence.FileTxnSnapLog.restore(FileTxnSnapLog.java:281) at org.apache.zookeeper.server.ZKDatabase.loadDataBase(ZKDatabase.ja...

微电子学与固体电子学-俞驰 7670

PCB仿真软件:Altium Designer_(6).PCB布线设计:自动布线与手工布线

通过以上步骤,我们完成了一个简单的PCB设计案例。在这个过程中,我们使用了自动布线和手工布线的综合策略,确保布线质量符合设计要求。创建PCB项目:在Altium Designer中创建一个新的PCB项目。导入原理图:将原理图文件导入到PCB项目中。设置布线规则:通过设置必要的布线规则,如线宽、间距等。启动自动布线:使用自动布线器进行初步布线。手工优化布线:通过手工布线工具优化关键信号的布线路径。保存和导出PCB文件:保存PCB文件并导出Gerber文件,用于生产。

kkchenjj的博客 2522

一文吃透 SAP IDoc 状态码:从 TEDS1 到 WE02 排障,再到 ABAP 自动化监控

在 SAP 集成场景里,IDoc 往往是最常见、也最容易被低估的一条生命线:采购订单、发票、主数据、库存移动……只要系统之间要稳定地交换结构化业务数据,IDoc 就经常登场。真正让人头疼的,并不是 IDoc 本身,而是它在链路里到底走到了哪一步、卡在了哪里、该找谁背锅。这篇文章把常用的 IDoc 状态码按出站、入站拆开讲清楚,并且把每个状态对应的真实世界故障现象、排查入口、以及可以落地的 ABAP 监控代码串起来,让你看到状态码就能想到动作。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 405

zookeeper安装使用jps指令没有QuorumPeerMain进程

原因调查: root@ubuntu:/home/wqxin01/zookeeper-3.4.6/bin# cat zookeeper.out (注意目录和文件名) 2017-08-18 20:19:31,903 [myid:] - INFO [main:QuorumPeerConfig@103] - Reading configuration from: /home/wqxin01/zo

LOVE_sel的博客 1万+

YOLOv13改进策略【小目标改进】| Shape-NWD:融合改进,结合Shape-IoU和NWD 更好地适应小目标特性

Bw−wgt2h−hgt2weight2Bweight2w−wgt​2h−hgt​2​其中weight2weight = 2weight2。

Limiiiing的博客 587

Storm集群配置与启动

一、Storm集群配置 搭建总体的架构: 实现步骤: 1.安装和配置jdk 2.安装和配置zookeeper 3.上传和解压storm 4.配置storm安装目录conf目录下的storm.yaml文件 storm.yaml配置示例: 找到storm.zookeeper.servers: 添加服务节点,如下: storm.zookeeper.servers: - “zkp1” - “zkp2” ...

hongye301的博客 1976

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Storm后台启动

原文:http://www.it610.com/article/1961490.htm 启动Storm的所有后台进程。和Zookeeper一样,Storm也是快速失败(fail-fast)的系统,这样Storm才能在 任意时刻被停止,并且当进程重启后被正确地恢复执行。这也是为什么Storm不在进程内保存状态的原因,即使Nimbus或Supervisors被重 启,运行中的Topologi

4369

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

【详解】搭建Storm集群

在搭建一个基本的 Storm 集群时,涉及到的主要组件包括 Nimbus、Supervisor 和 ZooKeeper。下面我将通过一个简单的例子来展示如何搭建一个基本的 Storm 集群,并编写一个简单的拓扑(Topology)来处理流数据。ZooKeeper 是一个分布式的协调服务,Storm 使用它来进行节点之间的协调和状态管理。Nimbus 是 Storm 的主节点,负责分配任务给各个 Supervisor,并监控它们的状态。​,你应该能看到Storm UI界面,显示集群的状态和拓扑信息。

牛肉胡辣汤 1243

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

storm集群的配置与启动

配置  storm在conf/storm.yaml包含了一些配置信息。 storm.zookeeper.servers: - "10.16.15.6" storm.zookeeper.port: 2181 storm.local.dir: "/tmp/storm/" nimbus.host: "10.16.15.3" ui.port:

loloxiaoz3的专栏 1万+

storm集群的安装和部署

Storm 是一个开源的、大数据处理系统,与其他系统不同,它旨在用于分布式实时处理且与语言无关。Storm 实现的一些特征决定了它的性能和可靠性的。Storm 使用 ZeroMQ 传送消息,这就消除了中间的排队过程,使得消息能够直接在任务自身之间流动。在消息的背后,是一种用于序列化和反序列化 Storm 的原语类型的自动化且高效的机制。 Storm 的一个最有趣的地方是它注重容错和管理。Stor

ZK_小小世界的专栏 2354

shell脚本启动storm 集群

最近因为学习需要,搭建了storm集群,装了比较旧的版本storm-0.8.1,也安装了ZMQ,中间安装过程之曲折不属本文范围,以后再整理。本文先把storm集群启动的脚本放出,其中包含了启动zookeeper。其他集群,spark,hadoop启动、停止脚本可参考本脚本。代码不完善之处依照具体业务修改。 启动之前的准备工作: 1)机器配置,ip-机器名 在hosts中配置好 2)配置各

刻剑求舟 1701

基于docker的storm集群搭建

基于docker的storm集群搭建一、创建docker容器1.创建storm的局域网2.创建主节点的容器3.创建从节点容器4.配置hosts文件二、搭建zookeeper集群1.配置java环境2.下载zookeeper安装包3.将安装包发送到docker容器中4.对zookeeper进行配置5.配置环境变量6.将zookeeper发送到从节点7.启动zookeeper集群三级目录 一、创建docker容器 我所使用的镜像是ubuntu的镜像 1.创建storm的局域网 docker network cr

独醉的博客 2511

Storm0.9.2 集群安装部署3——安装 Storm 集群并启动 Storm

Storm0.9.2 集群安装部署Storm0.9.2 集群安装部署1. 部署环境准备2. 部署 Storm 集群2.1 搭建 Zookeeper 集群2.2 依赖软件安装2.3 安装 Storm 集群2.4 修改 storm.yaml 配置文件2.5 启动 Storm 各后台进程 Storm0.9.2 集群安装部署 1. 部署环境准备 准备过程我已在Hadoop伪分布式安装的安装前准备里提到,...

语笙的博客 750

搭建storm集群(apache-storm-0.9.5.tar.gz)

//搭建storm集群(apache-storm-0.9.5.tar.gz) # by coco # 2015-07-15 前期准备:3台服务器: 192.168.8.94  192.168.8.95 192.168.8.96 去storm官网下载响应版本的软件包:http://storm.apache.org/downloads.html 在这里下

wulantian的专栏 2万+

Storm-集群安装Storm

1.集群部署的基本流程 集群部署的流程:下载安装包、解压安装包、修改配置文件、分发安装包、启动集群 2.集群部署的基础环境准备 安装前的准备工作(zk集群已经部署完毕) 3、Storm集群部署 3.1、下载安装包 wget    http://124.202.164.6/files/1139000006794ECA/apache.fayea.com/storm/apache-storm...

qq_38709565的博客 411

storm集群统一启动和停止shell脚本开发

Hadoop集群 start-all.sh 启动全部进程 stop-all.sh停止 如果用cdh版本+cloudera manager界面化管理的话,直接在界面上点击按钮即可 原理:通果ssh执行远程shell脚本 storm停止进程 Kill -9 shell脚本开头: #!/bin/bash ./etc/profile 以前就是直接去ui看executor下面是哪

9861

storm集群搭建及numbus,supervisor启动异常

1.安装 (1)下载 wget https://archive.apache.org/dist/storm/apache-storm-1.1.2/apache-storm-1.1.2.tar.gz (2)创建文件夹 mkdir -p /export/server (3)解压 tar -zxvf apache-storm-1.1.2.tar.gz -C /export/server (4)重命名 ...

dfnkd的博客 1029

Storm集群是如何启动的,任务是如何执行的?

1.Storm集群是如何启动的,任务是如何执行的? 集群架构中的各个模块如何启动? 任务如何分配,如何执行? storm启动nimbus服务的命令: cd /export/servers/storm/bin/ nohup ./storm nimbus & 1.客户端运行storm nimbus时,会调用storm的脚本,生成一条java命令,命令格式如下: java -server x...

汤小萌的博客 1742
上一篇: 怎么解决java.lang.NoClassDefFoundError错误
下一篇: storm命令
王树民
博客等级 码龄10年 912粉丝 560原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值