ubuntu 安装本地版storm并运行WordCount

storm单机部署 本实验任务主要完成基于ubuntu环境的storm单机部署工作。通过完成本实验任务,要求学生掌握storm的最简化配置和使用自带的代码对storm环境的可行性进行测试,为学生介绍最最简单的部署方式,使其学习过程由易到难,也为从事大数据平台运维工程师、大数据技术支持工程师等岗位工作奠定夯实的技能基础。掌握storm单机部署的配置和测试部署环境是否成功本次环境是:Ubuntu16.04+apache-storm-1.1.1storm单机部署环境解压后即可执行相应的命令进行使用,基本无需添加任何配置。♥ 知识链接 阅读详情

前言:

jubuntu 安装本地版storm并运行WordCount
1. 开始从apache下载的最新版1.0.3,本地安装没有问题,但是当执行example-wordcount的时候报错找不到主类,后来解压jar包发现,1.03里面没有wordcount,有一些其他的类,于是第二次去下载安装了一个早期版本0.9.6,成功执行。
2. 关于1.0.3和0.9.6的配置异同,可参考官方文档地址http://storm.apache.org/releases/1.0.3/Setting-up-a-Storm-cluster.html 和http://storm.apache.org/releases/0.9.6/Setting-up-a-Storm-cluster.html
3. 个人感觉在安装使用过程中,应尽量从官方文档以及FAQ等获取有用信息,否则自己容易进入一些误区。
4. 这是一个简易的本地版,供浏览学习之用,如有不妥之处,欢迎指正。

正文:

  1. 安装一个或多个可用的zookeeper(Set up a Zookeeper cluster )
    可参考之前博客ubuntu 16.04安装zookeeper
  2. 本地版或集群版都需要如下依赖( Install dependencies on Nimbus and worker machines )
    1.0.3版本
    Java 7
    Python 2.6.6
    0.9.6版本
    Java 6
    Python 2.6.6
    注:Python在ubuntu以及其他Linux中默认已安装,jdk的安装这里不再赘述
  3. 从apache官网下载storm并解压到任意位置(Download and extract a Storm release to Nimbus and worker machines),并加入path环境变量
    官方下载地址http://storm.apache.org/downloads.html
  4. 打开解压后的storm,编辑conf下的storm.yaml
    1.0.3版本

    storm.zookeeper.servers:
         - "127.0.0.1"
    nimbus.seeds: ["127.0.0.1"]
    0.9.6版本
    
    storm.zookeeper.servers:
         - "127.0.0.1"
    nimbus.host: "127.0.0.1"

    配置zookeeper和主控节点host

  5. 运行主控节点nimbus和工作节点Supervisor
    执行bin目录下可storm
    Nimbus: Run the command “bin/storm nimbus” under supervision on the master machine.
    Supervisor: Run the command “bin/storm supervisor” under supervision on each worker machine. The supervisor daemon is responsible for starting and stopping worker processes on that machine.

    bin/storm nimbus

    正确响应如下

    ...ib/ring-jetty-adapter-0.3.11.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/minlog-1.2.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/jline-2.11.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/core.incubator-0.1.0.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/snakeyaml-1.11.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/log4j-over-slf4j-1.6.6.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/commons-io-2.4.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/asm-4.0.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/jetty-util-6.1.26.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/ring-servlet-0.3.11.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/objenesis-1.2.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/ring-core-1.1.5.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/conf -Xmx1024m -Dlogfile.name=nimbus.log -Dlogback.configurationFile=/usr/dev_sda_7/local/apache-storm-0.9.6/logback/cluster.xml backtype.storm.daemon.nimbus
    bin/storm supervisor

    正确响应如下

    ...sda_7/local/apache-storm-0.9.6/lib/core.incubator-0.1.0.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/snakeyaml-1.11.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/log4j-over-slf4j-1.6.6.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/commons-io-2.4.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/asm-4.0.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/jetty-util-6.1.26.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/ring-servlet-0.3.11.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/objenesis-1.2.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/lib/ring-core-1.1.5.jar:/usr/dev_sda_7/local/apache-storm-0.9.6/conf -Xmx256m -Dlogfile.name=supervisor.log -Dlogback.configurationFile=/usr/dev_sda_7/local/apache-storm-0.9.6/logback/cluster.xml backtype.storm.daemon.supervisor
  6. 执行0.9.6下的wordcount示例

    $ /usr/dev_sda_7/local/apache-storm-0.9.6/bin/storm jar /usr/dev_sda_7/local/apache-storm-0.9.6/examples/storm-starter/storm-starter-topologies-0.9.6.jar storm.starter.WordCountTopology | grep '[*,*]'

    | grep ‘[,]’ 用来过滤日志
    在正确响应如下:

    13390 [Thread-11-count] INFO  backtype.storm.daemon.executor - Processing received message source: split:6, stream: default, id: {}, ["four"]
    13390 [Thread-11-count] INFO  backtype.storm.daemon.task - Emitting: count default [four, 57]
    13390 [Thread-13-count] INFO  backtype.storm.daemon.executor - Processing received message source: split:6, stream: default, id: {}, ["and"]
    13390 [Thread-13-count] INFO  backtype.storm.daemon.task - Emitting: count default [and, 100]

    成功执行计数

后记:

参考文献 apache storm官方文档 http://storm.apache.org/releases/0.9.6/Setting-up-a-Storm-cluster.html

保姆级教程:用DaVinci Configurator & Developer从零搭建AUTOSAR OS(TC2xx三核实战) 本文提供了一份详细的AUTOSAR OS配置指南,使用DaVinci Configurator和Developer工具从零开始搭建Infineon TC2xx三核系统。涵盖多核配置协同逻辑、版本兼容性陷阱及验证错误的解决方案,帮助开发者在3小时内构建可运行的多核OS框架。 阅读详情

相关推荐

RK3588-NANOPC-T6移植ubuntu+xenomai内核

更具网址下载相应的内核。导入到开发板并执行内核。

qq_42007446的博客 573

ubuntu storm安装配置

一、安装准备:        JDK、ssh、python。安装都比较简单,我之前做别的时候已经安装,此处不再详述。        ssh的安装和服务启动可以参见我的另一个讲hadoop安装的文章。而且我的storm集群和hadoop相同,都是配置在三台虚拟机上的,用户组及用户名和hadoop那个一样,都要求用户名是hadoop 二、安装zookeeper集群(三台虚拟机)       前

野孩子的专栏 3660

【实战指南】从零构建UNet多分类分割数据集:标注、转换与训练全流程

本文提供了一份从零构建UNet多分类分割数据集的完整实战指南。详细介绍了使用Labelme进行图像标注的核心技巧与规范,并通过Python脚本将标注结果转换为模型可用的VOC格式。最后,指导如何修改经典的PyTorch版UNet代码,以适配自定义数据集并进行训练与测试,帮助读者完成从数据准备到模型训练的全流程。

arduino9maker的博客 287

Ubuntu Steam 玩游戏的一些踩坑

题主一开始进入 发现分辨率变成5k,随后调整为4k 发现游戏中的按钮对不上 有时还会显示黑屏 调整过后发现关闭Fractional scaling 可以解决问题,编译也等待较久,最后只用一个屏调成缩放200% 即可正常游玩 体验和windows 没有太大差别。3. 编译着色器:Ubuntu 系统需要编译vulkan ,题主第一次使用的时候编译了多次,虽然不进行编译也能运行,但是每次启动都会跳出编译 很烦 点击steam 任意处就会取消编译 这时候就需要重新编,建议耐心等待 这样就一劳永逸了。

Waiting_fade的博客 4663

小红书私信接口与Hook技术实战:微信跳转卡片的合规与破解之道

本文深入探讨了小红书私信接口与Hook技术的实战应用,重点解析了微信跳转卡片的合规使用与破解方法。通过官方私信接口的合规玩法与Xposed框架的Hook技术对比,为开发者提供了技术选型指南和实战建议,帮助实现高效的用户跳转与转化。

weixin_30399821的博客 735

VMware桥接模式实战:用手机热点给Linux虚拟机共享网络(附WiFi适配技巧)

本文详细介绍了在移动办公场景下,如何为VMware中的Linux虚拟机配置桥接模式,以通过手机热点共享网络。文章深入解析了桥接模式在无线环境下的工作原理,提供了从主机端准备、VMware设置到Linux虚拟机内部配置的完整实战步骤,并针对手机热点的特殊性,分享了MTU优化、DNS配置及常见网络问题的诊断与解决方案,帮助用户实现稳定高效的移动虚拟化办公。

2y3u4i5o6p的博客 1194

linux 下 storm环境搭建,Storm在Ubuntu环境下的单机部署

Storm在Ubuntu环境下的单机部署目录查看Ubuntu安装JDK安装Pythod安装Zookeeper安装ZeroMQ安装Jzmp安装Storm查看Ubuntu是32位还是64uname -a返回结果 ==> SMP Fri Feb 22 00:31:26 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux,可知Ubuntu为64位安装JDK#下载64位的J...

weixin_39915820的博客 150

Docker(八):Docker Compose(容器编排) 管理多容器应用—实战案例演示

🟢 Docker(八):Docker Compose(容器编排) 管理多容器应用—实战案例演示

✨ 欢迎来到【Seal ^_^ 的优快云博客】!✨ 6万+

保姆级教程:在Ubuntu 20.04上从零搭建Apache Storm 2.1.0集群(含Zookeeper配置与WordCount实例)

本文提供了一份详细的Apache Storm 2.1.0集群搭建指南,涵盖Ubuntu 20.04环境准备、Zookeeper配置、Storm集群部署及WordCount实例实战。通过系统调优、SSH免密登录和集群配置,帮助用户构建高可用的实时数据处理系统,适用于大规模数据流处理场景。

weixin_30920513的博客 357

【开发必备插件】iframe嵌套报“拒绝连接请求”的本地解决方法

关键词:iframe 拒绝连接、X-Frame-Options、Chrome 插件、前端调试、Allow X-Frame-Options前几天我在本地项目里调试一个第三方网站的嵌入页面时,遇到了一个非常经典的报错:xxx.com 拒绝了我们的连接请求。熟悉的老前端们一眼就知道——这是。但对于日常开发来说,我们经常需要在本地测试 iframe 嵌套外部页面(比如嵌第三方登录页、支付页、可视化报表系统等)。而线上站点配置了或DENY时,就会直接导致 iframe 加载失败。

代码简单说 Vue、JAVA、PHP、Node.js 熟练运用,接口、架构、性能全搞定。 1540

YOLO26创新改进 | 全网独家创新篇、小目标检测专属 | AAAI 2025 | 引入HS-FPN中的HFP和SDP创新点,从频域增强小目标特征,淘汰FPN进行升级,助力YOLO26有效涨点

本文提出HS-FPN特征金字塔网络,通过高频感知模块(HFP)和空间依赖感知模块(SDP)优化YOLO26模型。HFP利用高通滤波器增强小目标的高频特征,SDP捕获相邻像素的空间依赖关系。在AI-TOD等小目标检测数据集上,HS-FPN相比传统FPN显著提升性能。文章详细介绍了HFP和SDP的模块结构、核心代码实现,以及如何在YOLO26中集成这两个模块的配置方法,提供了多个版本的yaml文件配置方案。实验结果表明该方法能有效改善微小目标检测效果。

Ai缝合怪、助力小伙伴高效发论文 206

流式分布式系统Storm安装与部署-单机版

主要参考的网站资源: http://my.oschina.net/leejun2005/blog/147607(一篇对照一个例子讲storm原理和应用的不错文章) http://www.cnblogs.com/XjChenny/p/3214039.html(非常完整的storm安装教程,我主要是参照这篇文章安装的,缺点是文中几乎没有提到遇到的问题,需要自己去查找解决问题的办法) http:/

peixuan的专栏 2046

EtherCAT主站教程3--适配伺服驱动器(模式配置)

目前通用的伺服驱动器的位置模式、速度模式以及其他模式是伺服系统中常见的控制模式,切换这些模式通常需要根据具体的伺服驱动器型号和控制协议(如EtherCAT、CANopen、Modbus等)进行配置。以下是这些模式的概述及切换方法的一般性指导:协议规范中,一共有以下几种模式:其中模式1、3、6对于比较常用,也更容易上手。

weixin_52626887的博客 793

Twitter Storm安装配置(Ubuntu系统)单机版

要使用storm首先要安装以下工具:JDK、Python、zookeeper、zeromq、jzmq、storm (注:各个模块都是独立的,如果安装失败或者卡顿可以单独百度某个模块的安装,都是可以的。) JDK1.7安装 参见上篇《Ubuntu下安装配置JDK1.7》http://www.cnblogs.com/stone_w/p/4469548.html   第一步,安装Python2.

磊哥聊Java 581

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

ubuntu12.04+storm0.9.2 分布式集群的搭建

目录:   一、什么是STORM?   二、STORM的官方网站在哪里?   三、在哪里下载?需要哪些组件的支持?   四、如何安装?   五、FAQ   一、什么是STORM?   在上一篇文章《mac10.9下eclipse的storm开发环境搭建》中,已经有详细的介绍。   二、STORM的官方网站在哪里?   http://storm.incubato

风流小子的专栏 1394

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

Ubuntu12.04安装Storm0.9.3

Storm 安装 1安装Python2.7.2        安装文件下载地址:http://www.python.org/ftp/python/2.7.2/Python-2.7.2.tgz mnclab@lmn:~$tar zxvf Python-2.7.2.tgz mnclab@lmn:~$ cdPython-2.7.2 mnclab@lmn:~$./configure mncla

asbz123456的专栏 1088

linux storm单节点,各个版本Linux单节点伪分布一键安装CDH5.1.X及提交wordcount到yarn高可靠文档...

问题导读:1.安装cdh5伪分布配置文件在什么位置?2.不同的操作系统,cdh5的安装过程都包含哪些流程?3.在yarn上运行wordcount都需要哪些准备?4.CDH5是如何安装的?由于这里面包含多个系统,可能安装步骤上,初学者难以看懂,可以先参考Linux(ubuntu12.04)单节点伪分布安装CDH5.1.X及提交wordcount到yarn高可靠文档,然后再看这个文档就清晰多了简介:如...

weixin_31163527的博客 203

Storm集群搭建小结

一、环境 五台Ubuntu 16.04; 关闭防火墙,配置hosts文件; 安装java并配置环境变量; 下载zookeeper-3.4.10.tar.gz、apache-storm-0.9.1.tar.gz; 二、安装zookeeper 解压zookeeper-3.4.10.tar.gz到/home/hadoop/目录 建立zookeeper的data目录 mkdir /home/hadoo...

Jochen的博客 891

Storm0.9.0集群搭建

  Storm集群可以搭建在AWS上,也可以直接手动部署在集群机器上。这里使用手动搭建的方式部署在一个机器上。   环境:ubuntu 13.10 64bit   1.Java安装 Java1.6的安装就不多的说了。   2.python安装 ubuntu自带了   3.zookeeper 单机模式部署方式 http://zookeeper.apache.org/do...

isuifengfei的专栏 180

3台机器部署storm-1.1.0集群

一. 环境介绍 三台主机,主机名和ip分别为: ubuntu1  10.3.19.171 ubuntu2  10.3.19.172 ubuntu3  10.3.19.173 三台主机的登录用户名是bigdata,home目录是/home/bigdata 现在三台主机上部署storm集群。 storm需要使用python,安装python如下: bigdata@ubunt

wiseflywang的专栏 993

Storm的wordcount实战示例

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_33994444的博客 152

strom单机模式安装

相关知识 本地模式在一个进程里面模拟一个storm集群的所有功能, 这对开发和测试来说非常方便。 实现环境 Linux Ubuntu 14.04 apache-storm-0.9.4.tar.gz jdk-7u75-linux-x64 实验内容 在Linux下安装Storm单机模式 实验步骤 1、首先要安装jdk和python。 注:jdk为jdk6及以上、python为python2.6及以上。...

极地星辰 285

保姆级教程:在Ubuntu 20.04上从零搭建三节点Storm集群(含Zookeeper配置与WordCount实例)

本文提供了一份详细的Ubuntu 20.04环境下搭建三节点Storm集群的教程,包括Zookeeper配置和WordCount实例运行。从系统准备、SSH配置到Zookeeper和Storm的安装与部署,每个步骤都配有清晰的命令和解释,帮助开发者快速掌握分布式计算框架的搭建与应用。

weixin_42680139的博客 354

流数据处理与分析

环境 名称 版本 系统 Ubuntu 18.04.4 LTS 内存 7.5GiB 处理器 Intel Core i7-8565U CPU @ 1.80GHz *8 图形 Intel UHD Graphics(Whiskey Lake 3*8 GT2) GNOME 3.28.2 操作系统类型 64位 磁盘 251.0 GB Storm 2.1.0 Zookeeper 3.5.8 IntelliJ IDEA COMMUNITY 2020.1 M...

jiuweideqixu的博客 1400

storm-环境搭建和第一个topology

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34194551的博客 114
上一篇: 自己写GoBinaryHead 二叉堆binaryheap实现优先队列(堆)
下一篇: go协程goroutine与Java多线程比较
anteoy
博客等级 码龄10年 24粉丝 83原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值