storm开发遇到的问题

初入Storm开发遇到的问题 Local模式 一点运行马上报这个错 java.lang.NoClassDefFoundError: org/apache/storm/generated/AlreadyAliveException at java.lang.Class.getDeclaredMethods0(Native Method) at java.lang.Class.privateGetDeclaredMetho... 阅读详情

项目中需要使用到storm,所以临时抱佛脚找了本英文书看了看就进入开发了

(一)搭建环境

我使用的是storm-0.9.1版本,这个版本有个好处就是底层用纯java实现了消息队列,不需要像以前的版本还需要本地编译zeroMQ等一大堆依赖,只需要安装JDK然后在storm.yaml文件中指定

storm.messaging.transport: "backtype.storm.messaging.netty.Context"
storm.messaging.netty.server_worker_threads: 1
storm.messaging.netty.client_worker_threads: 1
storm.messaging.netty.buffer_size: 5242880
storm.messaging.netty.max_retries: 100
storm.messaging.netty.max_wait_ms: 1000
storm.messaging.netty.min_wait_ms: 100

就可以使用netty了。非常方便。至于zookeeper集群肯定还是需要安装的。

下面贴上整个配置文件信息

storm.zookeeper.servers:
     - "192.168.137.100"
     - "192.168.137.101"
     - "192.168.137.102"
#
nimbus.host: "192.168.137.100"


storm.local.dir: "/var/storm"

storm.messaging.transport: "backtype.storm.messaging.netty.Context"
storm.messaging.netty.server_worker_threads: 1
storm.messaging.netty.client_worker_threads: 1
storm.messaging.netty.buffer_size: 5242880
storm.messaging.netty.max_retries: 100
storm.messaging.netty.max_wait_ms: 1000
storm.messaging.netty.min_wait_ms: 100

supervisor.slots.ports:
  - 6700
  - 6701
  - 6702
  - 6703

(二)开发遇到的问题

(1)有时候在启动storm集群的时候,发现nimbus或则supervisor进程总是无缘无故的挂掉,其实我也不清楚原因,也没有报错,属于毫无征兆的。但只要我清理了storm.local.dir所指定的目录下的所有文件再启动就好了。这个问题以后研究,这里只给出解决方法。

(2)第一次写的topology总是报错,发现在spout组件中的nextTuple()方法中把信息抛出去的时候需要调用的emit(new Values(str),str)这个重写的方法,才能够正常运行。

李宏毅机器学习hw3 Homework 3 - Convolutional Neural Network 1作业概述 在food_11文件中有三个文件分别是training、validation、testing,打开training和validation可以看见总共有11种食物(0-10的类别编号),而testing是没有类别编号的。 然后用卷积神经网络对食物图片进行分类。 2导入用到的库 torch库 这个我弄了半天,直接pip总是timeout,用镜像源下下来又出现OSError: [WinError.. 阅读详情

相关推荐

二进制部署的K8s集群,如何对到期证书更新

一年前搭建的k8s集群,突然不能够正常访问,出现502错误,首先怀疑容器没起来,先对问题进行排查,排查响应的容器有没有正常启动,状态一切正常,访问容器地址也可以正常访问,于是访问node port地址,发现无法正常访问,确定问题出现在svc中。 由于其他的应用、系统也无法提供正常的服务,应该是k8s的问题,非单个应用的原因。查看服务状态,kubectl describe svc xxx,endp...

时光旅行者 3770

Storm环境搭建注意事项

去官网下载最新版本的storm:http://storm.apache.org/downloads.html 搭建可以参考该文章:     http://www.aboutyun.com/thread-6854-1-1.html 注意事项:     storm.zookeeper.servers: - "datanode01" - "datanode02" - "da

huanghai的专栏 767

演化计算(蚁群算法、粒子群算法、遗传算法、演化规则......)

演化算法1.概念2.解决的问题 1.概念 传统算法(如梯度下降法、爬山法)根据导数的性质决定迭代的方向;而演化计算是一组解在一起协同作用产生一个最优解。 2.解决的问题 预测优化:演化计算(蚁群算法、粒子群算法、遗传算法等) 解的聚散、多样性:通过多次聚散,尽快得出最优解(某个解不合要求,要能够发散出去) ...

dear_jing的博客 4162

大数据_Storm_Storm之--配置项详解

转载请注明出处:http://blog.youkuaiyun.com/l1028386804/article/details/51924272 配置项 配置说明 storm.zookeeper.servers ZooKeeper服务器列表 storm.zookeeper.port ZooKeeper连接端口

迎难而上 5980

Laravel 结合 jwt-auth 实现无状态 API 认证(实战解析)

本文详细解析了如何在Laravel框架中结合jwt-auth实现无状态API认证,包括JWT的优势、环境搭建、Token签发与刷新、API路由保护等实战内容。通过具体代码示例和优化技巧,帮助开发者高效解决跨域认证问题,提升系统安全性。

weixin_29315569的博客 210

Amesim管路仿真进阶:如何用阻力管实现不规则管路的高精度模拟

本文深入探讨了在Amesim仿真中,如何利用阻力管(Orifice with Table)元件,特别是TFORT0子模型,实现对不规则管路的高精度模拟。通过直接输入基于测试或CFD的流量-压降数据,该方法能有效弥补标准管路模型在复杂流道、内部结构复杂等场景下的不足,为液压、热管理等系统仿真提供精准可靠的部件模型。

cicd6pipeline的博客 670

【storm配置参数详解】

  java.library.path: "/usr/local/lib:/opt/local/lib:/usr/lib"   ### storm.* configs are general configurations   # the local dir is where jars are kept storm.local.dir: "storm-local" storm.log...

808

特斯拉Model 3 BMS主控板拆解:从硬件设计到热管理策略的实战解析

本文深度拆解特斯拉Model 3的BMS主控板,解析其硬件架构与热管理协同策略。文章聚焦于主控板的分区布局、双核MCU的智慧分工,以及从被动监控到主动干预的热管理范式转变,揭示了特斯拉在高压安全、实时控制与系统级工程思维上的设计哲学。

zz67890的博客 593

Storm处理流程, 基本参数配置

配置选项名称 配置选项作用 topology.max.task.parallelism 每个Topology运行时最大的executor数目 topology.workers 每个Topology运行时的worker的默认数目,若在代码中设置,则此选项值被覆盖 storm.zookee...

weixin_30385925的博客 409

realsense D455深度相机+YOLO V5结合实现目标检测(一)

realsense D455深度相机+YOLO V5结合实现目标检测代码来源环境配置代码分析:1.如何用realsense在python下面调用的问题:2.对main_debug.py文件的分析:结束语 可以实现将D435,D455深度相机和yolo v5结合到一起,在识别物体的同时,还能测到物体相对与相机的距离。 说明一下为什么需要做这个事情?1.首先为什么需要用到realsense D455深度相机? 因为他是普通的相机还加了一个红外测距的东西,所以其他二维图像一样,能够得到三维世界在二维像素平面的投影

文一生 3万+

基于ROS2的实时视频流转换:image2rtsp在多路相机采集中的应用

本文详细介绍了如何在ROS2机器人系统中使用image2rtsp工具,将ROS2内部的相机图像话题实时转换为标准的RTSP视频流。重点阐述了其安装配置、核心参数调优,并提供了多路相机采集的实战方案,解决了机器人视觉数据跨平台、跨网络分发的难题,极大提升了视频流集成的部署效率。

weixin_29214559的博客 395

近期开发storm遇到一些问题的解决点

近期开发storm遇到一些问题的解决点

qq_38472574的博客 104

【Unity】【VR】如何让Distance Grab抓取物品时限制物品的Rotation

VR中Canvas抓取旋转问题的解决方案 在VR应用中,Canvas作为UI面板常需被抓取拖动,但默认会随手柄产生Z轴旋转,导致UI歪斜。Unity的Rigidbody冻结旋转功能对此无效,因为XR抓取直接修改Transform而非物理模拟。

每日出拳老爷子的博客 611

Storm开发过程中的问题与建议

(一) topology层级建议设不要设置过多

Kevin.yang专栏 5507

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Ubuntu单机版 Storm 开发环境搭建与org.apache.storm.utils.NimbusLeaderNotFoundException问题

Ubuntu单机版 Storm 开发环境搭建 查看Ubuntu 安装JDK 安装Pythod 安装Zookeeper 安装ZeroMQ 安装Jzmp 安装Storm 查看Ubuntu是32位还是64 uname -a 返回结果 ==> SMP Fri Feb 22 00:31:26 UTC 2013 x86_64 x86_64 x86_64 GNU/Lin...

王小明的专栏 1212

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

Storm开发过程中遇到的Topology “hang"问题

题目中之所以用双引号标注”hang", 是因为自己碰到的问题并不是Topology程序真的hang住了,而是有其他原因。 我曾经碰到的问题大致如下: 提交Topology之后,刚开始的几小时是正常运行的,但系统处理的数据量之后会越来越少,直至变为0,就像Topology hang住一样。 总结下自己在分析解决该问题时的思路: 由于特殊原因,刚开始没条件部署Storm UI,所以走了一些弯路。

jsky_studio的专栏 1425

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

Storm开发打包问题:Ant编译把第三方jar打入打包的JAR中

Storm开发中,常常需要 ${DSTAMP}为日期,格式为20111123;${TSTAMP}为时间,格式为2256,表示22点56分。 -->  destfile="${jarfilename}">   build.xml  [html] view plain copy

dao_wolf的博客 432

关于storm版本的问题

java文件中有一处代码:import backtype.storm.task.OutputCollector; eclipse一直提示找不到这个包,而lib中已经导入了storm-core-1.1.1.jar包,这是为什么呢?查阅storm官网后看到下面一段话: In the latest version, the class packages have been changed from

眼睛大没办法的博客 3006

Storm开发中易犯的 小错误

Storm是一个分布式的、容错的实时计算系统,遵循Eclipse Public License 1.0,Storm可以方便地在一个计算机集群中编写与扩展复杂的实时计算,Storm之于实时处理,就好比Hadoop之于批处理。Storm保证每个消息都会得到处理,而且它很快——在一个小集群中,每秒可以处理数以百万计的消息。可以使用任意编程语言来做开发。

fish9164的博客 546

storm和spring的结合

storm和spring的结合

swcj的专栏 5514

抖音批量下载完整指南:douyin-downloader 从克隆配置到出片

假设你想把某位创作者的全部作品存进本地素材库:300 条视频,手动逐条点击要耗掉好几个小时。douyin-downloader 是一款开源的抖音批量下载工具——贴一个主页链接,它会自动翻页、去水印下载、用 SQLite 去重,并按日期和作者归好目录,还能顺带存原声音乐、封面和元数据。 ## 📥 四个使用场景:单条视频到整站作品 ### 只想要某一条视频? 任何一条短视频或图文,复制浏览器地

gitblog_00336的博客 1164

storm ui 中一些关键属性的含义

Storm UI对于排查storm使用过程中遇到的问题会很有帮助,但是有些属性的含义不是很明确,虽然都是很简单的概念,如果不知道的话也会很难受。 先说一点,鼠标只到UI上的标题栏时,是可以看到这一属性的具体属性的,几篇google rank很高的文章,其实就是把这个信息整理了下来。 其实大部分属性都是很直白的,看到名字就知道是什么意思,我在这儿之把一些可能造成困扰的属性列一下,方便大家查问题。

蓝色空间 2234

Apache Storm 的 Maven 开发指南:从依赖声明、拓扑构建到集群提交

本篇指南聚焦于在 Apache Storm 项目中使用 Maven 进行拓扑开发的完整链路:如何把 `storm-core` 声明为开发依赖、理解 `provided` 作用域的真正含义、参考官方 storm-starter 工程的组织方式,以及如何完成本地构建、打包 "uberjar" 并提交到 Storm 集群。阅读完本文,你将能独立搭建一个基于 Maven 的 Storm 拓扑工程,并掌握与

gitblog_00680的博客 82

Apache Storm开发环境搭建:Eclipse、IntelliJ IDEA配置指南

Apache Storm作为业界领先的分布式实时计算系统,为大数据处理提供了强大的实时分析能力。在开始使用Storm进行实时数据处理之前,搭建一个高效的开发环境至关重要。本指南将详细介绍如何在Eclipse和IntelliJ IDEA中配置Apache Storm开发环境,帮助您快速上手实时计算开发。🔧 ## 环境准备与项目克隆 在开始配置IDE之前,首先需要准备基础开发环境。Apache

gitblog_01425的博客 357
上一篇: java中synchronized关键字详解
下一篇: 把hadoop源码导入到eclipse中遇到的问题
爪爪的瓜瓜
博客等级 码龄14年 5粉丝 38原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值