druid集群部署问题

Druid集群部署与性能优化实战指南 实时分析数据库Druid作为大数据领域的重要组件,其核心价值在于支持高并发低延迟的OLAP查询。通过分布式架构设计,Druid实现了数据的实时摄入与快速分析能力,特别适用于监控分析、用户行为分析等时序数据处理场景。在集群部署时,需要重点规划Coordinator、Broker等核心组件的资源配置,其中Broker节点建议采用32GB以上内存和万兆网络以保障查询性能。实践中常采用HDFS作为深度存储方案,配合JVM参数调优(如G1垃圾回收器配置)可显著提升Historical节点的数据处理效率。合理的Kerb 阅读详情


一、问题描述

2016-03-09T15:01:54,938 ERROR [task-runner-0-priority-0] io.druid.indexing.overlord.ThreadPoolTaskRunner - Exception while running task[HadoopIndexTask{id=index_hadoop_wikipedia_2016-03-09T15:00:28.895+01:00, type=index_hadoop, dataSource=wikipedia}]
java.lang.RuntimeException: java.lang.reflect.InvocationTargetException
        at com.google.common.base.Throwables.propagate(Throwables.java:160) ~[guava-16.0.1.jar:?]
        at io.druid.indexing.common.task.HadoopTask.invokeForeignLoader(HadoopTask.java:171) ~[druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        at io.druid.indexing.common.task.HadoopIndexTask.run(HadoopIndexTask.java:208) ~[druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        at io.druid.indexing.overlord.ThreadPoolTaskRunner$ThreadPoolTaskRunnerCallable.call(ThreadPoolTaskRunner.java:338) [druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        at io.druid.indexing.overlord.ThreadPoolTaskRunner$ThreadPoolTaskRunnerCallable.call(ThreadPoolTaskRunner.java:318) [druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        at java.util.concurrent.FutureTask.run(FutureTask.java:262) [?:1.7.0_75]
        at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145) [?:1.7.0_75]
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615) [?:1.7.0_75]
        at java.lang.Thread.run(Thread.java:745) [?:1.7.0_75]
Caused by: java.lang.reflect.InvocationTargetException
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) ~[?:1.7.0_75]
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) ~[?:1.7.0_75]
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) ~[?:1.7.0_75]
        at java.lang.reflect.Method.invoke(Method.java:606) ~[?:1.7.0_75]
        at io.druid.indexing.common.task.HadoopTask.invokeForeignLoader(HadoopTask.java:168) ~[druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        ... 7 more
Caused by: com.metamx.common.ISE: Job[class io.druid.indexer.IndexGeneratorJob] failed!
        at io.druid.indexer.JobHelper.runJobs(JobHelper.java:343) ~[druid-indexing-hadoop-0.9.0-rc2.jar:0.9.0-rc2]
        at io.druid.indexer.HadoopDruidIndexerJob.run(HadoopDruidIndexerJob.java:94) ~[druid-indexing-hadoop-0.9.0-rc2.jar:0.9.0-rc2]
        at io.druid.indexing.common.task.HadoopIndexTask$HadoopIndexGeneratorInnerProcessing.runTask(HadoopIndexTask.java:261) ~[druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) ~[?:1.7.0_75]
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) ~[?:1.7.0_75]
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) ~[?:1.7.0_75]
        at java.lang.reflect.Method.invoke(Method.java:606) ~[?:1.7.0_75]
        at io.druid.indexing.common.task.HadoopTask.invokeForeignLoader(HadoopTask.java:168) ~[druid-indexing-service-0.9.0-rc2.jar:0.9.0-rc2]
        ... 7 more
2016-03-09T15:01:54,952 INFO [task-runner-0-priority-0] io.druid.indexing.worker.executor.ExecutorLifecycle - Task completed with status: {

    原因分析:hadoop-dependencies/hadoop-client/2.3.0下的依赖包jackson-core-asl-1.9.13.jar、jackson-mapper-asl-1.9.13.jar和lib下的依赖包冲突引起的

    解决办法:删除掉lib下的jackson-core-asl-1.9.13.jar和jackson-mapper-asl-1.9.13.jar依赖包,把hadoop-dependencies/hadoop-client/2.3.0下这两个依赖包copy过去即可。


二、问题描述

    查询数据得不到结果???  

    解决办法:加载数据要加载到overload节点,查询数据要从broker节点查询。

Druid集群部署与调优实战指南 实时分析数据库是现代大数据架构中的关键组件,其核心原理是通过分布式架构实现高吞吐量数据摄入和低延迟查询。Druid作为开源实时分析数据库的代表,采用独特的列式存储和内存映射技术,在广告分析、用户行为追踪等场景展现出色性能。本文以Druid集群部署为主题,详细解析Coordinator、Overlord等核心组件的功能原理,提供经过生产验证的硬件资源配置方案和JVM调优参数,并演示如何通过Prometheus实现集群监控。针对高可用配置、安全认证等企业级需求,给出包括ZooKeeper集成、TLS加密在内的完 阅读详情

相关推荐

Seata + Druid + MySQL8 引发的巨坑

问题描述 最近在项目生产环境部署过程中,发现了一个很奇怪的错误。错误内容如下图所示,大致看下,也就是一条很简单update SQL语句居然无法执行,报空指针异常。该问题从开始发现到解决一共跨了3天,现在总结下。 一开始怀疑是传入给Mybatis的参数某个为null,然后把SQL及参数打印出来看了下,每个参数类型、值都有,数量也是正确的,然后陷入了深思。 深入思考,详细分析,验证猜想 然后冷静下来,将出问题可能性分析如下方面 jar包问题, 生成环境的部署比较特殊 怀疑和seata有关系,因为此逻辑中存在

法号钦尘的博客 3025

druid批量索引任务 报错

overlord[http://node01:8090/druid/indexer/v1/action]: LockListAction{} 2020-10-26T22:41:47,273 ERROR [task-runner-0-priority-0] io.druid.indexing.overlord.ThreadPoolTaskRunner - Exception while running task[IndexTask{id=index_ad_event_local_2020-10-26T22:.

qq_38144121的博客 530

Catia二次开发QueryInterface的操蛋问题

探索了很久,尝试录制宏,打开部件属性窗口,然后随意设置一些属性(必须改变一些东西才能录制成功,否则不会录制到任何东西),再看录制的结果,发现原来CATIAAnalyze是从Product那里来的。例如获得一个部件的体积,找到相关接口CATIAAnalyze,但是这个部件的CATIAAnalyze的对象不知道如何获取。总结一下,写Catia二开代码,就像漂亮国那款《莫里秀》 又名《爸爸死哪了》的综艺节目,大部分时间都是在找爸爸!Catia二开很痛苦,明明已经找到接口类,但是却不知道怎么获得这个接口类的对象。

gergul的专栏 748

error

错误:unable to resolve function overload   错误原因:

JUST DO IT 935

CSP-J/S复赛文件组织与freopen读写全攻略,避免爆零

在信息学竞赛的上机考试中,代码能力固然重要,但文件组织与输入输出重定向往往是决定成败的关键细节。许多选手习惯在线评测环境,对本地文件命名、目录层级和读写方式缺乏系统认知,导致算法正确却因文件名拼写错误或freopen使用不当而遗憾失分。理解评测系统的工作原理,掌握从建立准考证号目录到规范命名源文件,再到使用freopen进行文件流重定向的标准流程,是每位参赛者的必备技能。这种工程化习惯不仅适用于CSP-J/S复赛,也是未来参加NOI等更高水平竞赛的基础。本文从文件组织的底层逻辑出发,结合实战案例,系统讲解考

weixin_32466193的博客 597

关于 SAP UI5 应用 url 中的特殊符号 # 的作用介绍

符号在 SAP UI5 的 URL 中不仅仅是一个分隔符,更是动态路由、状态管理和深链接的关键所在。通过合理使用,开发者可以实现高效、流畅的用户体验,同时保持系统的可维护性和扩展性。通过 SAP UI5 提供的灵活路由机制,企业应用可以轻松实现复杂导航需求,同时为用户提供直观的交互体验。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 415

druid.io值kafka-index-service任务失败异常排查

2019-06-19T03:44:02,711 INFO [task-runner-0-priority-0] io.druid.indexer.HadoopDruidIndexerJob - No metadataStorageUpdaterJob set in the config. This is cool if you are running a hadoop index task, ot...

梦想成真那天 1258

YOLOv8改进 | 独家创新篇 | 给YOLOv8增加辅助可逆分支结构(PGI,1:1改进)(全网独家创新,附视频讲解)

这张图(图3)展示了可编程梯度信息(PGI)及其相关网络架构和方法。这种网络结构主要用于改进特征融合,以提高目标检测的性能。然而,由于信息瓶颈的存在,网络中可能会丢失一些信息。这是一种旨在减少信息丢失的网络设计。它通过可逆的列结构来尝试维持信息流通不受损失,但如图中“Heavy Cost”所示,这种结构会增加计算成本。c) 深度监督:这种方法通过在网络的多个层次中插入额外的监督信号来提高学习的效率和最终模型的性能。图中显示了通过深度监督连接的各个层。

Snu77的博客 3745

druid集群搭建

一、基础环境 cdh5.14.0 Hadoop 2.6.0+cdh5.14.0+2715 HDFS 2.6.0+cdh5.14.0+2715 ZooKeep...

507

第9集:AI 驱动的智能日志分析!用 RAG 实现秒级日志检索与异常检测

文章摘要:AI驱动的智能日志分析系统 本文介绍了一个基于RAG(检索增强生成)技术的智能日志分析解决方案,旨在解决传统日志系统中的三大痛点:机械的关键词搜索、缺乏语义理解、告警与日志割裂。系统通过以下步骤实现: 环境准备:安装必要的Python依赖库,包括日志处理、Elasticsearch/Loki连接和时序异常检测工具。 核心设计:构建日志处理流水线,分为日志采集、向量化存储和AI检索分析三个阶段,创建专门的日志分析Agent。 技术实现:使用ChromaDB存储日志向量,通过HuggingFace E

qq_2937655951的博客 81

把 NAST 变成你的遥控器:用 ABAP 程序精确触发与处理 Output Type

摘要 SAP中的Message Control机制通过NAST表记录输出状态,支持自动触发打印、邮件等操作。关键步骤包括: 构造NAST记录:定义输出类型、介质、处理状态等参数 调用处理函数:使用RV_MESSAGE_UPDATE_SINGLE更新表,通过WFMC_MESSAGES_PROCESS执行输出 典型应用场景: 单据补发(如PO邮件重发) 外部系统集成触发输出 故障恢复处理积压消息 注意事项: 需提交事务确保更新生效 区分S/4HANA新旧输出体系 正确处理派发时间(VSZTP)和状态(VSTAT

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 261

从 Docker 中安装启动 Druid

Docker 在本 Docker 的快速指南中,我们将从Docker Hub下载 Apache Druid 镜像,在一台机器上安装并使用Docker和Docker Compose。 在完成初始设置后,集群将准备好加载数据。 同时,如果你已经完成了下面内容的阅读的话将会更好的帮助你理解 Docker 安装配置的相关内容。 Druid 基本概述 数据导入概述 如果你还能对 Docker 使用的相关知识有所了解的,也能够更好的帮助你在 Docker 上使用 Druid。 安装前提 Dock...

HONEY MOOSE 1130

RTT Studio和Cubemx联合开发

1. RTT studio创建工程 创建工程 ## 创建完成以后的目录结构 2. 配置CubuMx 双击cubumx的图标打开CubeMx 配置时钟 生成代码 构建后的代码结构 编译代码满屏错误:不要慌 3. 新增脚本 新建scons脚本文件 SConscript 脚本内容如下 import os from building import * cwd = GetCurrentDir() src = Glob('*.c') # add cubemx drivers src = Split('''

Car12 1569

Druid(Druid.io)安装(单机&集群)

Druid安装部署 一、环境需求 Java 8 (8u92 +) Linux, Mac OS X, or other Unix-like OS(不支持Windows系统) Zookeeper (3.4 +) Druid下载: 官网:https://druid.apache.org,进入官网后点击“Download”,进入下载界面,当前最新版本0.16,这里我们选择编译版本下载; ...

凌晨1点21分的专栏 2661

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

告别数据库单点故障:Druid连接池集群部署全指南

你是否曾因数据库连接池单点故障导致服务不可用?是否在读写分离场景中为连接路由烦恼?本文将通过Druid的High Available DataSource(高可用数据源)组件,带你实现无需额外负载均衡器的连接池集群方案,涵盖动态节点管理、智能故障转移和性能优化实践。 ## 一、高可用数据源核心架构 Druid的HA DataSource通过封装多个基础数据源实现集群能力,核心组件包括: - ...

gitblog_00169的博客 855

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

druid.io mysql_Druid:Druid.io 部署&使用文档

参考:1.集群模式下部署Prerequisites : Java 7 or higher & Zookeeper & mysql下载Druid.io :curl -O http://static.druid.io/artifacts/releases/druid-0.9.1.1-bin.tar.gztar -xzf druid-0.9.1.1-bin.tar.gzcd druid-...

weixin_40007515的博客 172

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

大数据-151 Apache Druid 集群落地 [上篇] MySQL 元数据 + HDFS 深存与低配调优

Apache Druid 30.0.0 的可落地方案,覆盖 MySQL 元数据存储(mysql-connector-java 8.0.19)、HDFS 深度存储与 HDFS 上的 indexing-logs、以及 Kafka 实时摄取的混部实践。重点解释 Druid 角色划分(Coordinator/Overlord、Broker/Router、Historical、MiddleManager)、ZooKeeper 集群配置与 common.runtime.properties 关键项;给出 JVM 低配调

谢谢你的喜欢 我们一起无限进步 5902

CentOS7.1.x下Druid 0.12集群部署与优化指南

分布式实时分析数据库Druid作为大数据处理领域的重要工具,通过其独特的列式存储和分布式架构,能够高效处理事件驱动的数据流。在Linux环境下,特别是CentOS7.1.x这样的稳定发行版上部署Druid集群,需要关注系统配置、Java环境调优等基础工作。从技术实现来看,Druid通过Coordinator、Historical等节点分工协作,支持实时数据摄取和快速聚合查询。在生产环境中,合理的集群架构设计和JVM参数调优尤为关键,比如调整Historical节点的内存配置和处理线程数。结合Promethe

weixin_29057695的博客 321

Druid 0.17 安装部署与集群配置指南

实时分析数据库是现代大数据架构中的核心组件,通过列式存储和分布式查询引擎实现亚秒级响应。Druid作为开源代表,其核心原理结合了时间序列存储、倒排索引和分布式协同机制,特别适合处理高并发时序数据分析场景。在工程实践中,合理的硬件资源配置(如SSD存储和内存优化)与软件依赖管理(Java环境、ZooKeeper协调服务)是保证性能的基础。本文以Druid 0.17为例,详细演示从单机测试到生产集群的部署过程,包括关键参数调优技巧和典型问题解决方案,帮助开发者快速构建高性能OLAP系统。

weixin_33417488的博客 312

5分钟上手!Apache Druid × Grafana 打造实时监控仪表盘全攻略

你是否还在为实时数据监控仪表盘搭建繁琐而烦恼?本文将带你通过5个步骤完成Apache Druid与Grafana的无缝集成,从环境部署到可视化配置,全程实操不踩坑。读完你将获得: - 快速部署Druid单节点集群的方法 - 配置Grafana数据源连接Druid的详细步骤 - 构建多维度实时监控仪表盘的实战技巧 - 性能优化与常见问题解决方案 ## 1. 环境准备与核心组件部署 ### 1.1...

gitblog_00101的博客 662

Druid与Overlord-Federation

背景Druid 是一款可以针对时间序列数据,提供亚秒级交互式分析的分布式、实时 OLAP 分析型数据库。具有对实时数据流与离线数据集合的良好支持,对原始事件数据有很高的压缩率,这使得其具有良好的查询性能与存储效率。Druid 是一个计算与存储相结合的系统。为了提供更好的查询性能与存储效率,Druid 会对所有原始事件数据在摄入时就进行预聚合,这一计算过程可以有效提升数据压缩率,在合理配置的情况下可...

didi_cloud的博客 331

Druid核心架构解析与集群部署实践

实时分析型数据库通过分布式架构实现高吞吐量数据摄入与低延迟查询,其核心技术在于节点分工与资源隔离。Druid采用Coordinator、Overlord等五种专用节点协同工作,其中Historical节点负责热数据存储与查询执行,Broker节点作为查询路由枢纽。在JVM调优层面,需要平衡堆内存与直接内存分配,典型配置如Historical节点建议-Xmx4G并配合-XX:MaxDirectMemorySize=4G。对于生产环境部署,推荐使用ZooKeeper实现服务发现,结合S3等深度存储方案保障数据可

weixin_32821533的博客 306

Apache Druid终极监控指南:Prometheus全链路指标采集实战

你是否曾经为Druid集群的突发故障束手无策?是否因为缺乏实时监控而错失最佳恢复时机?本文将带你从零构建生产级Druid监控告警体系,通过Prometheus采集关键Metrics指标,实现集群健康度可视化与异常自动告警,让你轻松掌控千亿级数据处理平台的运行状态。 通过本指南,你将掌握Druid监控的核心要点,包括**PrometheusEmitter插件部署**、**关键指标阈值设置**、**

gitblog_00065的博客 763
上一篇: Paxos算法原理与推导
下一篇: Eclipse 提示 @Override must override a superclass method 问题解决 remove@Override annotation
王树民
博客等级 码龄10年 912粉丝 560原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值