druid如何用利用tranquity server 向druid发送实时数据

Druid学习笔记(4)数据摄入总结 1. 概述Druid的数据摄入主要包括两大类: 1. 实时输入摄入:包括Pull,Push两种 - Pull:需要启动一个RealtimeNode节点,通过不同的Firehose摄取不同种类的数据源。 - Push:需要启动Tranquility或是Kafka索引服务。通过HTTP调用的方式进行数据摄入 2. 离线数据摄入:可以通过Realtime节点摄入,也可以通过索引节点启动任务摄入本文 阅读详情


1. 前提条件

   分布式druid系统安装已经完毕,安装过程见

 https://blog.youkuaiyun.com/bigtree_3721/article/details/79583008

参考doc: https://github.com/druid-io/tranquility/blob/master/docs/server.md

2. 下载tranquility server

官方下载地址:http://static.druid.io/tranquility/releases/tranquility-distribution-0.8.2.tgz

把 下载好的tar包解压到 /opt/tranquility-distribution-0.8.2

#cd /opt/tranquility-distribution-0.8.2

# vi conf/server.json

内容如下:

  1. {
  2. "dataSources" : {
  3. "mypageviews" : {
  4. "spec" : {
  5. "dataSchema" : {
  6. "dataSource" : "mypageviews",
  7. "parser" : {
  8. "type" : "string",
  9. "parseSpec" : {
  10. "timestampSpec" : {
  11. "format": "auto",
  12. "column": "time"
  13. },
  14. "dimensionsSpec" : {
  15. "dimensions": ["url", "user"]
  16. },
  17. "format" : "json"
  18. }
  19. },
  20. "granularitySpec" : {
  21. "type" : "uniform",
  22. "segmentGranularity" : "hour",
  23. "queryGranularity" : "none"
  24. },
  25. "metricsSpec" : [
  26. {"name": "views", "type": "count"},
  27. {"name": "latencyMs", "type": "doubleSum", "fieldName": "latencyMs"}
  28. ] },
  29. "ioConfig" : {
  30. "type" : "realtime"
  31. },
  32. "tuningConfig" : {
  33. "type" : "realtime",
  34. "maxRowsInMemory" : "100000",
  35. "intermediatePersistPeriod" : "PT1M",
  36. "windowPeriod" : "PT10M",
  37. "basePersistDirectory": "/data/persist"
  38. }
  39. },
  40. "properties" : {
  41. "task.partitions" : "1",
  42. "task.replicants" : "1"
  43. }
  44. }
  45. },
  46. "properties" : {
  47. "zookeeper.connect" : "10.70.27.8:2181,10.70.27.10:2181,10.70.27.12:2181",
  48. "druid.discovery.curator.path" : "/druid/discovery",
  49. "druid.selectors.indexing.serviceName" : "druid/overlord",
  50. "http.port" : "8200",
  51. "http.threads" : "8"
  52. }
  53. }

3. 启动 tranquility

nohup bin/tranquility server -configFile conf/server.json  > ./tranquit.out 2>&1 &

4. 发送 http post 请求到transquitity server

 可以用postman来发送请求:

地址: http://10.70.27.8:8200/v1/post/mypageviews

方法: post

内容:{"time": "2018-04-02T03:15:17Z", "url": "iroot.com/overea", "user": "today2551", "latencyMs":10}

content type: application/json

注意:"time"的值得现查系统,可以在linux用下面的命令获得:

# python -c 'import datetime; print(datetime.datetime.utcnow().strftime("%Y-%m-%dT%H:%M:%SZ"))'
2018-04-02T11:38:08Z


版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.youkuaiyun.com/bigtree_3721/article/details/79793768
druid数据摄入 数据摄入 Druid的数据摄入有两种方式,一种是流式数据源,一种是静态数据源 数据源种类 静态数据源:数据已经生产完毕,不会有新数据产生的数据源,静态数据通常表现为离线数据,静态服务可以通过实时节点摄入,也可以通过索引服务启动一个任务摄入。 流式数据源:指的是持续不断地生产数据的数据源。如日志,消息队列等。对于流式数据的摄取,Druid提供了两种方法,分别是Push(推送)和Pull(拉取... 阅读详情

相关推荐

【保研面试】线性代数面试复习

线性相关和无关 有向量组A,a1,a2…an , 如果存在不是全为0的k1,k2…kn,满足 a1 * k1 + a2 * k2… an * kn = 0 则向量组A称为线性相关(可以跟向量组A共面联系,即可以通过几个向量,表示出另外几个向量,故称为线性相关) 极大线性无关组 设有向量组A a1,a2…an(本身为线性相关) :若选出r个向量,满足以下条件 (1)向量组 r : 线性无关; (2) 向量组A中任意r+1个向量(若有的话)都线性相关, 则向量组r 是向量组A的一个极大线性无关组(简称为

云端筑梦师 6311

Druid通过Kafka加载数据

Druid如果需要通过Kafka加载实时数据并进行OLAP,需要下载Druid的另一个组建,也就是tranquility-distribution,下载地址:http://static.druid.io/tranquility/releases/tranquility-distribu...

chichong2518的博客 791

静态时序分析(STA)_深入解析Data to Data Checks的零周期挑战

本文深入解析了静态时序分析(STA)中Data to Data Checks的核心概念与零周期挑战。重点探讨了当Setup要求值超过时钟周期时,工具如何调整发射沿,并导致Hold检查的发射与捕获沿“分裂”这一反直觉现象。文章通过案例详细解读了时序报告,并提供了通过调整约束或接受多周期保持两种策略来应对这一挑战,帮助工程师正确理解和处理此类复杂时序检查。

weixin_29204205的博客 354

TypeScript Language Server 项目教程

TypeScript Language Server 项目的目录结构如下: ``` typescript-language-server/ ├── .github/ │ └── workflows/ ├── .vscode/ ├── docs/ ├── src/ ├── test-data/ ├── .editorconfig ├── .eslintrc.cjs ├── .gitattrib...

gitblog_00307的博客 894

RK3568/RK3288开发板Ubuntu系统下QT交叉编译环境搭建全攻略(含常见问题解决)

本文详细介绍了在Ubuntu系统下为RK3568和RK3288开发板搭建QT交叉编译环境的完整流程。内容涵盖从基础环境配置、桌面版Qt Creator安装、交叉编译工具链获取与配置,到编译ARM版Qt源码、在Qt Creator中配置交叉编译套件,以及程序部署与远程调试实战。文中还提供了常见问题(如库缺失、运行错误等)的解决方案,旨在帮助开发者高效完成嵌入式QT应用开发。

weixin_29174013的博客 898

第2.0章 机器人C++学习开篇(一):SLAM为什么使用C++语言及学习路线资料推荐

ROS(机器人操作系统):机器人领域的“操作系统”,提供节点通信、参数管理、工具链支持,是SLAM算法在机器人上部署的核心框架。PCL(点云库):处理三维点云数据的利器,包含滤波、分割、配准等算法,是激光SLAM的核心依赖。Eigen(矩阵运算库):高效的矩阵与线性代数运算库,SLAM中的位姿变换、优化求解都依赖它。Ceres/G2O(优化库):SLAM后端优化的“王牌”,Ceres擅长通用非线性优化,G2O则专为图优化设计,二者是BA( bundle adjustment)等算法的实现基础。

行知SLAM 1247

Druid:Loading from Kafka的坑

出现的问题: 1、创建文件1万次 2、HTTP400 3、几个配置文件加上druid.host=tagtic-master,druid在哪一台节点就加那台的hostdruid-0.9.2/conf/druid/broker/runtime.properties druid-0.9.2/conf/druid/coordinator/runtime.properties druid-0.9.2/

辉哥大数据 3365

ITIL 4 讲解:服务目录

最近一直比较忙,没有时间写文章了。今天有空,写写服务目录。 在最近的项目中,服务目录是比较热的话题。金融行业大部分银行、证券、金融公司都实行ITIL流程管理有些年头了,ITIL中最基础的服务请求、事件、问题和变更都已经实施完毕,目前客户在运维领域做的项目大部分都要求整理服务目录,实行服务级别管理。 服务目录介绍 首先解释一下什么是服务目录。服务目录在ITIL 4的定义是:有关服务提供商的所有服务和服务产品的结构化信息,与特定目标受众相关。这个解释有些晦涩难懂,简单来说就是提供给业务用户的服务项,就像饭

雅子MM的专栏 6468

解决冲突文件 hadoop 和druid

object[io.druid.query.lookup.LookupResourceListenerAnnouncer@4ee8a7]. 2018-04-18T13:00:18,350 INFO [main] io.druid.server.listener.announcer.ListenerResourceAnnouncer - Announcing start time on [/drui...

大JAVA解决方案 2848

泰凌微8258入门教程——导读

基于泰凌微TLSR8258 Bluetooth® SIG Mesh 的入门系列教程

2万+

手把手教你完成YOLOv8 PyQt5和PySide6目标检测界面搭建,前台系统+后台管理系统开发实战,可用于大论文凑工作量或毕设必备,全网最详细教程

目标检测是计算机视觉中的重要任务,广泛应用于安防监控、自动驾驶、智能家居等领域。YOLO系列模型由于其高效的检测速度和较高的准确率,成为目标检测任务的首选算法之一。本项目结合 YOLOv8 与 PyQt5,构建了一个图形化界面,便于用户进行目标检测的操作和展示,实现对图片、视频和摄像头的实时目标检测,不仅可以用于大论文的工作量展示,还可以作为毕业设计。支持目标检测、目标分割等模型进来检测

在职AI算法工程师,擅长计算机视觉,YOLO目标检测、分割等,擅长web、pyqt界面可视化,好内容持续更新中,来这里跟大家一起学习,共同进步 1万+

Tranquility 写入数据到 Druid

需求 启动一个单机版 Druid 直接通过一个客户端写一些数据进去,不通过其他 kafka 或者 批量导入之类的 调研出来的方案 启动 Druid + tranquility Druid+Tranquility 快速启动:http://druid.io/docs/latest/tutorials/tutorial-tranquility.html Tranquility仓库:https:/...

乔的博客 3115

AI安全护栏评测:TrustedExecBench如何量化评估大模型防护能力

在人工智能和机器学习领域,模型安全对齐是确保AI系统可靠、可控的核心技术。其原理是通过设计安全机制(即“护栏”)来约束模型行为,防止生成有害、偏见或越界内容。这项技术的核心价值在于平衡AI能力与风险管控,是可信AI部署的基石。应用场景广泛覆盖内容审核、对话系统、代码生成等需要人机交互的领域。本文聚焦的TrustedExecBench项目,正是针对“护栏”性能量化评估这一痛点,提供了一个标准化、自动化的开源评测框架。该工具通过构建多维度的恶意测试套件,并引入基于模型的动态评判机制,能够系统性地检验大语言模型在

weixin_42525428的博客 379

druid 查询接口的使用

核心 druid 查询接口的使用druid的查询接口是HTTP REST 风格的查询方式,使用HTTP REST 风格查询(Broker,Historical,或者Realtime)节点的数据,查询参数为JSON格式,每个节点类型都会暴露相同的REST查询接口curl -X POST '<queryable_host>:<port>/druid/v2/?pretty' -H 'Content-Ty

Xlucas的博客 9547

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Druid:一个用于大数据实时处理的开源分布式系统

Druid是一个用于大数据实时查询和分析的高容错、高性能开源分布式系统,旨在快速处理大规模的数据,并能够实现快速查询和分析。尤其是当发生代码部署、机器故障以及其他产品系统遇到宕机等情况时,Druid仍能够保持100%正常运行。创建Druid的最初意图主要是为了解决查询延迟问题,当时试图使用Hadoop来实现交互式查询分析,但是很难满足实时分析的需要。而Druid提供了以交互方式访问数据的能力,并权...

weixin_34310785的博客 419

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

大数据Druid部署、Push数据摄入实例

Druid 单机部署 有很多文章都介绍了Druid,大数据实时分析,在此我就不多说了。本文主要描述如何部署Druid的环境,Imply提供了一套完整的部署方式,包括依赖库,Druid,图形化的数据展示页面,SQL查询组件等,Push摄入数据Tranquility Server配置。 一、环境安装前准备: Java 8 https://download.oracle.com/otn-pub/jav...

liruizi的博客 2056

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

IPv6下DHCPv6协议(RFC3315)详细介绍

DHCPv6 详细介绍前言一、基础部分二、DHCPv6的进阶1、相关术语/概念(Term)2、几个相关的算法/规则3、Message交换过程详述4、基础的几个option介绍(RFC3315)(option 1-20)5、Message的option table6、Ubuntu搭建dhcpv6 server总结 前言 DHCP(Dynamic Host Configure Protocol)即动态主机配置协议,按照IP协议种类分为DHCPv4和DHCPv6。其中DHCPv4叙述在一下文章中聊过。 DHC

Kuaisen的博客 1万+

Druid(准)实时分析统计数据库——列存储+高效压缩

Druid是一个开源的、分布式的、列存储系统,特别适用于大数据上的(准)实时分析统计。且具有较好的稳定性(Highly Available)。 其相对比较轻量级,文档非常完善,也比较容易上手。 Druid vs 其他系统 Druid vs Impala/Shark Druid和Impala、Shark 的比较基本上可以归结为需要设计什么样的系统 Druid被设计用于: 一直...

djph26741的博客 272

DRUID- 通过postman或curl查询druid数据

通过postman或curl查询druid数据

sidongxue2的专栏 2900

druid.io剖析

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34393428的博客 269

第七章:druid.io实践分享之Realtime+kafka 二

本节重点介绍在运行过程中,这两个组件会出现什么问题及解决方式 场景如下: 场景1、第一次上线kafka的partition与realtime的个数关系

分布式应用与服务器架构专栏 8219

Java Druid大数据连接池的实例应用 和工具类

Druid大数据导入的工具类package dashuju; import com.alibaba.druid.pool.DruidPooledConnection; import org.apache.commons.lang.StringUtils; import org.slf4j.Logger; import org.slf4j.LoggerFactory; import javax

CNZYYH的博客 2673

Druid 大数据分析之查询

1、Druid 查询概述     上一节完成数据导入后,接下来讲讲Druid如何查询及统计分析导入的数据。    Druid的查询是使用REST风格的HTTP请求查询服务节点(Broker、Historical、Realtime),这些服务节点暴露REST查询接口,客户端发送Json对象请求查询接口。一般情况下,查询服务接口发布在Broker节点,基于Linux 的POST请求查询如下所示:...

yangyangmyself的专栏 1219

应用Druid进行数据源、SQL、Web应用、URI、Session等监控的简单实现

Druid是一个用于大数据实时查询和分析的高容错、高性能开源分布式系统,旨在快速处理大规模的数据,并能够实现快速查询和分析。Druid提供了以交互方式访问数据的能力,并权衡了查询的灵活性和性能而采取了特殊的存储格式。

哎_小羊的博客 1万+

假设数据库有一张表t_mail,里面存储着具体的邮件发件人、收件人、标题和内容。采用Druid连接池,读取id为1的记录,并基于Java Mail将该邮件发送出来

这是我这周一个作业; 做这个首先你要安装mysql 和Navicat,不安装Navicat也可,你在cmd里创建表或者mysql WorkBench里也可。 我是安装的Navicat,下面是安装成功之后进行连接mysql 下面是代码: 首先,这是程序的主程序 package zuoye; /** * * @author zrf * */ import java.sql.Connecti...

qq_45192089的博客 3256
上一篇: Java API操作HA方式下的Hadoop 原
下一篇: 推荐:Druid + Grafana 应用实践
王树民
博客等级 码龄10年 912粉丝 560原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值