ClickHouse Grafana插件4.0版 - 升级SQL可观测性

【grafana | clickhouse】实现展示多折线图 阅读详情

图片

本文字数:3396;估计阅读时间:9 分钟

作者:Clickhouse team

审校:庄晓东(魏庄)

本文在公众号【ClickHouseInc】首发

自2022年5月Grafana的ClickHouse插件首次发布以来,两种技术都有了长足的发展。在最近的一篇博文中,我们描述了实时OLAP存储的成熟度,与开源标准化如何使SQL应用于可观测性用例成为可能。使用户能够通过ClickHouse探索和可视化可观测性数据。我们深知使用SQL进行可观测性的挑战之一是:学习和使用SQL,因此我们继续投资于ClickHouse插件以协助解决这个问题。

版本4的发布看到了用户交互的新哲学,其中日志和跟踪成为新查询构建器体验中的重要组成部分。我们相信这将最小化SRE编写SQL查询的需求,并简化基于SQL的可观测性,推动这种新兴范式向前迈进。

在本博文中,我们将探讨版本4.0中用户体验的演变以及我们设计决策的思考过程。其中一部分是将Open Telemetry(OTel)置于插件的核心位置,因为我们相信:这将是未来几年基于SQL的可观测性和数据收集的基础。

将OpenTelemetry作为一等公民

早期版本的ClickHouse Grafana插件试图提供一个数据不可知的体验,允许用户在任何数据类型上构建可视化。虽然这种功能在版本4中得以保留,但用户会发现体验更加直观,并专注于为可观测性数据集(Grafana的主要用例)提供流畅的体验。

当插件首次安装,并且用户需要配置数据源时,这种变化将显而易见。除了能够配置默认数据库(现在还包括表),用户还可以为其日志和/或跟踪数据指定配置。简单地说,这意味着仅需指定日志和/或跟踪数据的默认数据库和表。但是,您还可以指定您的数据符合OTel规范(以及您使用的特定版本)。如果您对默认的OTel模式进行了更改,或者更喜欢使用自己的格式,则可以覆盖列名称。

图片

这里的日志配置非常简单 - 需要一个时间、日志级别和消息列,以便日志可以在后面的查询中得到良好的呈现,我们稍后会看到。

跟踪配置稍微复杂一些。这里需要的列是为了使后续的查询能够构建完整的跟踪概要。这些查询假定数据的结构与OTel类似,因此严重偏离标准模式的用户需要使用视图才能从此功能中受益。

简化的体验

早期版本的插件旨在帮助用户构建SQL查询,不考虑正在查询的数据类型。这要求用户指定他们是否想要构建选择行、执行聚合或执行时间序列分析的查询。通过“显示为”选项,控制查询构建器选项本身,以帮助用户避免为目标查询类型输入SQL,这个选择在初始版本中被称为“显示为”选项,混淆了使用。后来的迭代通过“格式”选项对此进行了分离。虽然这使用户可以构建查询类型,并根据需要呈现它,例如将时间序列呈现为表格,但这最终仍然令人困惑。用户最终会回到SQL编辑器,可以在那里手动输入查询。

图片

version 3

我们希望在版本4中优先解决这种混乱。此外,想要提供:更注重可观测性的体验,我们引入了专门用于日志和追踪的查询构建器。这些可以通过新的“查询类型”选择器获得,它简单地控制构建器的布局。鉴于用户仍然需要构建通用的时间序列查询和聚合,这包括了表格和时间序列选项。最后,对于那些有高级查询需求的用户,我们保留了通过经典的SQL编辑器编写自己查询的功能。

图片

version 4

查询追踪

Grafana提供了查询和呈现追踪的丰富功能。这需要目标存储根据其id重构整个追踪,以及其组成的跨度。在ClickHouse SQL中,这必然会导致复杂的查询,用户历来会通过参数化视图来隐藏这些查询。然而,整体体验仍然不尽如人意,用户需要通过SQL编辑器查询视图。

在4.0中,用户可以简单地使用过滤器搜索追踪,例如将结果限制为超过SLA持续时间的追踪。自动生成了用户识别顶级追踪所需的查询,并以表格格式返回结果,如所示。这要求用户指定映射到所需概念的列,例如TraceId。幸运的是,对于使用OTel模式的用户,这些映射会自动填充。

图片

请注意,以上内容包括了进入追踪并检索相关日志的能力。后者是提供统一可观测性体验的基础,用户可以轻松地在不同数据类型之间进行导航。

图片

“查看追踪”链接允许检索追踪的跨度,以Grafana所需的格式呈现,以便可以在分割视图的右侧以瀑布图形式呈现。

图片

如果用户希望检查特定追踪及其跨度,则现在也支持按id搜索。同样,无需SQL,只需输入id并搜索。这种特定的应用流程适用于从其他可观测性来源(例如日志)识别感兴趣的追踪的用户。

图片

这种无需编写查询即可搜索和呈现追踪的简单方式,使非SQL从业者有可能享受ClickHouse的高压缩率和闪电般的检索速度。

查询日志

日志查询构建器主要设计用于与Grafana的探索视图一起使用,用户可以列出日志事件并进行钻取。假设您正在使用OTel,现在查询日志数据不应需要更多操作,只需为您的查询类型选择日志,调整时间段,然后点击运行查询即可。

图片

正如您所见,我们现在还获得了显示日志级别随时间变化的直方图。由于我们现在在模式中具有有关级别和时间字段的所需信息,因此我们可以自动发出所需的GROUP BY查询,以支持此可视化。

用户可以选择对这些结果应用过滤器,修改排序顺序或限制结果数量,而无需编写SQL。对于那些希望深入了解的用户,SQL查询将通过经典编辑器呈现供编辑。

图片

与追踪类似,在调试问题时,日志并不是孤立消费的,用户还对生成日志行的请求相关的追踪感兴趣。现在,任何从日志中提取的追踪都作为可点击的链接显示出来。这将导致与先前搜索追踪并单击追踪id时演示的相同分割视图。

图片

或者,用户可以通过“查看追踪日志”按钮仅过滤到与特定追踪相关的其他日志行。

图片

其他数据类型

尽管以上明显简化了日志和追踪的查询,用户仍需要能够查询时间序列数据并构建仪表板!正如前面提到的,这是通过选择查询类型为TimeSeries或Table来支持的,这将呈现适当的构建器。

TimeSeries构建器提供了一个简单的构建器,用于随时间聚合数据。用户可以选择“简单”模式,该模式执行按时间顺序检索行以进行呈现的简单操作,或执行随时间的聚合,允许使用ClickHouse的任何分析函数计算指标。在两种情况下,都必须指定一个时间字段,默认为检测到的第一个时间字段。在任一模式下都可以指定一个系列列,这将自动呈现为多行。下面我们展示了2020年至2023年伦敦北部的英国房价平均值。

图片

Table构建器可以被视为第一个“紧急逃生通道”,如果您不查询时间序列、日志或追踪的话。通常这意味着您希望绘制柱状图、表格或单个指标。下面我们再次使用房价数据,将英国前10个邮政编码作为条形图显示。

图片

记住,如果以上任何方式都不起作用,您始终可以使用经典的SQL!最后,所有这些新功能都可以作为Grafana仪表板中的面板组装起来。

图片

展望未来

注意到上述内容忽略了用例的一个重要组成部分:指标。如我们的博客文章所述,指标是基于SQL的可观测性的三个支柱中最不成熟的一个。主要是因为ClickHouse缺乏Prometheus摄入接口和使用PromQL进行查询的手段,比如rate...。目前:),对于此支柱的任何构建器都感觉像是:提供了一个次优的解决方案来正确解决问题。敬请关注更新!

在接下来的几个月里,我们看到了提升插件的许多其他机会。实时日志跟踪是一个,我们知道许多用户需要实时诊断问题的功能。此外,我们对将AI服务整合到插件中的潜力感到兴奋。借鉴我们在Cloud控制台中使用AI驱动的SQL查询辅助所取得的成功,我们现在正在探索将相同功能整合到插件中的可能性,目的是允许用户使用自然语言查询其日志和追踪。

我们应该强调:当前插件处于Beta版。这主要是为了收集反馈,考虑到这个变化的重要性。作为我们的用户和社区,您的声音很重要,我们希望听到这些变化是否合理,以及您还希望看到什么其他内容。

结论

在本文中,我们探讨了新版ClickHouse Grafana插件如何将可观测性置于其新的设计理念的核心位置,并如何大大简化了日志和追踪的查询,同时保留了查询其他数据类型,如时间序列的灵活性。

征稿启示

面向社区长期正文,文章内容包括但不限于关于 ClickHouse 的技术研究、项目实践和创新做法等。建议行文风格干货输出&图文并茂。质量合格的文章将会发布在本公众号,优秀者也有机会推荐到 ClickHouse 官网。请将文章稿件的 WORD 版本发邮件至:Tracy.Wang@clickhouse.com

图片

​​联系我们

手机号:13910395701

邮箱:Tracy.Wang@clickhouse.com

满足您所有的在线分析列式数据库管理需求

快速基于 ClickHouse + Grafana 搭建可观测性解决方案 - 日志篇(ClickHouse 官方博客)... 引言 作为一款高性能的 OLAP 数据库,ClickHouse 被用于多种应用场景,包括 时间序列(time series)数据的实时分析。其多样化的应用场景推动了大量分析函数的发展,这些函数有助于查询大多数类型的数据。这些查询特性加上高压缩率使得越来越多的用户开始利用 ClickHouse 来存储可观测性数据。这类数据通常以三种常见形式存在:日志(logs)、指标(metrics) 和 跟踪... 阅读详情

相关推荐

基于OpenTelemetry与ClickHouse构建AI应用性能与成本监控体系

在云原生与微服务架构中,可观测性是保障系统稳定、优化性能与成本的核心能力。其原理在于通过标准化手段采集应用运行时的追踪、指标与日志数据,实现对系统内部状态的透明化洞察。对于AI应用而言,这项技术的价值尤为突出,因为其核心成本与性能瓶颈往往隐藏在模型推理、网络传输及Token消耗等复杂维度中。传统监控方案难以处理此类高维、动态的结构化数据。通过结合OpenTelemetry的统一数据采集标准和ClickHouse的高性能分析能力,可以构建一套面向AI应用场景的监控体系,精准追踪响应延迟的构成与Token消耗的

chubaisheng8627的博客 314

Grafana服务clickhouse-datasource插件安装失败

Grafana服务clickhouse-datasource插件安装失败,解决报错Failed to download https://github.com/grafana/clickhouse-datasource/releases/download/v2.0.7/grafana-clickhouse-datasource-2.0.7.linux_amd64.zip

Felier's Blog 1440

DeepFlow:基于eBPF与AutoTagging的统一可观测性平台实践

在云原生与微服务架构中,可观测性是保障系统稳定性的基石,其核心在于对日志、指标、链路追踪三大支柱数据的统一采集、关联与分析。传统方案往往面临数据孤岛问题,不同来源的观测数据因标签体系不一而难以关联,导致故障排查效率低下。eBPF技术为此提供了革新思路,它允许在内核层面无侵入地采集网络、系统调用等信号,为构建全景观测能力奠定了基础。DeepFlow正是基于eBPF,并结合其核心的AutoTagging(智能标签注入)能力,实现了对多源异构可观测性数据的自动化关联。它通过统一的标签体系,将来自基础设施、应用、业

weixin_42521558的博客 616

clickhouse笔记03-- Grafana 接入ClickHouse

clickhouse笔记03-- Grafana 接入ClickHouse 1 介绍 2 安装测试 3 注意事项 4 说明 1 介绍 Grafana具备强大的图表面板展示能力,使用Grafana后用户可以通过仪表板创建、探索和共享所有的数据。若需要通过Grafana搜索战士ClickHouse数据,需要先安装一个插件来连接ClickHouse,然后才能使用 ClickHouse 数据。 本文主要介绍如何在ClickHouse 中安装插件并接入ClickHouse数据,并通过 grafana 来展示表中的数据

脚步不能达到的地方,眼光可以达到;眼光不能达到的地方,精神可以飞到 4295

机器学习模型生产可观测性:构建三层反馈飞轮

机器学习模型上线后性能衰减,往往并非算法问题,而是缺乏对真实运行状态的可观测能力。可观测性是MLOps的核心支柱,其本质是通过基础设施、模型服务与业务影响三个层级的指标联动,实现从数据漂移、特征异常到业务价值偏差的全链路追踪。关键技术包括PSI漂移检测、TOP3预测熵监控、请求级动态采样及因果归因分析,支撑模型在复杂生产环境中自主预警、快速诊断与闭环反馈。本文聚焦Notebook to Production落地中最易被忽视的持续可观测性建设,提供可工程化复用的架构设计与实操方案。

380

模型监控流水线实战:从torchserve埋点到Grafana归因看板

模型监控不是静态仪表盘,而是覆盖数据质量、模型性能与系统健康的动态可观测性体系。其核心原理在于将监控能力前置至训练阶段,通过结构化日志采集、时序化指标计算与告警即代码实现闭环治理。技术价值体现在显著降低根因分析时间(实测从47分钟缩短至8分钟)、支持滚动基线与KL散度等业务适配型漂移检测,并保障多团队协同下的可审计性与可维护性。典型应用场景包括推荐系统CTR异常归因、风控模型拒绝率突增诊断及NLP服务延迟飙升定位。本文聚焦基于torchserve、Spark、TimescaleDB与Grafana构建的开源

anque1234的博客 407

ClickHouse 官方文档:如何使用 Grafana 分析数据【5/5】

本文字数:5226;估计阅读时间:14 分钟作者: ClickHouse官方本文在公众号【ClickHouseInc】首发是 ClickHouse 中可观测性数据的首选可视化工具。通过官方的 ClickHouse 插件,用户可以轻松集成。用户可参考这里的安装说明进行安装【https://clickhouse.com/docs/en/integrations/grafana】。

ClickHouseDB的博客 1411

Apache Doris在Agent可观测性场景的架构实践与性能优化

在云原生和微服务架构中,可观测性数据的实时处理与分析是保障系统稳定性的关键。其核心挑战在于如何高效应对高并发实时写入与低延迟即席查询的混合负载。传统方案如Elasticsearch或批处理框架,往往在写入吞吐、查询延迟与高基数聚合等维度面临瓶颈。Apache Doris作为一款现代化的MPP分析型数据库,通过其独特的列式存储引擎、向量化执行和智能索引机制,为这类场景提供了新的解决方案。它能够有效支持海量Agent日志与指标的实时摄入,并通过前缀索引、物化视图等技术实现亚秒级查询响应,满足运维监控、故障排查等

aaa1231722的博客 304

ClickHouse-Grafana插件日志与追踪支持:如何实现Flamegraph和OpenTelemetry可视化

ClickHouse-Grafana插件作为连接ClickHouse数据库和Grafana可视化平台的关键桥梁,提供了强大的日志与追踪支持功能,让用户能够轻松实现性能分析和系统监控的可视化。本文将详细介绍如何利用ClickHouse-Grafana插件的日志支持、火焰图(Flamegraph)和OpenTelemetry追踪功能,构建完整的可观测性解决方案。 ## 🔍 ClickHouse-G

gitblog_00431的博客 519

AI Agent生产落地实战:可观测性、状态裁剪与工具契约

AI Agent并非简单调用大模型的智能程序,而是需在高并发、多依赖、强业务约束下持续稳定运行的分布式系统。其核心挑战在于如何实现可预测的行为、可控的资源消耗与可追溯的决策链路。关键技术原理包括:通过结构化分层Memory实现精准状态管理,以避免上下文爆炸;基于OpenAPI契约驱动的Tool调用机制,保障服务间协作的确定性;以及覆盖Input-Processing-Output全链路的语义化可观测性体系。这些能力共同支撑Agent从Demo走向金融、医疗、电商等关键业务场景的规模化落地。本文聚焦真实生产环

346

Airflow vs Prefect 实战选型指南:从故障恢复、动态编排到可观测性

工作流调度系统是现代数据平台的核心基础设施,其本质是协调任务执行、管理依赖关系并保障可靠性。Airflow 以声明式 DAG 为核心,强调可审计性与稳定性,适合周期固定、逻辑清晰的 ETL 场景;Prefect 则采用运行时决定的 Flow-Task 模型,将流程控制回归标准 Python 语法,天然支持条件分支、异常捕获与细粒度状态监听。二者差异不在功能多寡,而在于抽象层级——前者描述‘该做什么’,后者编写‘如何做’。技术价值体现在错误恢复语义(如按异常类型定制重试)、可观测性深度(如任务输入/输出级日志

weixin_33811539的博客 501

ClickHouse-Grafana插件部署最佳实践:Docker Compose、Kubernetes和生产环境配置

ClickHouse-Grafana插件是Altinity公司开发的Grafana数据源插件,专门用于将ClickHouse®高性能列式数据库与Grafana可视化平台无缝集成。这个强大的组合让用户能够实时监控和分析海量时序数据,为业务决策提供数据支持。无论您是数据工程师、运维人员还是数据分析师,掌握ClickHouse-Grafana插件的部署技巧都能显著提升您的监控效率。 ## 📦 插件架

gitblog_00390的博客 418

ClickHouse&Prometheus&Grafana监控实操

ClickHouse&Prometheus&Grafana监控实操

探索大数据世界 - 深入解析数据存储、分布式计算与人工智能 1616

基于OpenTelemetry与ClickHouse的AI服务延迟与Token消耗监控实践

在AI应用开发与运维中,可观测性是保障服务稳定与成本可控的基石。其核心原理在于通过统一标准采集、关联和分析应用运行时的各类信号数据,从而实现对系统内部状态的深度洞察。这项技术的核心价值在于,它能够将性能瓶颈、资源消耗和异常行为从“黑盒”变为“白盒”,为优化决策提供数据支撑。典型的应用场景包括微服务链路追踪、应用性能监控以及成本分析。本文聚焦于AI服务特有的监控挑战,特别是响应延迟与Token消耗这两个直接影响用户体验和运营成本的关键指标。通过结合OpenTelemetry提供的标准化数据采集能力和Click

weixin_30475039的博客 289

如何利用CN3791实现太阳能电池板对锂电池的高效充电管理

本文详细介绍了如何利用CN3791芯片实现太阳能电池板对锂电池的高效充电管理。CN3791集成了MPPT(最大功率点跟踪)功能,能智能调节太阳能板的输出,确保在不同光照条件下获得最大功率。文章涵盖芯片工作原理、外围电路设计、充电全过程管理及实际应用经验,帮助开发者优化太阳能充电系统效率。

weixin_33709219的博客 499

Unity事件总线第一篇:为什么你的游戏需要一个事件总线?

本文探讨了游戏开发中常见的跨模块调用导致代码强耦合的问题。通过一个攻击按钮触发角色攻击、怪物掉血和血条更新的案例,分析了直接调用方式带来的维护困难、扩展性差和模块重用性低等弊端。文章提出使用事件总线(Event Bus)作为解决方案,通过发布-订阅模式实现模块解耦。重构后的代码中,各模块只需与事件总线交互,彼此不再直接依赖。这种设计使得新增功能(如音效)无需修改现有代码,大大提高了系统的可维护性和扩展性,同时增强了模块的重用性,完美体现了开闭原则。

qq_46348216的博客 1298

基于开源技术栈构建兼顾隐私与可观测性的流量分析系统

在当今的软件开发和运维领域,可观测性(Observability)已成为理解系统行为、保障服务稳定的核心支柱。它通过日志、指标和追踪三大数据源,让开发者能够透视系统内部状态,快速定位问题并优化性能。其中,流量分析作为指标和日志的重要组成部分,能够揭示用户来源、行为路径和系统负载等关键信息,是实现业务洞察的基础。然而,随着全球数据隐私法规(如GDPR、CCPA)的日益严格,如何在利用流量数据进行深度分析的同时,确保用户个人信息的安全与匿名,成为了一项重要的技术挑战。这要求在工程实践中,必须将匿名化(Anony

weixin_34021089的博客 368

从量子兔AlphaPi硬件拆解到ESP32-C3库开发实战

本文详细拆解了量子兔AlphaPi开发板的硬件构成,重点分析了其核心ESP32-C3芯片及外围传感器。通过逆向工程揭示了GPIO引脚定义与通信协议,并实战演示了如何从零开发MicroPython库,驱动按键、加速度计及LED点阵,最终整合成一个互动平衡球游戏项目,展现了开源硬件在教育与二次开发中的潜力。

weixin_29164497的博客 458

深度解析DeepFlow:基于eBPF的零侵扰云原生可观测性平台实战指南

DeepFlow作为一款基于eBPF技术的云原生可观测性平台,通过**零代码**(Zero Code)和**全栈**(Full Stack)监控能力,彻底改变了传统监控体系的复杂性。本文将为技术决策者和运维工程师提供一份完整的DeepFlow实战指南,涵盖架构原理、部署策略、性能优化和运维实践,帮助您构建高效的企业级可观测性体系。 ## 🌟 架构设计原理与核心优势 ### eBPF驱动的零侵

gitblog_01133的博客 366

使用R语言(ggplot2)绘制KEGG信号通路富集气泡图

本文详细介绍了如何使用R语言的ggplot2包绘制KEGG信号通路富集气泡图,从数据预处理到高级定制技巧,帮助生物信息学研究者直观展示富集分析结果。文章涵盖了气泡图的核心绘制方法、布局优化、常见问题解决方案以及交互式可视化扩展,是进行KEGG富集分析可视化的实用指南。

weixin_42625070的博客 447

鸿蒙OS+UniApp文件上传实战:如何解决大文件分片上传的3大坑?

本文深入探讨鸿蒙OS与UniApp结合实现大文件分片上传的实战方案,重点解决分片策略设计、网络中断处理和进度管理三大技术难题。通过鸿蒙分布式特性与UniApp跨平台能力的结合,提供动态分片调整、断点续传和跨设备进度同步等优化方案,显著提升大文件上传成功率和用户体验。

weixin_29250403的博客 474

云原生技术12-Grafana 10新特性:AI助手、场景化Dashboard、更强大的查询,从Dashboard到Alerting:Grafana全链路实战

/ 最简单的Panel插件示例 (SimplePanel.tsx)// 从查询结果中获取数据return (</div></div>💡效率技巧:使用Grafana的Grafana作为开源可视化领域的王者,不仅能让你告别"截图工程师"的称号,还能让你的监控数据真正"会说话"。从Datasource到Dashboard,从告警到插件生态,Grafana提供了一整套完整的可观测性解决方案。记住,一个好的Dashboard不是堆砌图表,而是讲述数据背后的故事。

weitingfu的博客 240

通俗地解释一下 EMD(经验模态分解,Empirical Mode Decomposition)

EMD 就像把一碗“混在一起的面条”分成不同粗细的面条,方便你逐层分析每种波动。

qlkaicx的博客 1247

StarRocks 如何监控 SQL

在 StarRocks 中审计日志记录了所有用户的查询和连接信息,理论上我们只需要对这些日志进行分析就可以得到相关的慢 SQL,高 CPU、高内存的 SQL 信息。这里我们选择一个更简单的方法,我们可以将日志输出为 JSON 格式,然后再将其结构化,为每个字段创建索引,存入到单独的日志服务里。StarRocks 还有定期执行的内部 SQL,目前这些 SQL 也是会记录日志,但只是记录的纯文本,无法很好的对其进行监控。,将审计日志写入到一张单独的表里供后续分析,也可以实现类似的效果。

crossoverJie专栏 1167

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

上一篇: 流式捕捉:ClickHouse的开箱即用CDC解决方案
下一篇: 用 LlamaIndex 和 ClickHouse 为Hacker News 和 Stack Overflow 构建聊天机器人
ClickHouseDB
博客等级 码龄3年 1707粉丝 320原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值