自从上线了 Prometheus 监控告警,真香!

【DevOps】Prometheus+Grafana:生成pdf报表 安装Grafana 下载地址:https://grafana.com/grafana/download wget https://dl.grafana.com/enterprise/release/grafana-enterprise-7.4.3-1.x86_64.rpm sudo yum install grafana-enterprise-7.4.3-1.x86_64.rpm 安装Prometheus 下载地址:https://prometheus.io/download/ 得到二进制文件,解压后,运 阅读详情

点击上方“芋道源码”,选择“设为星标”

管她前浪,还是后浪?

能浪的浪,才是好浪!

每天 8:55 更新文章,每天掉亿点点头发...

源码精品专栏

 

来源:cyningsun.com/

02-22-2020/

hidden-secret-to-understanding-prometheus.html

  • 背景

  • 日常监控

  • 存储引擎

  • 数据计算

  • 一次计算,处处查询


背景

对很多人来说,未知、不确定、不在掌控的东西,会有潜意识的逃避。当我第一次接触 Prometheus 的时候也有类似的感觉。对初学者来说, Prometheus 包含的概念太多了,门槛也太高了。

概念:Instance、Job、Metric、Metric Name、Metric Label、Metric Value、Metric Type(Counter、Gauge、Histogram、Summary)、DataType(Instant Vector、Range Vector、Scalar、String)、Operator、Function

马云说:“虽然阿里巴巴是全球最大的零售平台,但阿里不是零售公司,是一家数据公司”。Prometheus 也是一样,本质来说是一个基于数据的监控系统。

日常监控

假设需要监控 WebServerA 每个API的请求量为例,需要监控的维度包括:服务名(job)、实例IP(instance)、API名(handler)、方法(method)、返回码(code)、请求量(value)。

promql

如果以SQL为例,演示常见的查询操作:

  1. 查询 method=put 且 code=200 的请求量(红框)

    SELECT * from http_requests_total WHERE code=”200” AND method=”put” AND created_at BETWEEN 1495435700 AND 1495435710;

  2. 查询 handler=prometheus 且 method=post 的请求量(绿框)

    SELECT * from http_requests_total WHERE handler=”prometheus” AND method=”post” AND created_at BETWEEN 1495435700 AND 1495435710;

  3. 查询 instance=10.59.8.110 且 handler 以 query 开头 的请求量(绿框)

    SELECT * from http_requests_total WHERE handler=”query” AND instance=”10.59.8.110” AND created_at BETWEEN 1495435700 AND 1495435710;

通过以上示例可以看出,在常用查询和统计方面,日常监控多用于根据监控的维度进行查询与时间进行组合查询。如果监控100个服务,平均每个服务部署10个实例,每个服务有20个API,4个方法,30秒收集一次数据,保留60天。那么总数据条数为:100(服务)* 10(实例)* 20(API)* 4(方法)* 86400(1天秒数)* 60(天) / 30(秒)= 138.24 亿条数据,写入、存储、查询如此量级的数据是不可能在Mysql类的关系数据库上完成的。因此 Prometheus 使用 TSDB 作为 存储引擎

存储引擎

TSDB 作为 Prometheus 的存储引擎完美契合了监控数据的应用场景

  • 存储的数据量级十分庞大

  • 大部分时间都是写入操作

  • 写入操作几乎是顺序添加,大多数时候数据到达后都以时间排序

  • 写操作很少写入很久之前的数据,也很少更新数据。大多数情况在数据被采集到数秒或者数分钟后就会被写入数据库

  • 删除操作一般为区块删除,选定开始的历史时间并指定后续的区块。很少单独删除某个时间或者分开的随机时间的数据

  • 基本数据大,一般超过内存大小。一般选取的只是其一小部分且没有规律,缓存几乎不起任何作用

  • 读操作是十分典型的升序或者降序的顺序读

  • 高并发的读操作十分常见

那么 TSDB 是怎么实现以上功能的呢?

"labels": [{
 "latency":        "500"
}]
"samples":[{
 "timestamp": 1473305798,
 "value": 0.9
}]

原始数据分为两部分 label, samples。前者记录监控的维度(标签:标签值),指标名称和标签的可选键值对唯一确定一条时间序列(使用 series_id 代表);后者包含包含了时间戳(timestamp)和指标值(value)。

series
^
│. . . . . . . . . . . .   server{latency="500"}
│. . . . . . . . . . . .   server{latency="300"}
│. . . . . . . . . .   .   server{}
│. . . . . . . . . . . .
v
<-------- time ---------->

TSDB 使用 timeseries:doc:: 为 key 存储 value。为了加速常见查询查询操作:label 和 时间范围结合。TSDB 额外构建了三种索引:Series, Label Index 和 Time Index。

以标签 latency 为例:

  • Series

    存储两部分数据。一部分是按照字典序的排列的所有标签键值对序列(series);另外一部分是时间线到数据文件的索引,按照时间窗口切割存储数据块记录的具体位置信息,因此在查询时可以快速跳过大量非查询窗口的记录数据

  • Label Index

    每对 label 为会以 index:label: 为 key,存储该标签所有值的列表,并通过引用指向 Series 该值的起始位置。

  • Time Index

    数据会以 index:timeseries:: 为 key,指向对应时间段的数据文件

数据计算

强大的存储引擎为数据计算提供了完美的助力,使得 Prometheus 与其他监控服务完全不同。Prometheus 可以查询出不同的数据序列,然后再加上基础的运算符,以及强大的函数,就可以执行 metric series 的矩阵运算(见下图)。

time series matrix

如此,Promtheus体系的能力不弱于监控界的“数据仓库”+“计算平台”。因此,在大数据的开始在业界得到应用,就能明白,这就是监控未来的方向。

一次计算,处处查询

当然,如此强大的计算能力,消耗的资源也是挺恐怖的。因此,查询预计算结果通常比每次需要原始表达式都要快得多,尤其是在仪表盘和告警规则的适用场景中,仪表盘每次刷新都需要重复查询相同的表达式,告警规则每次运算也是如此。因此,Prometheus提供了 Recoding rules,可以预先计算经常需要或者计算量大的表达式,并将其结果保存为一组新的时间序列, 达到 一次计算,多次查询 的目的



欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢:

已在知识星球更新源码解析如下:

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 20 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

兄弟,艿一口,点个赞!????

prometheus+granfana企业级监控实战v5.pdf 立即下载

相关推荐

prometheus上篇PDF

prometheus上篇PDF

244页Prometheus操作指南,内容详尽讲解细致

Prometheus在监控工具中有多少话语权?作为一款开源的监控工具,早早地就在云原生计算基金会中毕业了,如今已经成为了云原生应用的首选监控工具,在国内外被广泛应用。 Prometheus俨然已经成为了运维必知必会的技能之一,尽管初学者学习时,第一反应是门槛高,不易掌握,但只要有了一定了解之后,都会发出:"真香"的赞叹。 今天给大家分享一份Prometheus操作指南,一共244页,内容从基础到进阶做了一个全方位的系统讲解,涵盖了Prometheus所有核心知识点,干货满满,相信学过之后能对其有一个全面独到

Dou_Hua_Hua的博客 674

Prometheus入门终极指南.doc

Prometheus入门终极指南.doc

freertos源码详解与应用开发 pdf_《深入浅出Prometheus》- 原理、应用、源码与拓展详解

《深入浅出Prometheus》​www.qikqiak.com千呼万唤始出来,国内第一本全方位讲解Prometheus的书籍《深入浅出Prometheus》终于出版了,非常荣幸能和陈晓宇、陈啸两位老师参与本书的编写,这也是我参与的第一本严格意义上的书籍,另外两位老师对于Prometheus研究的深度让我非常佩服,在编写本书的过程中也学习到了很多专业的知识,特别是关于Prometheus原理和源码...

weixin_39702400的博客 1492

Prometheus非官方中文手册pdf完整版最新版本

这是一个Prometheus官网的非官方中文手册,旨在为大家提供一个比较容易入手的文档。这是一个简单的入门指南,使用简单的例子,向大家演示怎么样安装、配置和操作使用Prometheus等。需要的朋友可下载试试! Prometheus是一个开源监控系统,它前身是SoundCloud的警告工具包。目前它是一个独立的开源项目,且不依赖与任何公司。 为了强调这点和明确该项目治理结构,Prometheus在2016年继Kurberntes之后,加入了Cloud Native Computing Foundation。 内容 介绍 概念 prometheus 可视化 Instrumenting 操作 警告 最佳实践

Prometheus监控系统(训练营).pdf

Prometheus监控系统(训练营).

Prometheus | 自从上线了 Prometheus 监控告警,真香!

“ 阅读本文大概需要 7 分钟。 ”来源 |https://www.cyningsun.com/02-22-2020/hidden-secret-to-understanding-pr...

静觅 470

Prometheus从入门到精通-玩转Prometheus

内容概要:该学习资源涵盖了Prometheus监控系统的核心概念,包括指标的定义和采集、Prometheus架构的组成部分、数据存储方式以及查询语言PromQL的基本语法和常见用法。此外,资源还深入探讨了Prometheus与其他监控系统的比较优势和适用场景。 适用人群:适合具备一定运维经验或对监控技术感兴趣的技术人员,包括系统管理员、DevOps工程师和软件开发人员等。读者需具备基本的Linux操作和命令行工具使用能力。 使用场景及目标:通过学习该资源,读者将能够全面了解Prometheus监控系统的部署和配置方法,掌握如何定义自定义指标、设置报警规则以及构建仪表盘展示监控数据。最终目标是让读者能够利用Prometheus系统监控和分析各类应用程序和系统的性能指标,实现实时监控和故障排查。 其他说明:本资源以通俗易懂的方式呈现内容,配有实例演示和操作步骤,旨在帮助读者快速上手并深入理解Prometheus监控系统的工作原理和应用场景。建议读者在学习过程中结合实际场景进行实践操作,以加深对知识的理解和掌握。

prometheus job 重复_Prometheus | 自从上线了 Prometheus 监控告警,真香!

来源 |https://www.cyningsun.com/02-22-2020/hidden-secret-to-understanding-prometheus.html对很多人来说,未知、不确定、不在掌控的东西,会有潜意识的逃避。当我第一次接触 Prometheus 的时候也有类似的感觉。对初学者来说, Prometheus 包含的概念太多了,门槛也太高了。概念:Instance...

weixin_39707693的博客 253

深入浅出开源监控系统Prometheus

接触过各式各样的监控,开源的CAT、Zipkin、Pinpoint等等,并深度二次开发过;也接触过收费的听云系APM,对各类监控的亮点与局限有足够的了解。

FPGA中参数化SPI接口设计与Verilog实现

SPI(串行外设接口)作为嵌入式系统的核心通信协议,通过全双工、高速率特性在FPGA与Flash、ADC等外设交互中占据重要地位。参数化设计通过抽象时钟极性、数据位宽等可配置维度,采用分层架构实现硬件复用,显著提升开发效率。Verilog实现需重点处理跨时钟域同步和可配置帧结构,结合AXI总线集成与UVM验证方法学,可构建适应工业控制、物联网网关等场景的高可靠SPI解决方案。

ciya3282的博客 1409

模型上线后如何持续可观测?从Notebook到生产环境的MLOps实战

机器学习模型部署不是终点,而是生命周期动态演化的起点。在真实业务场景中,数据漂移、特征变更、训练-推理不一致等问题会持续侵蚀模型效果,导致预测失准、业务受损。实现可持续的模型可观测性,需构建以黄金信号采集、实时漂移检测、影子流量验证为核心的闭环反馈机制,支撑自动化诊断与渐进式发布。其技术价值在于将静态模型转化为具备感知、反馈与自适应能力的活系统,广泛应用于电商推荐、金融风控、动态定价等高敏业务场景。本文聚焦Notebook到Production落地中最易被忽视的Part 4——模型上线后的生存保障体系。

abxlep7702的博客 562

10分钟学会工程领域Hypermesh与Abaqus联立处理大量铆钉连接简化做法

铆钉连接是一种可靠且高强度的机械连接方式,广泛应用于多个领域。但是,工程结构上铆钉连接往往以较大的数量出现,若按照常规的一个个去选择生成,处理1个铆钉连接点需要1分钟来算,300个铆钉需要5个小时,耗费大量的时间成本。给出了一种高效处理铆钉连接的方法,提升效率50倍以上。

qq_34933927的博客 1617
上一篇: 这一次,统计需求只能使用 Flink 解决!
下一篇: Spring Boot 静态资源处理,妙!
公众号-芋道源码
博客等级 码龄10年 1640粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值