Grafana Loki 实战：通过 Kafka 和 Alloy 实现日志收集

最新推荐文章于 2025-06-01 09:05:19 发布

韩蔓媛Rhett

最新推荐文章于 2025-06-01 09:05:19 发布

阅读量418

点赞数 5

本文链接：https://blog.youkuaiyun.com/gitblog_00112/article/details/148361120

版权

Grafana Loki 实战：通过 Kafka 和 Alloy 实现日志收集

loki Loki是一个开源、高扩展性和多租户的日志聚合系统，由Grafana Labs开发。它主要用于收集、存储和查询大量日志数据，并通过标签索引提供高效检索能力。Loki特别适用于监控场景，与Grafana可视化平台深度集成，帮助用户快速分析和发现问题。项目地址: https://gitcode.com/gh_mirrors/lok/loki

概述

在现代微服务架构中，日志收集是监控和故障排查的关键环节。本文将详细介绍如何使用 Grafana Alloy 从 Kafka 消费日志数据并发送到 Loki 存储系统。Alloy 是 Grafana 生态系统中的一个新型组件，专为处理遥测数据而设计，支持多种数据源和目标。

环境准备

在开始之前，请确保您的开发环境中已安装以下工具：

Docker 引擎
Docker Compose

这些工具将用于构建和运行我们的演示环境。如果您是初次接触这些工具，建议先了解其基本用法。

应用场景说明

我们以一个名为"肉食植物温室"的微服务应用为例，该应用包含以下服务组件：

用户服务：处理用户数据和认证
植物服务：管理植物数据
模拟服务：生成植物传感器数据
WebSocket 服务：管理实时连接
故障服务：模拟随机故障
主应用：协调各服务
数据库：存储持久化数据

每个服务都会生成日志并通过 Kafka 发送到 Alloy。在本例中，日志通过两种不同主题发送：

loki 主题：发送结构化 JSON 格式日志
otlp 主题：发送 OpenTelemetry 格式日志

配置步骤详解

第一步：基础环境搭建

获取演示应用代码：

git clone -b microservice-kafka https://example.com/loki-fundamentals.git

启动监控栈：

docker-compose -f loki-fundamentals/docker-compose.yml up -d

这将启动以下服务容器：

Grafana (端口 3000)
Loki (端口 3100)
Alloy (端口 12345)
Zookeeper
Kafka

第二步：配置 Alloy 接收原始 Kafka 日志

Alloy 配置使用声明式语法，我们需要编辑 config.alloy 文件：

配置 Kafka 源：

loki.source.kafka "raw" {
  brokers        = ["kafka:9092"]
  topics         = ["loki"]
  forward_to     = [loki.write.http.receiver]
  relabel_rules  = loki.relabel.kafka.rules
  version        = "2.0.0"
  labels         = {service_name = "raw_kafka"}
}

关键参数说明：

brokers: Kafka 服务地址
topics: 订阅的主题列表
forward_to: 日志转发目标
labels: 添加的固定标签

配置标签重写规则：

loki.relabel "kafka" {
  forward_to = [loki.write.http.receiver]
  rule {
    source_labels = ["__meta_kafka_topic"]
    target_label  = "topic"
  }
}

配置 Loki 写入目标：

loki.write "http" {
  endpoint {
    url = "http://loki:3100/loki/api/v1/push"
  }
}

应用配置变更：

curl -X POST http://localhost:12345/-/reload

第三步：配置 OpenTelemetry 日志处理

配置 OTLP Kafka 接收器：

otelcol.receiver.kafka "default" {
  brokers          = ["kafka:9092"]
  protocol_version = "2.0.0"
  topic           = "otlp"
  encoding        = "otlp_proto"
  output {
    logs = [otelcol.processor.batch.default.input]
  }
}

配置批处理处理器：

otelcol.processor.batch "default" {
  output {
    logs = [otelcol.exporter.otlphttp.default.input]
  }
}

配置 OTLP HTTP 导出器：

otelcol.exporter.otlphttp "default" {
  client {
    endpoint = "http://loki:3100/otlp"
  }
}

重新加载配置：

curl -X POST http://localhost:12345/-/reload

第四步：启动应用并验证

启动温室应用：

docker-compose -f loki-fundamentals/greenhouse/docker-compose-micro.yml up -d --build

访问应用界面：

应用地址：http://localhost:5005
Grafana 地址：http://localhost:3000

生成测试日志：

创建用户并登录
添加几个植物
启用故障模式生成错误日志

在 Grafana 的 Loki 数据源中查看日志

技术要点解析

Kafka 消费模式：
- Alloy 使用消费者组模式从 Kafka 消费消息
- 支持自动偏移量提交和重平衡
日志处理流程：
- 原始日志：Kafka → loki.source.kafka → loki.relabel → loki.write
- OTLP 日志：Kafka → otelcol.receiver.kafka → otelcol.processor.batch → otelcol.exporter.otlphttp
性能考虑：
- 批处理减少网络请求
- 并行处理提高吞吐量
- 标签重写优化存储效率