断网、断电,不断数据——LoongCollector 极限边缘场景可靠采集方案

作者:林润骑(太业)

背景

在云计算和物联网快速发展的今天,越来越多的业务场景将计算和数据采集能力推向了边缘侧。从智能制造的产线设备、新能源汽车的车载系统,到遍布各地的零售终端和智能家居设备,这些终端设备产生的可观测数据(日志、指标、追踪)对于业务运营、故障诊断和用户体验优化至关重要。

然而,终端设备的环境极其复杂:

  • 网络环境不稳定:终端设备常常运行在弱网、间歇性断网的环境中。移动网络信号波动、WiFi连接不稳定、跨地域网络延迟高等问题普遍存在。
  • 电源供应不保障:许多终端设备依赖电池供电或面临意外断电风险。
  • 资源极度受限:边缘设备的 CPU、内存、存储、网络带宽都极为有限。

在这种极限条件下的可观测数据采集面临极大的挑战。比如车辆在偏远地区行驶时,长时间处于弱网或断网状态,网络信号时断时续,车辆熄火断电时,内存中缓存的监控数据全部丢失;在隧道、地下停车场等场景下,数据采集中断,关键的故障诊断数据无法回传。

本文将详细介绍 LoongCollector 如何针对弱网、断电等边缘场景,提供完整的可靠采集解决方案。

终端设备可观测数据采集的三大挑战

image

挑战一:复杂的网络环境

终端设备运行环境的网络条件远比数据中心复杂:

  • 弱网场景:移动网络信号不稳定、WiFi 信号弱、跨地域长链路等导致网络带宽低、延迟高、丢包率高。
  • 间歇性断网:设备移动、网络切换、临时性网络故障导致周期性网络中断。
  • 长时间离线:某些场景下设备需要长时间离线工作,积累大量待上传数据。

比如车载终端设备在偏远地区运输途中,可能很长时间都处于弱网或断网状态,网络正常的状态很少;在车辆熄火或者维修的情况下,车载终端设备也会断电。

挑战二:可观测数据可靠交付

在弱网、断电等不稳定环境下,保证数据的可靠交付和一致性是最大的挑战:

  • 数据丢失风险:网络中断、设备断电、进程异常等都可能导致数据丢失。
  • 顺序性保障:时序数据(如指标、追踪)需要保持采集时的时间顺序。

挑战三:网络带宽限制

终端设备的网络带宽通常受到严格限制:

  • 流量成本高:4G/5G 移动网络的流量费用远高于数据中心专线。
  • 带宽竞争:采集数据上传需要与业务数据传输竞争有限的带宽资源。
  • 上传速率限制:某些运营商或网络环境会对上传带宽进行限制。

在这样的环境下,如何高效压缩数据、智能控制发送速率、避免带宽被采集流量占满,成为必须解决的问题。

LoongCollector:为边缘场景优化的可靠采集方案

LoongCollector 是阿里云开源的高性能、高可靠可观测性数据采集器,在支撑阿里云内部千万级规模部署的同时,针对边缘场景进行了深度优化。

核心能力概览

统一的可观测数据采集

LoongCollector 提供了完整的可观测数据采集能力:

  • 主机监控:实时采集 CPU、内存、磁盘、网络等系统指标,支持 100+ 系统指标项。
  • Prometheus 协议:完全兼容 Prometheus 生态,可采集所有支持 Prometheus 采集的应用指标。
  • 日志采集:高效的文本日志采集能力,支持多种日志格式和解析方式。
超低资源消耗

针对资源受限的终端设备,LoongCollector 进行了极致的性能优化:

image

image

这意味着在相同的硬件条件下,LoongCollector 可以支持更多的采集任务,或者在资源更受限的设备上稳定运行。

企业级稳定性保障
  • 生产级验证:支撑阿里云内部 1000 万+ 实例的可观测数据采集。
  • 高可用性:单实例高可用性,支持故障自恢复。
  • 久经考验:经历多年双11大促、突发流量等极端场景验证。
解决方案架构:数据持久化 + 异步发送 + 智能重试

针对弱网、断电、断网等边缘场景,LoongCollector 采用了“数据持久化 + 异步发送 + 智能重试”的核心架构设计。

image

分离采集与发送:将数据采集和网络发送完全解耦,采集过程不受网络状态影响。

本地持久化:日志数据天然具备本地持久化的能力。此处主要指指标等无持久化能力的数据,此方案会将所有采集到的指标,先写入本地文件,确保断电、重启也不丢失。

异步消费:独立的发送线程从持久化文件中读取数据并发送,失败时自动重试。

智能反压:网络异常时,自动控制数据读取速度,避免内存占用过高。

指标数据落盘持久化

传统的指标采集方案(如 Telegraf、Prometheus Pushgateway)通常将采集到的指标数据直接发送到服务端。这种架构在稳定网络环境下工作良好,但在边缘场景下存在致命缺陷:

  • 断网丢数据:网络中断时,新采集的指标数据无法发送,只能丢弃或缓存在内存中。
  • 断电丢数据:设备意外断电时,内存中缓存的数据全部丢失。
  • 内存压力大:长时间断网时,内存缓存会迅速膨胀,最终导致 OOM。

LoongCollector 创新性地将主机监控指标和 Prometheus 指标进行本地文件持久化,实现了指标数据的可靠存储:

image

  • 定时抓取主机和应用指标数据。
  • 文本格式落盘到本地文件系统。
  • 自动轮转机制,支持单文件大小和文件个数配置,保留最近固定格式的文件,自动删除过期文件,避免磁盘空间被历史数据占满。
文件采集异步消费机制

在持久化指标数据后,如何高效、可靠地将数据发送到服务端是下一个关键问题。传统方案面临的挑战包括:

  • 发送阻塞采集:如果发送线程与采集线程耦合,网络慢会拖慢采集速度。
  • 顺序性保证:指标数据通常有时间顺序要求,需要确保按采集时间顺序发送。
  • 断点续传:网络恢复后,需要从断开位置继续发送,不能重复或遗漏。

LoongCollector 采用了文件采集的方式来异步消费持久化的指标数据,关键技术点如下:

  • Checkpoint 机制:LoongCollector 维护了细粒度的 checkpoint,记录每个文件的读取位置,这确保了即使在文件读取过程中进程崩溃或断电,重启后也能从断开位置继续读取,不会丢失数据。
  • 文件顺序保证:通过文件轮转顺序,确保按采集时间顺序发送数据:
    • 优先处理时间早的文件
    • 同一时间段的文件按序号递增处理
    • 支持使用原始数据中的时间,避免时间戳乱序导致的数据可视化问题
智能反压与流量控制

在弱网环境下,如果不加控制地读取和发送数据,会导致:

  • 内存占用激增:读取速度远大于发送速度,数据堆积在内存中。
  • 发送队列溢出:队列满后数据被丢弃或进程崩溃。
  • 带宽占满:采集流量占满带宽,影响业务正常通信。

LoongCollector 实现了多层次的智能反压机制:

发送并发度自适应:借鉴 TCP 拥塞控制算法,LoongCollector 根据网络状态动态调整发送并发度,这种自适应机制确保了:

  • 快速响应:网络正常时充分利用带宽,快速发送数据。
  • 快速收敛:网络异常时迅速降低发送频率,避免无效重试。
  • 自动恢复:网络恢复后自动增加并发,无需人工干预。

image

  • 队列反压:当发送队列积压达到阈值时,LoongCollector 会暂停文件读取,这避免了内存无限制增长,确保系统在长时间弱网环境下也能稳定运行。
  • 流量限速:LoongCollector 支持配置最大发送速率,避免采集流量影响业务 ilogtail_config.json:
{
  "max_bytes_per_sec": 1048576 # 限制最大发送速率为 10MB/s
}

LoongCollector 终端部署最佳实践

这里以主机监控+一个应用的 Prometheus 采集为例。

LoongCollector 启动参数建议

在 /usr/local/ilogtail 目录下修改 ilogtail_config.json。

a. 关闭丢弃旧数据 discard_old_data。

b. 调大与服务端断开连接重启的间隔 config_server_lost_connection_timeout,建议取 604800 秒,7 天。

c. 调大读取阻塞重启的间隔 force_quit_read_timeout,建议取 604800 秒,7 天。

d. 限制最大发送速率 max_bytes_per_sec。主机监控+一个 Java 应用的流量为 0.88KB/s,所以建议取 1MB/s,避免异常使用流量。

e. “working_ip”, 在移动终端场景,IP 会不断变化,在机器上建议给固定 IP。

ilogtail_config.json

{
  "discard_old_data": false,
  "config_server_lost_connection_timeout": 604800,
  "force_quit_read_timeout": 604800,
  "max_bytes_per_sec": 1048576,
  "cpu_usage_limit": 0.4,
  "mem_usage_limit": 384,
  "working_ip": 192.168.0.1
}

采集配置

本地配置-主机监控采集配置

在 /etc/ilogtail/config/local 目录下创建例如 input_host_monitor.yaml 文件,将主机指标首先采集到本地文件路径下,例如 /usr/local/ilogtail/metrics/host.log。

enable: true
inputs:
  - Type: input_host_monitor
    Interval: 15
flushers:
  - Type: flusher_file
    MaxFileSize: 104857600
    MaxFiles: 10
    FilePath: /usr/local/ilogtail/metrics/host.log
本地配置-自定义指标采集配置

在 /etc/ilogtail/config/local 目录下创建例如 input_prometheus.yaml 文件,将主机指标首先采集到本地文件路径下,例如 /usr/local/ilogtail/metrics/metric.log。

input_prometheus.yaml

enable: true
inputs:
  - Type: input_prometheus
    ScrapeConfig:
      job_name: node
      host_only_mode: true
      scrape_interval: 15s
      scrape_timeout: 10s
      static_configs:
        - targets: ["localhost:12345"]
flushers:
  - Type: flusher_file
    MaxFileSize: 524288000
    MaxFiles: 10
    FilePath: /usr/local/ilogtail/metrics/metric.log
服务端管控配置-文件采集配置
{
    "aggregators": [],
    "global": {},
    "logSample": "",
    "inputs": [
        {
            "Type": "input_file",
            "FilePaths": [
                "/usr/local/ilogtail/metrics/*.log"
            ],
            "MaxDirSearchDepth": 0,
            "FileEncoding": "utf8",
            "EnableContainerDiscovery": false
        }
    ],
    "processors": [
        {
            "Type": "processor_parse_json_native",
            "SourceKey": "content",
            "KeepingSourceWhenParseFail": true
        }
    ]
}

注意事项

  1. 处理插件不要使用拓展插件,因为拓展插件会拉起 Golang 模块,导致内存占用升高。

  2. 移动终端场景,IP 会不断变化,机器组建议使用标识型机器组。

LoongCollector 资源监控测试报告

CPU:平均 0.02 核,峰值 0.028 核

image

内存:平均 31.5MB,峰值 35MB

image

网络:平均 1.07KB/s,峰值 1.10KB/s

a. 压缩前:平均 12.99KB/s,峰值 13.13KB/s

b. 实际发送:平均 1.07KB/s,峰值 1.10KB/s

image

磁盘:平均 6.07KB/s,峰值 13.03KB/s

image

总结与展望

边缘场景的可观测数据采集,是一个长期被低估的技术挑战。网络的不稳定性、电源的不可靠性、数据一致性的复杂性,让传统的采集方案在边缘环境下频繁失效。LoongCollector 通过“数据持久化 + 异步发送 + 智能重试”的创新架构,系统性地解决了这些问题:

  • 保证了可观测数据可靠交付

    • 本地持久化保证断网不丢数据
    • 异步发送机制实现采集与发送解耦
    • 智能重试和反压确保网络恢复后数据完整上传
  • 有效地进行了流量控制

    • 高效压缩减少传输数据量
    • 智能流量控制避免带宽占满,影响业务

但是,LoongCollector 的采集方案还有更多的优化空间:

  1. 当前的持久化采集方案需要配置两个 Pipeline(采集 Pipeline + 文件读取 Pipeline),虽然灵活但增加了用户的理解和配置成本。LoongCollector 正在进行流水线优化,支持单流水线内部持久化能力,方便用户配置。

  2. 终端设备对于 STS 鉴权是强需求,LoongCollector 正在适配阿里云 STS 动态鉴权,支持临时凭证自动刷新,避免终端 AccessKey 泄露风险。

  3. 在流量成本敏感的场景,每一个百分点的压缩率提升都意味着显著的成本节省,LoongCollector 也正在探索更加极致的压缩策略,进一步降低网络流量。

相关推荐

推荐一款好用的刷题工具

为了帮助正在准备求职季的开发者提升备战效率,阿里云特别推出“通义灵码陪你备战求职季”活动,精心挑选百道历史校招技术面试/笔试题,借助通义灵码智能问答、代码智能生成、代码优化等核心功能,帮助开发者更加准确地了解程序员职业所需的核心技能,加强对问题解决思维和解题能力的练习。

阿里巴巴云原生的博客 1385

通义灵码 Visual Studio 下载安装指南(附安装包)

本安装步骤适用于 Windows 10 及以上操作系统中安装和使用通义灵码。

阿里巴巴云原生的博客 4437

阿里云智能体白皮书开源进展

![1](https://img2024.cnblogs.com/blog/1411156/202611/1411156-20261113183315580-502702075.png)![2](https://img2024.cnblogs.com/blog/1411156/202611/1411156-20261113183334678-741777744.png)![3](https://img2024.cnblogs.com/blog/1411156/202611/1411156-20261

阿里巴巴云原生的博客 15

万联智策基于 AgentCore 构建数字员工团队,800+智能体规模化落地

1 个智能 Leader,带领 4 个专家级智能“员工”,配套约 800 个随时可调用的 AI 数字员工,这样一个 AI 团队能帮企业做什么事?

阿里巴巴云原生的博客 196

关于 DeepSeek 的 SuperAgent,以及我们的实践

DeepSeek 的 SuperAgent 发布之后,行业内的普遍观点是 Agent 的设计基本收敛,对于我们也是一样,本文除介绍 DeepSeek SuperAgent 设计之外,会重点谈谈我们类似 SuperAgent 的技术和产品化探索。

阿里巴巴云原生的博客 105

生产更可信,订阅更耐用丨Higress 社区进展报告

阿里巴巴云原生的博客 147

让 Agent 成为企业生产力丨Alibaba Cloud AgentCore 企业智能体构建与治理沙龙·杭州站精彩回顾 & PPT 下载

近日,让 Agent 成为企业生产力丨Alibaba Cloud AgentCore 企业智能体构建与治理沙龙·杭州站圆满落幕。本场活动吸引了 100+ 名技术从业者深度参与,深度分享了企业 Agent 趋势、AgentCore 构建与治理、Agent 观测与优化、STAROps 智能运维及 AI 网关等相关议题,并设置了动手实操环节。

阿里巴巴云原生的博客 187

如何用 STAROps Elasticsearch 智能助手看穿“搜索变慢”

某电商平台的商品搜索服务使用一台 6 个数据节点的 Elasticsearch 实例。周五北京时间 20:00 起,业务陆续反馈搜索变慢。业务监控中的搜索接口 P99 从平时约 200 ms 升到 2s 以上,部分请求超时。值班工程师打开控制台:集群状态为 Green,没有未分配分片,集群平均 CPU 约 40%,乍看不像资源已经吃紧。

阿里巴巴云原生的博客 350

满帮基于阿里云 AgentCore 打造生产级 SRE 稳定性数字人

满帮基于阿里云 AgentCore 构建“稳定性数字人”:满帮提供业务知识、专业工具与处置流程,AgentCore 提供智能体运行、协作和治理支撑。数字人已在核心链路的巡检与根因分析中得到应用,受控处置能力也在持续建设,让满帮积累的稳定性能力能够在具体任务中得到复用。

阿里巴巴云原生的博客 277

稳定复现超 70% 的缺陷,报警到自动修复的 Agent 流水线实践

本文将分享我们在 PolarDB-X 团队做的一些工程实践:让 Agent 从一条报警或工单出发,自主完成排查、复现、修复和验证,再把结果交给研发评审。

阿里巴巴云原生的博客 304

从“自证清白”到“因果链条”:智能体如何重塑运维排障效率

STAROps 做全域关联分析,把范围从「五个团队依次自证清白」收拢到一条具体链路;证据指向对象存储后,OSS Agent 接手,基于真实配置、访问日志和用量数据往下挖,给出根因和支撑它的证据链。你面对的始终是一个对话框:路由归它管,说清现象、拍板方案归你。

阿里巴巴云原生的博客 148

TechTalk丨从能买奶茶到能进企业,Agent 绕不开同一组问题

史明伟所在的 Alibaba Cloud AgentCore 是企业级 Agent 构建和治理平台,为 Agent 在业务场景下的规模化落地提供基础设施,所以这场对话,他和 Datawhale 主持人从个人助理一路聊到企业 Agent:权限该怎么一步步放开?进了企业,账号打通、数据权限、沙箱隔离又会带来哪些新问题?没有强技术团队的企业,该从哪里起步?

阿里巴巴云原生的博客 220

AgentCore + Codex 构建生产级 Agent 的原理与实践

本文章演示 AgentCore[1]的自定义代码/镜像能力,目的是展示如何基于自定义的 Harness 框架(Codex) 结合 AgentCore 提供的身份、模型、工具、技能、凭证 、观测评估等能力实现一个端到端的 Agent 应用,内容包含两个部分,技术方案和实践教程,文末附相关源码和本次的测试数据,可以根据需要自行查阅。

阿里巴巴云原生的博客 192

让复杂任务由团队完成:阿里云 AgentCore 多 Agent 协作架构及实践

Alibaba Cloud AgentCore 以身份、通信、团队和任务为基础,让专业 Agent 与人类成员共同参与业务协作。企业可以按职责组合知识、工具、Skill 和模型,用任务系统持续追踪工作,再结合 AgentLoop 评估效果、优化配置。

阿里巴巴云原生的博客 378

易点天下:AI 驱动 IT 运维组织提效的实践

易点天下作为一家专注品牌全球化的营销科技公司,由智能营销、全域增长、智能变现三大引擎驱动。公司旗下拥有“整合营销服务”与“广告平台业务”两大业务线。

阿里巴巴云原生的博客 307

阿里云可观测 2026 年 10 月产品动态

阿里云可观测 2026 年 10 月产品动态

阿里巴巴云原生的博客 212

用 Nacos 3.3.0 ARD 让 Agent 按任务发现工具和 Skill

如今,工作中用 Agent 帮忙已经越来越常见。研发同学用 Coding Agent 写代码、补测试、排查问题,业务同学用 Work Agent 整理资料、分析表格、制作演示文稿。不少过去需要自己一步步操作的事情,现在可以把需求交给 Agent,让它协助完成。

阿里巴巴云原生的博客 328

HiRoute 新版本发布:结合自己的真实工作选择最佳模型

HiRoute[1]是一个开源、运行在本地的 Agent 智能路由引擎。你继续用 Codex、Claude Code、Qoder、Pi、OpenCode、Hermes、DeepSeek Harness 等熟悉的 Agent,由 HiRoute 判断每一步交给哪个模型。

阿里巴巴云原生的博客 394

用户说 App“下不了单”:用 Session Replay 看清流程卡在哪一步

Session Replay(会话回放)将采集到的页面变化重建为可回看的过程。研发可以沿着这次会话,查看操作前后的界面变化,先确认流程停在了哪里,再结合当时的事件、日志和代码检查原因。

阿里巴巴云原生的博客 56

欢迎报名丨Alibaba Cloud AgentCore 企业智能体构建与治理八城巡回沙龙 · 杭州站开启

欢迎报名丨Alibaba Cloud AgentCore 企业智能体构建与治理八城巡回沙龙 · 杭州站开启

阿里巴巴云原生的博客 157

运维走出控制台:阿里云 AgentCore AI Native 运维实践

UModel 让现场能够被关联,运维数字员工让经验能够被调用,AgentCore Team 让分析能够协作,AgentLoop 让质量能够被检验。这些建设共同服务于一件事:让团队对系统的理解,成为每个人处理问题时都能接上的能力。

阿里巴巴云原生的博客 309

从长程 Agent 到 Super-agent,解锁更多场景

Deepseek Harness 提升了架构的透明度,但也带来了工程上的复杂度。这次开源的dsh-superagent-prototype,是对 Agent “连续实体”能力的工程拆解。

阿里巴巴云原生的博客 242

排查提效 50%:淘大集新核心系统的观测护航之路

供应链运维,缺的不是更多机器,是“一条能把指标、日志、链路串起来的线”。阿里云 ARMS+SLS+云监控2.0+STAROps 重构观测底座。

阿里巴巴云原生的博客 149

概率、插座与 5000 个爱因斯坦:专访阿里云研发副总裁周琦

这次访谈发生在 2026 年云栖大会之后。大会期间,阿里云发布了智能体构建和治理平台 AgentCore,将企业级 Agent 基础设施进一步标准化和托管化。

阿里巴巴云原生的博客 157

Agent 数据飞轮平台的选型和实践

用统一标准判断修改效果,积累覆盖不同路径的测试样本,沿执行记录排查失败,并将典型问题纳入后续回归。而这也是宙斯接入 AgentLoop 要解决的问题。

阿里巴巴云原生的博客 35

Durable Agent 详解:如何让 Agent 在云端长期稳定运行

本文使用一个具体的用户任务示例“向五位客户发送通知邮件”,解释为什么保存聊天记录还不够,再以 AgentScope 构建的 Agent 为例,展开任务状态、持久提交和故障恢复的通用设计,最后结合 Alibaba Cloud AgentCore 已有的 Harness 托管与节点恢复能力,讨论共享状态、可靠调度及 Brain / Hands 分离如何支撑更完整的长期托管服务。

阿里巴巴云原生的博客 338

Qoder × AgentLoop:智能体规模化应用,敏感数据保护如何跟上?

智能体观测与优化平台 AgentLoop 持续分析已采集的 Qoder 审计日志,将发现的风险线索关联到具体会话、工具调用、成员和环境,帮助安全团队回查任务过程、明确需要整改的环节,并复查处理效果。

阿里巴巴云原生的博客 296

完整还原已经服务千家企业的 AIOps Agent 的评测和调优实践

阿里云 STAROps 是一个生产运维 Agent,通过连接多域数据、运维工具与专家经验,从被动响应走向智能自治,7×24 保障业务连续、稳定运行。本文将分享 STAROps 的评测和调优实践。

阿里巴巴云原生的博客 202

阿里云云原生四项 AI 应用工程化实荣获“鼎新杯”优秀案例

第五届“鼎新杯”由中国通信标准化协会主办、中国信息通信研究院承办,自2026年05月正式启动,历时近 5 个月,聚焦国内政企数智化转型领域的创新成果,旨在为行业提供可复制、可推广的实践参考。

阿里巴巴云原生的博客 333

交付周期从 51 天缩短到 14 天,多 Agent 协作产品⾃进化背后的组织重构

本⽂结合这段实践,介绍评测如何驱动产品持续进化、⼈机协作的边界如何设定,以及团队如何通过统⼀⽬标、结果标准和责任分⼯,减少跨岗位交接,降低沟通损耗,把技术能⼒转化为实际交付效果。

阿里巴巴云原生的博客 331
上一篇: 构建开放智能体生态:AgentScope 如何用 A2A 协议与 Nacos 打通协作壁垒?
下一篇: 用 AgentScope Java 开家 AI 奶茶店
阿里云云原生
阿里云云原生 企业官方账号 企业官方账号
博客等级 码龄8年 1万+粉丝 3154原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值