记一次·Fluentd File Buffer

本文记录了一次处理Fluentd File Buffer堆积问题的经历,探讨了buffer_queue_limit和buffer_chunk_limit参数的影响。当BufferQueueLimitError发生时,in_tail插件会暂停读取新行,直到错误解决后才继续处理,确保数据不丢失。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

记一次·Fluentd File Buffer

—— buffer_queue_limit与buffer_chunk_limit
一、背景

使用fluentd,配置tail source采集日志文件,file buffer作为缓存,发送到下游三台节点的端口。监控告警,fluentd的file buffer堆积550M+,处理该问题后,思考类似这样的buffer堆积,是否会导致数据丢失。

二、操作
  1. 结论是不会丢数据
  2. 官方地址:fluentd官方文档
  3. 查看官网0.12版本文档。
  4. 侧边目录找到Buffer Plugins>file
    buffer_queue_limit

chunk队列的长度限制。 关于基本的缓冲区结构,请参阅缓冲区插件概述文章。 默认的限制是256块。

buffer_chunk_limit

每个缓冲区块的大小。 默认值为8m。 可以使用后缀“k”(KB)、“m”(MB)、“g”(GB)。 关于

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值