flume-ng 问题处理（1）

最新推荐文章于 2024-04-15 12:56:20 发布

最新推荐文章于 2024-04-15 12:56:20 发布 · 252 阅读

文章标签：

#大数据 #java

本文记录了一次Flume日志收集过程中遇到的问题及解决方法。主要问题为日志收集失败并出现错误提示，通过调整Flume配置参数，如增加内存通道保持存活时间、扩大通道容量以及增大Java最大内存等手段，最终成功解决了该问题。

1,flume日志报错，同时没能正常收集相关日志文件

Caused by: org.apache.flume.ChannelException: Space for commit to queue couldn't be acquired Sinks are likely not keeping up with sources, or the buffer size is too tight
at org.apache.flume.channel.MemoryChannel$MemoryTransaction.doCommit(MemoryChannel.java:126)
at org.apache.flume.channel.BasicTransactionSemantics.commit(BasicTransactionSemantics.java:151)
at org.apache.flume.channel.ChannelProcessor.processEventBatch(ChannelProcessor.java:192)
... 28 more

2，根据网络上的方法，修改了一下参数

agent.channels.memoryChanne3.keep-alive = 60
agent.channels.memoryChanne3.capacity = 1000000

修改java最大内存大小
vi bin/flume-ng
JAVA_OPTS="-Xmx2048m"
3, 重启了所有flume程序，包括客户端和服务器端，以后是否还有问题，只能继续观察了

参考文档
http://heipark.iteye.com/blog/1617995