Flume配置文件简单整理

最新推荐文章于 2025-06-09 10:14:03 发布

Forever_ck

最新推荐文章于 2025-06-09 10:14:03 发布

阅读量519

点赞数

CC 4.0 BY-SA版权

分类专栏：工具文章标签：大数据 Flume

本文链接：https://blog.youkuaiyun.com/Forever_ck/article/details/85173488

本文介绍了Flume如何配置来监控Hive的日志信息，并将这些日志实时上传到HDFS。此外，还详细阐述了Flume配置监听指定目录，将其中的所有文件保存到HDFS的过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

各配置文件信息如下：
一、Flume监控Hive日志信息并上传到Hdfs：

# Name the components on this agent a2.sources = r2
a2.sinks = k2 a2.channels = c2
# Describe/configure the source a2.sources.r2.type = exec
a2.sources.r2.command = tail -F /hive安装路径/hive.log 	
a2.sources.r2.shell = /bin/bash -c

# Describe the sink a2.sinks.k2.type = hdfs
a2.sinks.k2.hdfs.path = hdfs://namenodeIP:8020/指定存储路径

#上传文件的前缀
a2.sinks.k2.hdfs.filePrefix = logs-
#是否按照时间滚动文件夹
a2.sinks.k2.hdfs.round = true
#多少时间单位创建一个新的文件夹
a2.sinks.k2.hdfs.roundValue = 1
#重新定义时间单位
a2.sinks.k2.hdfs.roundUnit = hour
#是否使用本地时间戳
a2.sinks.k2.hdfs.useLocalTimeStamp = true
#积攒多少个Event 才 flush 到 HDFS 一次
a2.sinks.k2.hdfs.batchSize = 1000

#设置文件类型，可支持压缩
a2.sinks.k2.hdfs.fileType = DataStream
#多久生成一个新的文件
a2.sinks.k2.hdfs.rollInterval = 600
#设置每个文件的滚动大小
a2.sinks.k2.hdfs.rollSize = 134217700
#文件的滚动与 Event 数量无关
a2.sinks.k2.hdfs.rollCount = 0

#最小副本数
a2.sinks.k2.hdfs.minBlockReplicas = 1

# Use a channel which buffers events in memory 
a2.channels.c2