【Flume 1.6.0】二、Sink

最新推荐文章于 2025-09-06 21:58:22 发布

转载最新推荐文章于 2025-09-06 21:58:22 发布 · 93 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://my.oschina.net/u/204498/blog/601462

文章标签：

#大数据 #python

本文介绍了Apache Flume的日志收集配置案例，包括使用LoggerSink将日志输出至控制台，利用HDFSSink将数据写入HDFS，通过FileRollSink实现文件滚动存储，以及配置KafkaSink发送数据到Kafka等不同场景。

2019独角兽企业重金招聘Python工程师标准>>>

http://my.oschina.net/u/204498/blog/601449

Logger Sink

Logs会输出到console，是为了debug用的。

[root@hftest0001 conf]# pwd
/opt/apache-flume-1.6.0-bin/conf

[root@hftest0001 conf]# vi s-exec_c-m_s-logger.conf 
agent.sources = exec_tail
agent.channels = memoryChannel
agent.sinks = loggerSink

agent.sources.exec_tail.type = exec
agent.sources.exec_tail.command = tail -F /opt/flume-data/exec-tail.log
agent.sources.exec_tail.channels = memoryChannel

agent.sinks.loggerSink.type = logger
agent.sinks.loggerSink.channel = memoryChannel

agent.channels.memoryChannel.type = memory
agent.channels.memoryChannel.capacity = 100

[root@hftest0001 apache-flume-1.6.0-bin]# pwd
/opt/apache-flume-1.6.0-bin

[root@hftest0001 opt]# mkdir -p /opt/flume-data/
[root@hftest0001 opt]# touch /opt/flume-data/exec-tail.log
[root@hftest0001 apache-flume-1.6.0-bin]# flume-ng agent -n agent -c conf/ -f conf/s-exec_c-m_s-logger.conf 
....
....


[root@hftest0001 opt]# echo "Hello Flume" >> /opt/flume-data/exec-tail.log

观察console，类似于 Event:{headers{} bodys: xxx xx x x x x Hello Flume }

HDFS Sink

[root@hftest0001 conf]# pwd
/opt/apache-flume-1.6.0-bin/conf

[root@hftest0001 conf]# vi s-exec_c-m_s-hdfs.conf 
agent.sources = exec_tail 
agent.channels = memoryChannel
agent.sinks = hdfs_sink

agent.sources.exec_tail.type = exec
agent.sources.exec_tail.command = tail -F /opt/flume-data/exec-tail.log

agent.sources.exec_tail.interceptors = i1
agent.sources.exec_tail.interceptors.i1.type = org.apache.flume.interceptor.TimestampInterceptor$Builder
agent.sources.exec_tail.channels = memoryChannel

agent.sinks.hdfs_sink.type = hdfs
agent.sinks.hdfs_sink.hdfs.path = hdfs://10.224.243.124:9000/flume/events/%y-%m-%d =>写入hdfs的路径
#
#roll file的三个策略，(避免生成大量的空文件，或者小文件)
#agent.sinks.hdfs_sink.hdfs.rollInterval = 30   =>基于时间:default 30s，设置为0，则disable
#agent.sinks.hdfs_sink.hdfs.rollSize = 1024     =>基于文件大小:default 1024bytes,设置为0，则disable
#agent.sinks.hdfs_sink.hdfs.rollCount = 10      =>基于文件消息的数量:default 10个，设置为0，则disable

agent.sinks.hdfs_sink.hdfs.fileType = DataStream =>flume写入hdfs的文件类型 default:SequenceFile
#SequenceFile => 类似于hadoop.io.LongWritable "ora.apache.hadoop.io.ByteWritable..."...
#DataStream => 不会对输出进行压缩，即不能再设置hdfs.codeC
#CompressedStream =>就会对输出进行压缩，并要求设置可用的hdfs.codeC
#agent.sinks.hdfs_sink.hdfs.codeC

agent.sinks.hdfs_sink.hdfs.writeFormat = Text
agent.sinks.hdfs_sink.hdfs.filePrefix = flume
#agent.sinks.hdfs_sink.hdfs.hdfs.callTimeout = 10000 => flume对Hdfs的操作如open，write，flush等等，对network不佳的系统，可以适当的调大该参数

agent.sinks.hdfs_sink.channel = memoryChannel

agent.channels.memoryChannel.type = memory

agent.channels.memoryChannel.capacity = 100

File Roll Sink

[root@hftest0001 conf]# pwd
/opt/apache-flume-1.6.0-bin/conf

[root@hftest0001 conf]# vi s-exec_c-m_s-file-roll.conf 
agent.sources = exec_tail-1
agent.channels = memoryChannel
agent.sinks = file_roll-1

agent.sources.exec_tail-1.type = exec
agent.sources.exec_tail-1.command = tail -F /opt/flume-data/exec-tail.log

agent.sources.exec_tail-1.channels = memoryChannel

agent.sinks.file_roll-1.type = file_roll
agent.sinks.file_roll-1.sink.directory= /opt/flume-data/file-roll-1
#agent.sinks.file_roll-1.sink.rollInterval= 30 => roll file策略，default:30s 生成一个新的文件。设置为0，则disable roll file，即会全部写入单一的文件中

agent.sinks.file_roll-1.channel = memoryChannel

agent.channels.memoryChannel.type = memory
agent.channels.memoryChannel.capacity = 100

Kafka Sink

http://my.oschina.net/u/204498/blog/601814

转载于:https://my.oschina.net/u/204498/blog/601462