
flume
flume使用
jim8973
这个作者很懒,什么都没留下…
展开
-
Flume配置链以及自定义flume拦截器
多source配置 vi exec-nc-logger.conf a1.sources = r1 r2 a1.sinks = k1 a1.channels = c1 a1.sources.r1.type = exec a1.sources.r1.command = tail -F /home/hadoop/data/flume/exec.log a1.sources.r2.type = ne...原创 2020-02-28 16:38:20 · 290 阅读 · 0 评论 -
Flume用法
Flume包含三部分 Source:从哪收集,一般使用:avro(序列化),exec(命令行),spooling(目录),taildir(目录和文件,包含offset,不会数据丢失),kafka Channel:数据存哪里:(memory,kafka,file) Sink:数据输出到哪里:(hdfs,logger,avro,kafka) Flume环境配置 配置jdk cd $FLUME_...原创 2020-02-14 09:51:00 · 190 阅读 · 0 评论