flume 笔记
源码编译
下载源码
https://github.com/apache/flume/tree/release-1.7.0
编译
mvn install -Dmaven.test.skip=true
重要事情说三遍
一定要开代理,否则很难编译通过
一定要开代理,否则很难编译通过
一定要开代理,否则很难编译通过
编译包位置
apache-flume-1.7.0-src\flume-ng-dist\target\apache-flume-1.7.0-bin.tar.gz
eclipse 配置
eclipse maven 引入
报错 该问题还未解决
不过发现问题还是出在pom.xml里的build-helper-maven-plugin这个插件的配置上,好像原因是DurablePositionTracker引用的TransferStateFileMeta这个类是自动生成的,查看target目录,确实找到了这个类,但是为什么还是报错,仔细观察,原来是source没配对,因为TransferStateFileMeta类是在generated-sources的avro目录下的,那就增加个目录呗,在sources节点增加
target/generated-sources/avro
#配置
参考flume官方文档 http://flume.apache.org/FlumeUserGuide.html
命令
启动
nohup bin/flume-ng agent --conf conf -f conf/a1.properties --name a1 -Dflume.root.logger=INFO,console > ./logs/a1.log 2>&1 &
停止
kill pid