
flume
Gpwner
这个作者很懒,什么都没留下…
展开
-
Flume<自定义Source和拦截器实现抓取异常多行日志>
假设现在有一个日志文件test.log,文件中的内容如下: 现在的需求是需要将日志通过Flume收集上来,在HDFS进行分区,比如 2016-07-08/INFO 2016-07-08/DEBUG 2016-07-08/WARN 2016-07-08/ERROR方法一:自定义Source在GitHub上看到有人自定义了Source,其核心思想是:如果当前有两行记录,如果两行记录都是“正常”原创 2017-05-06 18:20:51 · 4690 阅读 · 8 评论 -
Flume<HDFS Sink参数配置>
Example for agent named a1:a1.channels = c1 a1.sinks = k1 a1.sinks.k1.type = hdfs a1.sinks.k1.channel = c1 a1.sinks.k1.hdfs.path = /flume/events/%y-%m-%d/%H%M/%S a1.sinks.k1.hdfs.filePrefix = events- a原创 2017-05-07 12:57:06 · 1004 阅读 · 0 评论