
flume
flume
阿华田512
小红书 搜索阿华田512 即可获取所有专栏博客内容
展开
-
kafkaChannel实现一个source下,不同日志采集到kafka不同主题中
1.需求使用flume采集数据,在使用一个source情况下,将不同的日志采集到指定的kafka的主题中。例如:有两个日志文件:error.log和info.logerror.log采集到kafka的kafka_channel主题info.log采集到kafka的kafka_channel2主题2.解决方案我们使用tailDir source 和kafkaChannel...原创 2018-10-22 22:01:42 · 1379 阅读 · 0 评论 -
flume监控与监控原理
Flume监控流程首先在flume-ng-node中org.apache.flume.node.Application的main方法中,有两个方法分别是startAllComponents()和startAllComponents(conf)方法其中startAllComponents(conf)方法有一个this.loadMonitoring();来启动监控方法loadMonitorin...原创 2018-10-19 14:17:43 · 3151 阅读 · 0 评论 -
HA flume 高可用集群的搭建与使用
HA Flume流程图搭载详细流程 在 flume1的sink中设置一个组group,这个组里面有两个sink,sink1和sink2.其中sink1负责把数据下沉到flume2。Sink2负责把数据下沉到flume3。并且设置优先级,比如 设置sink1的优先级为1000,设置sink2的优先级为10,谁的优先级大,谁负责采集数据。最后设置一个乘法因子,设置为1...原创 2018-07-02 18:42:55 · 1995 阅读 · 0 评论 -
flume 的安装与使用
1. 概述什么是flume?Flume是一种分布式,可靠且可用的服务,用于高效地收集,汇总和移动大量日志数据。它具有基于流式数据流的简单而灵活的架构。它具有可靠的可靠性机制以及许多故障转移和恢复机制,具有强大的容错性和容错能力。它使用一个简单的可扩展数据模型,允许在线分析应用程序。Flume特性Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。Flume可...原创 2018-07-02 18:32:00 · 575 阅读 · 0 评论