Flume【理论篇】02:Flume高级组件之Source Interceptors、Channel Selectors、Sink Processors

本文详细介绍了Flume的高级组件,包括Source Interceptors如何对采集数据进行处理,Channel Selectors的策略设置用于控制数据流向,以及Sink Processors如何决定数据发送。此外,还补充讲解了Flume中Event的基本概念,它是数据传输和事务处理的核心单位。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、Flume高级组件

1、Source Interceptors

Source可以指定一个或者多个拦截器按先后顺序依次对采集到的数据进行处理。

2、Channel Selectors

Source发往多个Channel的策略设置,如果source后面接了多个channel,到底是给所有的channel都发,还是根据规则发送到不同channel,这些是由Channel Selectors来控制的

3、Sink Processors

Sink 发送数据的策略设置,一个channel后面可以接多个sink,channel中的数据是被哪个sink获取,这个是由Sink Processors控制的

补充一个小知识点:Event

在具体分析这些高级组件之前,我们先插播一个小知识点,这个知识点在高级组件中会用到。

Event是Flume传输数据的基本单位,也是事务的基本单位,在文本文件中,通常一行记录就是一个Event
Event中包含header和body;

body是采集到的那一行记录的原始内容
header类型为Map<String, String>,里面可以存储一些属性信息,方便后面使用
我们可以在Source中给每一条数据的header中增加key-value,在Channel和Sink中使用header中的值了。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

做一个有趣的人Zz

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值