flume安装与简单使用

本文介绍了Flume的简单安装步骤,包括下载安装包、配置环境变量,并展示了验证安装成功的方法。接着,讲解了Flume主要依赖配置文件进行工作,提供了配置文件的运行命令格式。文章还探讨了Flume的基本结构,包括数据采集、数据传输和数据存储的多种组合方式,强调了一个channel不能连接多个sink的重要规则。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

安装很简单,去下载安装包,然后解压,在系统中配置环境变量,安装包中conf下面的flume-env.sh中export JAVA_HOME=

即可,安装完成后运行  安装包下bin/flume-ng version即可看到版本信息。

flume的使用基本是靠配置,只要把你所需要的框架搞懂,剩下的就很简单了。

一般将配置文件保存为 xxx.conf,运行的命令如下,其中conf就是conf文件夹,conf-file就是编写的conf文件,name是conf文件中这个flume的名称(flume格式需要参考官网 点击打开链接

案例:

# example.conf: A single-node Flume configuration

# Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
a1.sinks.k1.type = logger

# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
$ bin/flume-ng agent --conf conf --conf-file example.conf --name a1 -Dflume.root.logger=INFO,console

下面说一下flume的结构,图片都是直接从官网拿过来的

最简单的,就自己采集自己保存


然后这个结构可以串起来,即一个采集可以输出到下一个flume中


可以多个采集输出到一起


一个数据源输出到多个地方



从以上的几种机构可以得出:

一个agento内,

(1)一个数据源可以拿给多个channel,最后通过多个sink输出到多个地方

(2)每个channel只能连接一个resource和sink,每个sink也只能输出到一个地方

不能一个channel连接多个sink,行不通!!!!!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值