Flume_Flume常用配置1_exec.source_memory.channel_logger.sink

最新推荐文章于 2024-08-07 11:27:10 发布

原创最新推荐文章于 2024-08-07 11:27:10 发布 · 1.3k 阅读

3 ·

CC 4.0 BY-SA版权

Flume 专栏收录该内容

8 篇文章

订阅专栏

本文介绍了一个基于Flume 1.8.0的简单配置案例，使用exec source从文件中读取数据，通过memory channel传输，并由logger sink进行日志记录。该配置适合初学者理解Flume的基本工作流程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

以下配置基于版本 apache-flume-1.8.0-bin

我们假定已经对Flume有一定了解，并且对Flume 的各个组件有一定了解。

我们演示一个基本的
source 为 exec源
channel 为 memory
sink 为 logger 类型
的配置示例：

我们在解压好的目录下创建 2个子目录 my-conf, my-bin
my-conf 存放了对 agent (source, sink, channel) 的配置

my-bin 存放了 agent 的启动脚本

my-conf

my-bin

配置文件

my-conf/flume-exec-memory-logger.properties

# example.conf: A single-node Flume configuration

# Name the components on this agent
a2.sources = r1
a2.sinks = k1
a2.channels = c1

# Describe/configure the source
a2.sources.r1.type = exec
a2.sources.r1.command = tail -F /tmp/log/source

# Describe the sink
a2.sinks.k1.type = logger

# Use a channel which buffers events in memory
a2.channels.c1.type = memory
a2.channels.c1.capacity = 1000
a2.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a2.sources.r1.channels = c1
a2.sinks.k1.channel = c1

启动脚本

my-bin/start_exec_memory_logger.sh

#!/bin/bash

ROOT_PATH=$(dirname $(dirname $(readlink -f $0)))
cd $ROOT_PATH

bin/flume-ng agent --conf ./conf/ -f my-conf/flume-exec-memory-logger.properties -Dflume.root.logger=INFO,console -n a2