配置Flume的Avro sink

一 配置拓扑

二 配置k_avro.conf
#########a1 agent#####
a1.sources = r1
a1.sinks = k1
a1.channels = c1

a1.sources.r1.type = netcat
a1.sources.r1.bind=master
a1.sources.r1.port=8888

a1.channels.c1.type = memory

a1.sinks.k1.type = avro
a1.sinks.k1.hostname = master
a1.sinks.k1.port = 4444

a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

#########a2 agent#####
a2.sources = r1
a2.sinks = k1
a2.channels = c1

a2.sources.r1.type = avro
a2.sources.r1.bind=master
a2.sources.r1.port=4444

a2.channels.c1.type = memory

a2.sinks.k1.type = logger

a2.sources.r1.channels = c1
a2.sinks.k1.channel = c1

三 启动a2代理
### FlumeAvro Source 的配置与使用 #### 配置文件结构 为了使 Avro Source 正常工作,在 `flume-conf.properties` 文件中需定义如下属性: ```properties # 定义agent名称以及source、channel和sink组件 a1.sources = r1 a1.channels = c1 a1.sinks = k1 # 设置source类型为Avro并指定其监听IP地址及端口号 a1.sources.r1.type = avro a1.sources.r1.bind = 0.0.0.0 a1.sources.r1.port = 41414 ``` 上述配置指定了名为 `r1` 的 Avro Source 将会监听所有网络接口上的 41414 端口等待客户端连接发送事件[^1]。 #### 进阶配置选项 除了基本的 IP 和端口外,还可以调整更多参数优化性能或安全性: - **线程数控制** ```properties a1.sources.r1.threads = 8 ``` 上述设置允许同时处理多达八个并发请求,提高吞吐量[^3]。 - **启用SSL加密通信** 当需要保障数据传输安全时可以开启 SSL 支持: ```properties a1.sources.r1.ssl = true a1.sources.r1.keystore = /path/to/keystore.jks a1.sources.r1.keystore-password = secret a1.sources.r1.keystore-type = JKS ``` 注意替换实际路径和密码值以匹配环境需求。 - **压缩算法选择** 对于带宽受限场景下推荐采用压缩技术减少流量消耗: ```properties a1.sources.r1.compression-type = zlib ``` 只接受 "zlib" 或者留空表示不压缩;注意不是所有的接收方都支持解压功能所以要确保两端兼容性良好。 #### 使用示例 假设有一个简单的应用场景:通过命令行工具向运行中的 Flume Agent 发送 JSON 文档作为测试消息。此时只需安装 Apache Flume 并启动带有适当配置的服务实例即可开始实验。 ```bash echo '{"name":"John","age":30}' | nc localhost 41414 ``` 这条指令利用 Netcat (`nc`) 工具模拟了一个外部程序向本地主机上正在监听特定端口 (此处假定为 41414) 的 Avro Source 推送了一条记录[^2]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值