flume 写入hdfs 采用lzo 格式教程

最新推荐文章于 2023-10-19 10:56:33 发布

原创

最新推荐文章于 2023-10-19 10:56:33 发布 · 3.2k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#flume

在使用Flume 1.7.0写入HDFS时遇到不支持Lzo压缩格式的问题。通过将Hadoop 2.7.3的`core-site.xml`配置文件放入Flume的`conf`目录，并添加Lzo相关的jar包到Flume的Hadoop共享库，解决了配置错误。具体步骤包括：1) 将`core-site.xml`放入Flume配置目录；2) 下载并添加`hadoop-lzo` jar到Hadoop的`/share/hadoop/common/`路径。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题环境： hadoop2.7.3 和 flume 1.7.0

1.首先我的flume是单独部署在一台主机的。没该主机没有部署hadoop

所以sink写入hdfs的时候直接报错。于是我上传了hadoop2.x.x 版本配置了下hadoop_home path 环境变量。搞定。

2.在编写flume 写入hdfs的时候得知公司hdfs用的是lzo的文件格式储存

我直接用原生的flume 在编写属性

a1.sinks.s1.hdfs.fileType = CompressedStream
a1.sinks.s1.hdfs.codeC = lzo

的时候启动flume报错

error during configuration
java.lang.IllegalArgumentException: Unsupported compression codec Lzop. Please choose from: [None, BZip2Codec, DefaultCodec, DeflateCodec, GzipCodec, Lz4Codec, SnappyCodec]
at org.apache.flume.sink.hdfs.HDFSEventSink.getCodec(HDFSEventSink.java:334)
at org.apache.flume.sink.hdfs.HDFSEventSink.configure(HDFSEventSink.java:237)
at org.apache.flume.conf.Configurables.configure(Configurables.java:41)
at org.apache.flume.nod