flume的安装和使用
wget “http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz”
官方下载包
创建文件夹并解压
cd /opt/module
mkdir flume
tar -zxvf apache-flume-1.8.0-bin.tar.gz -C /opt/module/flume
配置并使其生效
vi /etc/profile
export FLUME_HOME=/opt/module/flume/apache-flume-1.8.0-bin
export FLUME_CONF_DIR= $FLUME_HOME/conf
export PATH=$FLUME_HOME/bin:$PATH
source /etc/profile
配置flume-env.sh的JAVA_HOME
cd /opt/module/flume/apache-flume-1.8.0-bin
cd conf
cp flume-env.sh.template flume-env.sh
vi flume-env.sh
在其中写入
export JAVA_HOME=/opt/module/jdk1.8.0_121

查看flume版本
cd /opt/module/flume/apache-flume-1.8.0-bin
./bin/flume-ng version
此时会出现加载不出来主类的问题

解决:
cd /opt/module/hbase/conf
vi hbase-env.sh
将export HBASE_CLASSPATH=/opt/module/hbase/conf这句话注释

本文详细介绍了Apache Flume的安装过程,包括创建文件夹、解压、配置环境变量和JAVA_HOME,以及解决版本查询时遇到的问题。此外,通过实际案例展示了如何使用Flume从AvroSource和Source接收信息,接收本地文件夹,并将数据存储到HDFS。
最低0.47元/天 解锁文章
1万+

被折叠的 条评论
为什么被折叠?



