如何编译Hadoop

在集群搭建时,为避免环境差异错误及进行源码改动,有时需自行编译Hadoop。博客详细介绍了编译步骤,包括安装jdk、所需环境、maven、ant、findbugs、proto,配置环境变量,解压hadoop源码,最后开始编译。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

编译Hadoop

在集群搭建的过程中有时候我们需要自己来编译自己集群的hadoop,原因常常有两个,一是避免因集群环境不同造成的一些错误和警告,二是一些基于源码的改动。

编译步骤
1.安装jdk

解压jdk安装包到指定目录
执行:tar -zxvf jdk-8u171-linux-x64.tar.gz -C /cloud/java
配置环境变量
执行:vim /etc/profile
#在行尾添加

export JAVA_HOME=/cloud/java/jdk1.8.0_171
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$PATH

保存退出
执行:source /etc/profile
测试:java -version 查看java版本,能够正确打印版本号说明配置成功

2.安装所需环境

yum -y install gcc*
yum -y install cmake
yum -y install glibc-headers
yum -y install gcc-c++
yum -y install zlip-devel
yum -y install openssl-devel
yum -y install svn
yum -y install git
yum -y install ncurses-devel
yum -y install lzo-devel
yum -y install autoconf
yum -y install libtool
yum -y install automake

3.安装maven
4.配置环境变量

export JAVA_HOME=/data/java/jdk1.8.0_171
export CLASSPATH=$JAVA_HOME/lib
export MAVEN_HOME=/data/maven/apache-maven-3.5.4
export ANT_HOME=/data/ant/apache-ant-1.10.4
export FINDBUGS_HOME=/data/findbugs/findbugs-3.0.1
export PATH=$PATH:$JAVA_HOME/bin:$MAVEN_HOME/bin:$ANT_HOME/bin:\$FINDBUGS_HOME/bin

5.安装ant
6.安装findbugs
7.安装proto

tar -zxvf protobuf-2.5.0.tar.gz
cd /usr/soft/protobuf-2.5.0
./configure –prefix=/usr/soft/protobuf-2.5.0
make
make install

8.解压hadoop源码

tar -zxvf hadoop-2.6.1-src.tar.gz

9.开始编译

cdhadoop2.6.1src c d h a d o o p − 2.6.1 − s r c mvn clean package -Pdist,native -DskipTests -Dtar

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值