一、说明
直接使用的hadoop-2.6.0-cdh5.7.0.tar.gz包部署的hadoop集群不支持文件压缩,生产上是不可接受的,故需要将hadoop源码下载重新编译支持压缩
二、编译hadoop支持压缩
1、编译流程:
下载软件——>安装必要依赖库——>添加用户并创建文件夹上传软件——>安装JDK并添加环境变量——>安装maven并配置和添加环境变量——>安装protobuf并添加环境变量和编译——>编译hadoop支持压缩
2、步骤解读:
(1)软件下载
组件版本 | 百度网盘链接 |
---|---|
Hadoop-2.6.0-cdh5.7.0-src.tar.gz | https://pan.baidu.com/s/1uRMGIhLSL9QHT-Ee4F16jw 提取码:jb1d |
jdk-7u80-linux-x64.tar.gz | https://pan.baidu.com/s/1xSCQ8rjABVI-zDFQS5nCPA 提取码:lfze |
apache-maven-3.3.9-bin.tar.gz | https://pan.baidu.com/s/1ddkdkLW7r7ahFZmgACGkVw 提取码:fdfz |
protobuf-2.5.0.tar.gz | https://pan.baidu.com/s/1RSNZGd_ThwknMB3vDkEfhQ 提取码:hvc2 |
注:编译的JDK版本必须是1.7,1.8的JDK会导致编译失败
(2)安转必要依赖库
[root@hadoop001 ~]# yum install -y svn ncurses-devel
[root@hadoop001 ~]# yum install -y gcc gcc-c++ make cmake
[root@hadoop001 ~]# yum install -y openssl openssl-devel svn ncurses-devel zlib-devel libtool
[root@hadoop001 ~]# yum install -y snappy snappy-devel bzip2 bzip2-devel lzo lzo-devel lzop autoconf automake cmake
(3)添加用户并创建文件夹上传软件
[root@hadoop001 ~]# yum install -y lrzsz
[root@hadoop001 ~]# useradd hadoop
[root@hadoop001 ~]# su - hadoop
[hadoop@hadoop001 ~]$ mkdir app soft source lib data maven_repo shell mysql
[hadoop@hadoop001 ~]$ cd soft/
[hadoop&#