Hadoop之四

本文详细介绍了从Hadoop0.20.X开始,由于lzo压缩的GPL授权影响,将其从发布包中移除并转向GoogleCode的hadoop-gpl-compression项目的过程。包括lzo压缩的安装步骤,下载、编译hadoop-gpl-compression-0.1.0-rc0.tar.gz,以及如何将生成的jar文件和必要的环境变量添加到Hadoop和HBase配置中。同时,提供了在遇到错误时的解决方法,如JVM与lzo库不兼容问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Hadoop集群配置【五、Loz和Hadoop-gpl-compression安装】

从Hadoop 0.20.X开始,由于lzo压缩格式GPL形式授权的影响,lzo压缩从hadoop发布包中取消,转而成为Google Code中的一个项目hadoop-gpl-compression 。

1.lzo安装
./configure -enable-shared --prefix=$HOME/local
make 
make install【有时候你需要sudo,看看权限】
2.下载hadoop-gpl-compression-0.1.0-rc0.tar.gz
3.编译
tar -zxvf hadoop-gpl-compression-0.1.0-rc0.tar.gz
cd hadoop-gpl-compression-0.1.0
cp $HADOOP_HOME//hadoop-core-0.20.2-cdh3u0.jar lib/ 
vim src/java/com/hadoop/compression/lzo/LzoCompressor.java
...... 
import org.apache.hadoop.conf.Configuration; 
..... 

public void reinit(Configuration conf) { 
// do nothing 


export C_INCLUDE_PATH=/path_of_lzo_output/include
export LIBRARY_PATH=/path_of_lzo_output/lib 
ant compile-native
ant jar
4.拷贝需要的文件
cp build/hadoop-gpl-compression-0.1.0-dev.jar $HADOOP_HOME/lib/
cp build/hadoop-gpl-compression-0.1.0-dev.jar $HBASE_HOME/lib/
cp -r lib/native $HADOOP_HOME/lib/
cp -r lib/native $HBASE_HOME/lib/
5.修改配置重启HBase和Hadoop
vim core-site.xml

<property> 
<name>io.compression.codecs</name> 
<value>com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec</value> 
</property> 

<property> 
<name>io.compression.codec.lzo.class</name> 
<value>com.hadoop.compression.lzo.LzoCodec</value> 
</property> 
6.修改环境变量
export LD_LIBRARY_PATH=$HOME/local/lib:$LD_LIBRARY_PATH 
7. 测试lzo是否成功
bin/hbase org.apache.hadoop.hbase.util.CompressionTest hdfs://a1:54310/test.txt lzo

 

【我遇到的问题】

1.之前服务器去外网下载hadoop-gpl-compression下载不了,于是我在自己的ubuntu上按照方法生成了hadoop-gpl-compression-0.1.0-dev.jar和native/其实第二布就需要这两个东西,直接scp到服务器拷贝进去就OK了。而且这些与操作系统无关的,怎么生成都行。

2.在HBase的表格在适用Lzo压缩的时候,如果lzo报错为:java.lang.unsatisfi....can not load lzolib 你看看你的jvm是否是64位的,然后把local/lib里面的lzo所有的库都考到/usr/lib64/目录下,重启HBase Hadoop

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值