hbase伪分布式配置

本文详细介绍了在RedHat5.4 x64环境下安装配置Hadoop与HBase的过程,包括软件环境准备、SSH配置、防火墙关闭、Hadoop与HBase的配置文件调整、jar包替换及hosts设置等关键步骤。
软件环境
RedHat5.4 x64
hadoop-1.1.1 [url]http://mirror.bjtu.edu.cn/apache/hadoop/common/hadoop-1.1.1/hadoop-1.1.1-bin.tar.gz[/url]
hbase-0.94.4 [url]http://mirror.bjtu.edu.cn/apache/hbase/stable/hbase-0.94.4.tar.gz[/url]
java jdk1.6

[b]jdk安装和配置[/b]
略过...

[b]安装和配置ssh[/b]
确认ssh是否安装
# which ssh
/usr/bin/ssh
# which sshd
/usr/sbin/sshd
# which ssh-keygen
/usr/bin/ssh-keygen
配置SSH,使其可以自动登录
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
测试:$ ssh localhost

[b]关闭防火墙[/b]
这个非常坑爹,一定要关了。
$ chkconfig iptables off

[b]配置hadoop[/b]
配置hadoop
将hadoop解压后,配置conf目录下的四个文件:
[color=red]conf/core-site.xml[/color]
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://192.168.3.206:8020</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/var/log/hadoop_data</value>
</property>
</configuration>

[color=red]conf/hdfs-site.xml[/color]
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>

[color=red]conf/mapred-site.xml[/color]
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>192.168.3.206:8021</value>
</property>
</configuration>

[color=red]conf/hadoop-env.sh[/color]
将 #export JAVA_HOME=/usr/lib/jvm/java-6-sun
改为 export JAVA_HOME=***/***(自己的JAVA_HOME的主目录)

通过以上步骤hadoop即安装配置完成,进入bin目录
$./start-all.sh //启动hadoop的各个监护进程
可以通过http://localhost:50070 和http://localhost:50030 查看namenode和jobtracker。
$./stop-all.sh //关闭hadoop的各个监护进程

[b]配置hbase[/b]
[color=red]./hbase-0.94.4 /conf/hbase-env.sh[/color]
修改下面的行:
# export JAVA_HOME=/usr/java/jdk1.6.0/
export JAVA_HOME=/usr/java/jdk1.6.0_38

# export HBASE_MANAGES_ZK=true
export HBASE_MANAGES_ZK=true

[color=red]./hbase-0. 94.4/conf/hbase-site.xml[/color]
修改为下面的:
<configuration>
<property>
<name>hbase.rootdir</name>
<value>hdfs://192.168.3.206:8020/hbase</value>
</property>
<property>
<name>hbase.cluster.distributed</name>
<value>true</value>
</property>
<property>
<name>hbase.zookeeper.quorum</name>
<value>192.168.3.206</value>
</property>
</configuration>
hdfs://192.168.3.206:8020与hadoop中core-site.xml的配置项一致

[b]替换Hbase中的jar包[/b]
需要{HADOOP_HOME}下hadoop-core-*.jar和{HBASE_HOME}/lib下hadoop-core-*.jar保持一致。如果不一致Hbase启动时会因为hadoop和Hbase的客户端协议不一致而导致HMaster启动异常。报错如下:
localhost: Exception in thread "main" org.apache.hadoop.ipc.RPC$VersionMismatch: Protocol org.apache.hadoop.hdfs.protocol.ClientProtocol version mismatch. (client = 42, server = 41)

[b]设置hosts[/b]
# cat /etc/hosts
# Do not remove the following line, or various programs
# that require network functionality will fail.
127.0.0.1 localhost localhost
192.168.3.206 xiekang-pc xiekang-pc

[b]启动[/b]
完成以上操作,就可以正常启动Hbase了,启动顺序:先启动Hadoop,再启动Hbase,关闭顺序:先关闭Hbase,再关闭Hadoop。

[b]官网资料[/b]
部分翻译过的中文资料,解决了我的阅读障碍。。。 :D
[url]http://abloz.com/hbase/book.html[/url]
### HDFS伪分布式配置需修改的配置文件 HDFS伪分布式配置通常需要修改`core-site.xml`和`hdfs-site.xml`文件。在`core-site.xml`中,需要配置`fs.defaultFS`参数,指定HDFS的默认地址;在`hdfs-site.xml`中,需要配置`dfs.replication`等参数,指定数据块的副本数等信息。例如,在`core-site.xml`中可进行如下配置: ```xml <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://hadoop:8020</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/root/hdfs/tmp</value> </property> </configuration> ``` 此配置将`fs.defaultFS`的值修改为`hdfs://hadoop:8020`,指定了HDFS的默认地址[^1]。 ### HBase伪分布式配置需修改的配置文件 HBase伪分布式配置需要修改`hbase-site.xml`文件。在该文件中,需要配置多个参数,如`hbase.cluster.distributed`指定HBase是否以分布式模式运行,`hbase.rootdir`指定HBase数据存储的HDFS路径,`hbase.zookeeper.quorum`指定ZooKeeper的地址等。示例配置如下: ```xml <property> <name>hbase.cluster.distributed</name> <value>true</value> </property> <property> <name>hbase.rootdir</name> <value>hdfs://master:9000/hbase</value> </property> <property> <name>dfs.replication</name> <value>2</value> </property> <property> <name>hbase.master</name> <value>master:6000</value> </property> <property> <name>hbase.zookeeper.quorum</name> <value>master</value> </property> ``` 这些配置确保了HBase以分布式模式运行,并指定了相关的存储路径和服务地址[^2]。 ### HDFS和HBase伪分布式配置中涉及主机名修改的配置文件 在HDFS伪分布式配置中,`core-site.xml`涉及主机名修改,如上述示例中的`fs.defaultFS`参数,将主机名配置为`hadoop`。在HBase伪分布式配置中,`hbase-site.xml`涉及主机名修改,如`hbase.rootdir`、`hbase.master`和`hbase.zookeeper.quorum`等参数,分别将主机名配置为`master`等[^1][^2]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值