hadoop1.2.1+zookeeper3.4.6+hbase0.94集群环境搭建

Hadoop2.8+HBase2.0+ZooKeeper3.4分布式集群环境搭建 本次 Hadoop 集群安装实验,采用在 VMware 虚拟机下安装多个 CentOS 系统的方式进行;3 个 CentOS 系统中,其中,1 个为 Master 机,作为 NameNode;另外 3个为 Slave 机,作为 DataNode,均采用独立静态 IP 地址配置。 阅读详情
hadoop集群环境搭建
参考前面的hadoop集群搭建文档,搭建了三个服务器的集群如下
feixu-master     namenode, secondaryNamenode, jobtracker
feixu-slave1     datanode, tasktracker
feixu-slave2     datanode, tasktracker

zookeeper集群环境搭建
zooKeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。

从conf/zoo_sample.cfg复制文件conf/zoo.cfg并添加如下配置

dataDir=/hadoop/zookeeper

server.1=hadoop01:2887:3887

server.2=hadoop02:2888:3888

server.3=hadoop03:2889:3889


在每个节点上启动zookeeper服务

sh bin/zkServer.sh start

sh bin/zkServer.sh status 查看当前节点是否是leader


HBase集群环境搭建
修改hbase-env.sh文件如下

export JAVA_HOME=/usr/java/jdk

export HBASE_CLASSPATH=/usr/local/hadoop-1.0.4/conf

export HBASE_MANAGES_ZK=false

export HBASE_HEAPSIZE=2048

修改hbase-site.xml文件如下

<configuration>

 <property>

   <name>hbase.rootdir</name>

   <value>hdfs://hadoop01:9000/hbase</value>

   <description>The directory shared by region servers.</description>

 </property>

 <property>

   <name>hbase.cluster.distributed</name>

   <value>true</value>

 </property>

 <property>

     <name>hbase.zookeeper.quorum</name>

     <value>hadoop01,hadoop02,hadoop03</value>

 </property>

 <property>

  <name>hbase.tmp.dir</name>

  <value>/hadoop/hbase</value>

</property>

</configuration>

conf/regionservers  相当于hadoop的slave

hadoop02

hadoop03

启动所有hbase进程

bin/start-hbase.sh

master机器的进程

2255 SecondaryNameNode
3745 QuorumPeerMain
2115 NameNode
4192 HMaster
4461 Jps
2333 JobTracker

slave机器的进程

1850 QuorumPeerMain
1502 DataNode
2091 HRegionServer
1590 TaskTracker
2292 Jps




Hadoop-2.6.0+Zookeeper-3.4.6+Spark-1.5.0+Hbase-1.1.2+Hive-1.2.0集群搭建 前言 本博客目的在于跟大家分享大数据平台搭建过程,是笔者半年的结晶。在大数据搭建过程中,希望能给大家提过一些帮助,这也是本博客的价值所在。 博客内容分为将五个部分,具体如下:第一部分 集群平台搭建 第二部分 SSH登录和JDK安装 第三部分 Hadoop-2.6.0+zookeeper-3.4.6集群搭建 第四部分 Spark集群搭建 第五部分 Hive集群搭建 第六部分 Hbas 阅读详情

相关推荐

华大HC32F460从零到200MHz:手把手教你配置时钟系统(附避坑指南)

本文详细解析了华大HC32F460 MCU的时钟系统配置,从启动过程、时钟树分析到实战配置200MHz系统时钟。文章手把手指导开发者如何正确配置外部晶振、MPLL锁相环及总线分频,并提供了硬件检查、代码解读及常见问题排查的避坑指南,帮助用户从零构建稳定可靠的高性能时钟环境。

net55的博客 294

伪分布式hadoop1.1.2和hbase0.94.11配置

Hadoop 1.1.2 和Hbase 0.94.11版本配置 测试时ip 172.19.32.128 这个版本需要把/etc/hosts的aa-vm改成127.0.0.1,也就是和localhost一致。否则hbase会出现master在初始化(出现此问题还可能是时间不同步) 1.更新apt   Sudo apt-get update   Sudo apt-g...

weixin_30687587的博客 146

定制PYNQ的overlay

一、用HLS生成一个定制IP(加速器)(1)首先打开vivado hls,本人的版本是2017.2,点击创建一个新工程。(2)设置工程名和路径,顶层函数设置为add,创建一个新的C++程序,名字叫做adder.cpp,不用在testbench中添加文件。选择板子的时候搜索xc7z020clg400-1,这是PYNQ的板子号,选择完成。             (3)在左侧的菜单栏里选择Sourc...

bramblewalls的博客 1万+

hadoop1.2.1+zookeeper-3.4.5+hbase-0.94.1集群安装过程详解

hadoop1.2.1+zk-3.4.5+hbase-0.94.1集群安装过程详解一,环境:1,主机规划:集群中包括3个节点:hadoop01为Master,其余为Salve,节点之间局域网连接,可以相互ping通。机器名称IP地址hadoop01192.168.1.31hadoop02192.168.1.32hadoop03192.168.1.33三个节点上均是CentOS...

weixin_33918357的博客 251

Tomcat源码:Acceptor与Poller、PollerEvent

前文中我们介绍到NioEndpoint的start方法启动了Acceptor与Poller这两个异步线程来处理连接请求,本文我们就来接着介绍这两个组件。目录前言一、Acceptor1、构造方法2、run方法LimitLatchNioChannel二、Poller与PollerEvent2、pollerregisterruneventsprocessKey。

CRUD工程师 2065

基于综合阻抗特征的配电架空线路单相断线故障区段定位研究

本文提出了一种基于综合阻抗特征的配电架空线路单相断线故障区段定位方法。通过分析故障后正序、负序阻抗变化,构造综合阻抗判据实现精准定位。仿真结果表明:该方法能有效识别故障区段,差异度判据显著(故障区段达0.508,非故障区段<0.016);对过渡电阻(1-200Ω)和负荷变化具有强鲁棒性,定位准确率不受影响。相比传统方法,综合阻抗法放大了断线故障特征,解决了弱故障信号检测难题,为配电网安全运行提供了可靠的技术手段。

AI的内部世界的博客 78

Hadoop1.2.1+Hbase0.94.14完全分布式安装

在集群的安装过程中遇到了许许多多的问题,有一个问题是HBase无法关闭

iCloud 1185

【电源专题】案例:对比不同电池在不同电流下的电池放电曲线

无

一点硬件 2840

初学者VmWare安装CentOS6.4虚拟机搭建hadoop1.2.1\hbase0.94.12环境

      主要是希望对以后能有个笔记的东西所以记下所有安装的步骤,也希望跟我同样初学这方面知识的朋友能有一些分享的意义。   一  使用VmWare安装CentOS6.4虚拟机          安装所需软件vmware、CentOS,我使用的vmware版本是7.0.0 build-203739,下载地址https://my.vmware.com/cn/web/vmware/down...

秦昭襄王 456

【第2章>第10节】深度学习DenseNet模型分析与matlab仿真

本文介绍了基于DenseNet深度学习模型的图像分类MATLAB实现方法。主要内容包括:1. DenseNet模型原理,详细解析了初始卷积层、密集块、过渡层等核心结构;2. 在MATLAB环境下完成DenseNet工具箱安装和测试样本准备;3. 实现图像预处理(统一缩放为224×224)、模型训练和测试的完整流程;4. 提供了混淆矩阵和准确率等测试结果分析。文章附带完整的MATLAB程序代码和操作视频教程,适合深度学习初学者快速掌握DenseNet模型的图像分类应用。通过实际测试,验证了该方案的有效性。

FPGA/MATLAB学习教程/源码/项目合作开发 330

【银河麒麟V10】【桌面】【服务器】系统启动问题

1、如果之前运行好好的,重启后系统报错,一般80%是因为fstab的问题,回想下之前有没有添加过外接存储,修改过/etc/fstab,如果是的话一般是因为存储异常(比如网络存储无法连接,本地存储路径变化)导致系统开机自检失败,导致无法正常启动; 处理方式:进入单用户(单用户进入的几种方式上面有专门文章介绍),修改/etc/fstab,将新增的内容暂时注释掉,然后重启系统,能正常进入系统后再分析失败原因。 ...

桂安俊@KylinOS 3万+

Hadoop+Hbase安装配置实录(hadoop1.0.3, hbase 0.94.0)

生产环境: 3台机器:master(192.168.0.61),slave1(192.168.0.62),slave2(192.168.0.63) 注意:hostname设置为master/slave1/slave2 操作系统:rhel5.4 x86_64 master做为namenonde,将slave1和slave2做为datanode 1.在master:(在slave1...

whxhz的专栏 191

SVN使用:使用TortoiseSVN遇到提示请执行“清理”命令的解决方法

作为程序员来说,在团队开发过程中关于代码管理的工具使用并不陌生,比较常用的代码合并管理工具如:Git、SVN等,虽然相关工具的使用并不复杂,但是还是要掌握常用的使用方法,尤其是相关的第三方软件的使用也是极为重要的,而且有时候使用这些三方软件来进行代码管理的时候也会遇到一些问题。本篇博文就来分享一下在SVN使用的时候使用TortoiseSVN遇到提示请执行“清理”命令的解决方法,方便查阅使用。

全沾软贱开发攻城狮 1万+

hadoop、zookeeper、hbase、spark集群环境搭建

本文详细讲解如何搭建hadoop、zookeeper、hbase和spark的集群环境,这里我是在本地虚拟机上搭建的集群,但是和实际环境的配置差不多。我会从零开始搭建并且尽量写得详细,所以还会讲到很多配置linux环境的东西,希望大家不要烦,务必按照步骤一步步做下去。 本文主要讲了以下内容: Linux系统的一些基础配置 安装jdk 配置SSH免登陆 hadoop的安装和配置 zookeeper集

Trigl的博客 1万+

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

Hadoop2.7.3+HBase1.2.5+ZooKeeper3.4.6搭建分布式集群环境

Hadoop2.7.3+HBase1.2.5+ZooKeeper3.4.6搭建分布式集群环境 一、环境说明 集群环境至少需要3个节点(也就是3台服务器设备):1个Master,2个Slave,节点之间局域网连接,可以相互ping通,下面举例说明,配置节点IP分配如下: IP     角色 10.10.50.133 master 10.10.125.156 slav

reblue520的专栏 1万+

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

Hadoop2.6+HA+Zookeeper3.4.6+Hbase1.0.0安装

Hadoop2.6+HA+Zookeeper3.4.6+Hbase1.0.0安装Author : WHP 安装hadoop2.6+HA 1.准备一台CentOS6.4系统2.环境CentOS6.4 共5台 机器名 ip地址 安装软件 运行进程 maste

孩子 要努力啊 1万+

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Hadoop+HBase+ZooKeeper分布式集群环境搭建

一、环境说明集群环境至少需要3个节点(也就是3台服务器设备):1个Master,2个Slave,节点之间局域网连接,可以相互ping通,下面举例说明,配置节点IP分配如下: Hostname IP User Password master 192.168.59.133 hadoop 123456 slave1 192.168.59.134 hadoop

已转移博客园 1万+

Centos7 搭建Hadoop3.0.3 +Zookeeper3.4.12+HBase2.1.0

安装包资源 JDK1.8 Hadoop3.0.3 Zookeeper3.4.12 HBase2.1.0 服务器资源 IP地址 hostname 是否NameNode 是否DataNode 192.168.60.204 master 是 否 192.168.60.205 node1 否 是 1、Ce...

zhouzhiwengang的专栏 1406

记一次 Centos7.6 基于 Hadoop3.x 集群部署 HBase 2.4.0 集群

基本信息 安装部署 [root@master ~]# wget -P /usr/bigdata/ https://mirror.bit.edu.cn/apache/hbase/2.4.0/hbase-2.4.0-bin.tar.gz [root@master ~]# cd /usr/bigdata/ [root@master bigdata]# tar zxf hbase-2.4.0-bin.tar.gz [root@master bigdata]# ll [root@master ~]# cd /us

一花一世界 2771

HBase集群环境搭建

搭建Hbase集群

m0_70405779的博客 2411

搭建hbase-0.94.26集群环境

先安装hadoop1.2.1,见http://blog.csdn.net/jediael_lu/article/details/38926477 1、配置hbase-site.xml hbase.zookeeper.quorum master,slave1,slave2 hbase.rootdir hdfs://master:9000/hbase

jediael_lu的专栏 3908

Hadoop 3.2.1 +Hive+Hbase伪分布式集群搭建

Hadoop 3.2.1 +Hive+Hbase伪分布式集群搭建 根据实战安装步骤,详细描述hadoop3.2.1、hive3.1.2(包括mysql5.7)、zookeeper3.6、hbase2.2.4、flume1.9.0、sqoop1.4.7各组件安装步骤,记录过程中的各种坑,方便各位看官快速安装部署hadoop伪分布集群。 软件环境 java version “1.8.0_181” Apache Hadoop 3.2.1 Hive 3.1.2 Zookeeper 3.6 Hbase 2.2.

weixin_42011520的博客 2296

大数据环境搭建步骤详解(Hadoop,Hive,Zookeeper,Kafka,Flume,Hbase,Spark等安装与配置)

大数据环境安装和配置(Hadoop2.7.7,Hive2.3.4,Zookeeper3.4.10,Kafka2.1.0,Flume1.8.0,Hbase2.1.1,Spark2.4.0等) 系统说明 搭建步骤详述 一、节点基础配置 二、Hadoop安装和配置 三、Hive安装和配置 四、ZooKeeper安装和配置 五、Kafka安装和配置 六、Flume安装和配置 七、Hbase安装和配置 八、Spark安装和配置 总结 前言:本篇文章是以Hadoop为基础,.

李天泉 3884
上一篇: 企业级hadoop集群选型配置
下一篇: Hadoop性能参数调优
spring8743
博客等级 码龄19年 4粉丝 29原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值