Day8-Zookeeper和Hbase安装与配置

配置HBase和zookeeper 【代码】配置HBase和zookeeper。 阅读详情


前言

HBase 是一个面向列式存储的分布式数据库,HBase 底层存储基于 HDFS 实现,集群的管理基于 ZooKeeper 实现。


一、HBase的架构在这里插入图片描述

HBase组件角色:

  • HMaster

功能:

1.监控 RegionServer

2.处理 RegionServer 故障转移

3.处理元数据的变更

4.处理region 的分配或移除

5.在空闲时间进行数据的负载均衡

6.通过 Zookeeper 发布自己的位置给客户端

  • HRegionServer

功能:

1.负责存储 HBase 的实际数据

2.处理分配给它的 Region

3.刷新缓存到 HDFS

4.维护WAL

5.执行压缩

6.负责处理 Region 分片

  • HFile

    这是在磁盘上保存原始数据的实际的物理文件,是实际的存储文件。

  • Store

​ HFile 存储在 Store 中,一个 Store 对应 HBase 表中的一个Column Family列族(列簇)。

  • MemStore

    顾名思义,就是内存存储,位于内存中,用来保存当前的数据操作,所以当数据保存在 WAL中之后,RegsionServer 会在内存中存储键值对。

二、HBase部署与启动

1.下载、解压缩,在/etc/profile全局配置文件中添加

代码如下():

export HBASE_HOME=/export/servers/hbase-2.4.5
export PATH=$PATH:$HBASE_HOME/bin

2.配置hbase-env.sh

代码如下():

export JAVA_HOME=/export/servers/jdk1.8.0_161
export HBASE_MANAGES_ZK=false  # 使用外部的ZooKeeper

3.配置hbase-site.xml

<configuration>
  <!-- hbase数据存放的目录,若用本地目录,必须带上file://,否则hbase启动不起来 -->
        <property>
                <name>hbase.rootdir</name>
                <value>hdfs://my2308-host:9000/hbase</value>
        </property>

        <!-- zk的位置 -->
        <property>
                <name>hbase.zookeeper.quorum</name>
                <value>localhost</value>
                <description>my2308-host:2181</description>
        </property>

<!--hbase.cluster.distributed表示是否分布式部署,指定为true-->
        <property>
                <name>hbase.cluster.distributed</name>
                <value>true</value>
        </property>

        <!-- hbase主节点的位置 -->
        <property>
                <name>hbase.master</name>
                <value>my2308-host:60000</value>
        </property>
</configuration>

4.拷贝zookeeper的conf/zoo.cfg到hbase的conf/下

5.启动HBase

执行start-hbase.sh脚本


三、Zookeeper部署与启动

1、环境准备

ZooKeeper服务器是用Java创建的,它运行在JVM之上。需要安装JDK 7或更高版本。

2、上传

将下载的ZooKeeper放到/export/software目录下

3、解压

进入/export/software目录下,将tar包解压到/export/servers目录下

tar -xzvf apache-ZooKeeper-3.5.6-bin.tar.gz -C /export/servers

4、添加环境变量

在/etc/profile全局配置文件中,添加:

export ZK_HOME=/export/servers/apache-zookeeper-3.5.6-bin
export PATH=$PATH:$ZK_HOME/bin

5.配置zoo.cfg

进入到conf目录拷贝一个zoo_sample.cfg并完成配置

#进入到conf目录
cd /export/servers/apache-zookeeper-3.5.6-bin/conf
#拷贝
cp  zoo_sample.cfg  zoo.cfg

修改zoo.cfg

#进入目录
cd /export/data
#创建zooKeeper存储目录
mkdir  zkdata
#修改zoo.cfg
vi /export/servers/apache-zookeeper-3.5.6-bin/conf/zoo.cfg

在这里插入图片描述
修改存储目录:dataDir=/export/data/zkdata

6.启动ZooKeeper

cd /export/servers/apache-zookeeper-3.5.6-bin/bin
#启动
./zkServer.sh  start

7.查看ZooKeeper状态

./zkServer.sh status
【Day 8 Zookeeper和HBase安装与配置】 Zookeeper 是一个分布式应用程序的分布式开源协调服务。是Apache Hadoop 的一个子项目,主要用来解决分布式应用中经常遇到的一些数据管理问题,例如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。HBase 是一个面向列式存储的分布式数据库,HBase 底层存储基于 HDFS 实现,集群的管理基于 ZooKeeper 实现。 阅读详情

相关推荐

搭建基于Zookeeper服务的Hbase集群

本实验任务主要完成基于ubuntu环境搭建基于Zookeeper服务的Hbase集群的工作。通过完成本实验任务,要求学生熟练掌握搭建基于Zookeeper服务的Hbase集群的方法,为后续实验的开展奠定Hbase平台基础,也为从事大数据平台运维工程师、大数据技术支持工程师等岗位工作奠定夯实的技能基础。1、掌握搭建基于Zookeeper服务的Hbase集群Ubuntu(三台节点:mater,slave1,slave2)、Hadoop2.7.3、Hbase1.2.6Hbase是一个分布式的、面向列的开源数据库,

需要远程指导仿真实验、代码有问题的,请后台私信或者关注公众号 2256

Hbase,zookeeper安装与配置

zookeeper安装包habase安装包解压zookeeper解压habase。

z2839的博客 1935

Wezterm的安装和简单配置

希望 wezterm 的主题配色,保持和 powershell 默认配色一致,也就是 Compell 主题。目的是在频繁使用 wezterm 时,原本的根据颜色判断文件信息(尤其是WSL里的Linux下,文件和目录颜色)依然可以使用。wezterm 默认用 cmd.exe, 我是 win11,希望默认用 powershell。

baiyu33的博客 4268

​HBase的介绍和安装部署以及ZooKeeper的安装部署

Hbase是非关系型数据库,适合海量数据,实时读写分析。是Hive的有力补充,在hadoop的生态系统中有极大作用。 在ZooKeeper集群搭建好后,配置Hbase集群(master,node1,node3)。 master作为Hbase的主节点,担当Hmaster的角色。

qq_54542910的博客 1584

YOLOv8 交通流量监测详解

本文介绍了一个基于YOLOv8的交通流量监测系统,该系统通过深度学习技术实现车辆实时检测、跟踪和分类。系统核心功能包括:1)使用YOLOv8模型检测道路车辆并进行持续跟踪;2)按方向和车型统计车流量;3)支持多区域流量监测和数据可视化。文章提供了完整的代码实现示例,涵盖基础车辆检测、视频流处理和高级数据分析功能。系统还可进一步优化性能,如使用轻量级模型、GPU加速等,并建议扩展车速估算、密度分析等功能。该方案为交通管理提供了有效的实时监测和决策支持工具。

u010117029的博客 346

第3章: MMU Interval Notifier 区间通知器的核心原理⭐

摘要:区间级内存通知机制分析 本文分析了Linux内核中区间级内存通知机制(mmu_interval_notifier)的设计原理与实现。该机制针对传统全局通知(mmu_notifier)存在的性能开销大、无法精确控制等问题,通过引入区间树(Interval Tree)实现精确匹配,仅当内存变化与注册区间重叠时才触发回调。核心优势包括:1)O(log n + k)的高效查找性能;2)支持独立管理各内存区间;3)实现高并发处理不同区间的失效事件。

图形/计算GPU的驱动与虚拟化技术分享园地 2025

day07 ---- Zookeeper,HBase

https://zookeeper.apache.org/ Zookeeper 是一个分布式协调服务的开源框架。 主要用来解决分布式集群中应用系统的一致性问题。 例如怎样避免同时操作同一数据造成脏读的问题。 leader: follwer: Leader: Zookeeper 集群工作的核心事务请求(写操作) 的唯一调度和处理者,保证集群事务处理的顺序性;集群内部各个服务器的调度者。 对于 create, setData, delete 等有写操作的请求,则需要统一转发给leader 处理, leade

qq_764694767的博客 639

2025电赛嵌入式:K210教程-如何刷固件 如何烧录代码 全网唯一

本文介绍了K210开发板的固件刷写和开发环境搭建方法。主要内容包括:1)从Sipeed官网下载合适的MaixPy固件,根据需求选择完整版或精简版;2)使用k-flash等工具烧录固件,注意区分亚博和Sipeed开发板的固件版本;3)介绍了擦除闪存的两种模式(部分擦除和完全擦除)及其应用场景;4)搭建CanMV开发环境,通过MaixPy IDE连接开发板并进行程序调试。文章还提供了常见问题的解决方法,如串口驱动安装、固件兼容性检查等,为K210开发提供了完整的入门指南。

FJN110的博客 547

day 49 hbase 安装 指令

I know, i know 地球另一端有你陪我 一、HBase HBase – Hadoop Database 是一个高可靠性、高性能、面向列、可伸缩、实时读写的分布式数据库 利用 Hadoop HDFS 作为其文件存储系统 利用 Hadoop MapReduce 来处理 HBase 中的海量数据 利用Zookeeper作为其分布式协同服务 主

qq_41464008的博客 665

YOLOv11的对比学习预训练改进-(通过SimCLR预训练增强特征提取)

本文介绍了将SimCLR对比学习预训练与YOLOv11目标检测模型相结合的创新方法。文章首先概述了目标检测领域的发展现状和YOLOv11的架构优化,包括主干网络、特征金字塔和检测头的改进设计。其次详细解析了SimCLR对比学习的核心原理,涵盖数据增强、投影头设计和NT-Xent损失函数。最后探讨了如何将对比学习与目标检测有效结合,通过特征空间对齐和渐进式微调策略提升模型性能。该方法显著增强了特征提取能力,提高了检测精度和训练效率,特别是在小目标和遮挡目标的检测上表现突出。

本博客聚焦 YOLOv11 全流程落地,涵盖架构优化、数据集处理、训练技巧与多场景部署,兼及国产数据库、Java 开发与 AI 模型应用,内容兼顾理论与工程实践,为开发者提供系统干货,助力高效提升技术能力。 685

JavaScript - Blob / File / base64 使用场景介绍与相互转换

前言 本文首先介绍一下这三种对象使用场景,最后介绍下它们之间互转格式的解决方案。 您前端一旦涉及到文件或图片上传到服务器, 就势必离不了Blob/File/base64三种主流的类型。 Blob MDN:https://developer.mozilla.org/zh-CN/docs/Web/API/Blob 您可以观察到,像一些图片处理插件(例如有名的vue-cropper)图片裁剪插件, 它们将图片处理完毕后,都将使用blob对象返回处理好的图片,供开发者用于上传服务器。

🏆 前端领域优质创作者 4493

Day8——学习Hbase

HBase 是一个面向列式存储的分布式数据库,HBase 底层存储基于 HDFS 实现,集群的管理基于 ZooKeeper 实现。

weixin_64365047的博客 668

基于DynamicHead的YOLOv8四头版本改进:面向复杂场景的多目标检测优化【YOLOv8】

YOLOv8的检测头是通过不同尺度的特征层输出检测结果。这些检测头通常包括三个:用于大物体、中等物体和小物体的检测。然而,这种单一结构可能会在复杂场景下失去针对性和灵活性,特别是当多个目标之间差异较大时。为了进一步提升模型在特定目标上的检测性能,DynamicHead的引入为我们提供了一个多检测头的优化方案。本文提出了一种基于DynamicHead的四头版本YOLOv8改进方案,以解决复杂场景下多目标检测的挑战。通过引入四个独立检测头,分别针对不同目标特征进行优化,实现了更灵活的检测结构。

博客 1718

一起重新开始学大数据-Hbase篇-day 53 Hbase安装及简析

一起重新开始学大数据-Hbase篇-day 53 Hbase安装及简析     搭建Hbase 1、启动hadoop start-all.sh web验证是否开启 http://master:50070 jps验证是否开启 2、启动zookeeper 需要在在三台中分别启动 zkServer.sh start 验证是否开启 zkServer.sh status 开始搭建hbase 1、上传解压配置环境变量 tar -xvf hbase-1.4.6-bin.tar.gz -C /usr/local

tiand7的博客 278

system.img解包打包工具

最近需要对system.img进行解包,修改系统属性和添加自己的APK,再打包烧录,整理俩个方法。 system.img解包打包工具方法一 1、把system.img转换成ext4格式 ./simg2img system.img system_ext4.img 2、挂载ext4到systemMount目录进行修改 sudo mount system_ext4.img systemMount/ -o loop 3、修改完成后 unmount 退出挂载使用如下命令

计算机毕业论文源码,学生个人网页制作html源码。贴近用户做网络推广和互联网优化。 9705

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

zookeeper 集群配置 kafka , hbase ,clickhouse 等集群配置

day 第一天 1.1 zookeeper 总结 安装 1 解压 tar -zxvf zookeeper-3.4.10.tar.gz 进入 zookeeper 创建 mkdir data 在进入conf 目录下 mv zoo_samle.cfg.zoo.cfg 在 vim zoo.cfg 下面加上 dataDir=/opt/zookeeper-3.4.10/data server.1=hdp1:2888:3888 ​ server.2=hdp2:2888:3888 ​ server.3=hdp

l567891011的博客 673

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

Apache HBase Day1

Apache HBase 介绍 HBase是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的Google论文“Bigtable:一个结构化数据的分布式存储系统”。就像Bigtable利用了Google文件系统(File System)所提供的分布式数据存储一样,HBase在Hadoop的HDFS之上提供了类似于Bigtable的能力。 HDFS和HBase之间的关系 HBase的全称Hadoop Database,HBase是构建在HDFS之上的一款数据存储服务,所有的物理数据都

cjqnewid123的博客 280

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

Day --9 HBase安装与配置

列式存储

qq_64373794的博客 402

Hadoop HBase Hive day3.md

1,自己部署不起来 基本原因是 vi/vim使用不熟悉2,可以有两种方式解决2:上传module.tar到/opt/software/3:解压 4:环境变量修改 添加 再 5:将虚拟机改成hadoop101 按 《Hadoop虚拟机准备.txt》 注意ip,网段与主机名 重启 6:清除原有ssh 再重新生成ssh1:将moudle目录进行压缩 下载发给学生先安装git 然后一路输入y回车cd到配置文件目录 给hadoop重命名 同步我的配置内容 可以使用 启动 第3天 第1节 HBase简介 1.1 HB

翁老师的教学团队 941

Day 07-zookeeper

ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件(HA搭建)。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:分布式配置同步、域名服务(统一域名 负载均衡)、分布式同步、组服务(集群管理)等。ZooKeeper是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈进行下一步合理操作。最终,将简单易用的接口和性能高效、功能稳定的系统提供给用户zookeeper提供的功能。

qq_62907049的博客 1316

Hbase-day01_HBase1.7.1安装搭建

HBase1.7.1安装搭建 4.1 hbase下载 官网下载地址:https://www.apache.org/dyn/closer.lua/hbase/1.7.1/hbase-1.7.1-bin.tar.gz 4.2 前期准备(Hadoop,zookeeper,jdk) 启动hadoop start-all.sh 验证 http://master:50070 启动zookeepe...

weixin_48370579的博客 480

项目总结day19之Zookeeper

1 Zookeeper 1.1 Zookeeper介绍 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。 ZooKeeper的目标就是封装好复杂易出错的关键服务,将简单易用的接口和性能高效、功能稳定的系统提供给用户。 ZooKeeper包含一个简单的原语集,提供Java和C的接口。 ZooKeeper代码版本

weixin_44068499的博客 1945

Day10——HBase

HBase 是一个面向列式存储的分布式数据库,HBase 底层存储基于 HDFS 实现,集群的管理基于 ZooKeeper 实现。

2303_77130695的博客 708

day08 ---- Hbase 操作,进一步了解HBase结构

Store memstore 128m 满了 刷盘 storefile 是对HFile 的上层封装 HFile 真正存储的文件 为什么order数据就在01节点 HBase shell操作 1、进入HBase客户端命令操作界面 $ bin/hbase shell 2、查看帮助命令 hbase(main):001:0> help 3、查看当前数据库中有哪些表list hbase(main):002:0> list 4、创建一张表 创建user表,包含info、data两个列族 hbase(.

qq_764694767的博客 539

zookeeper安装及sqoop脚本执行生成数据到mysql

============ zookeeper ====================== 在opt目录下tar -zxvf zookeeper-3.4.6.tar.gz -C 配置 在zookeeper目录下创建data 文件夹, 进入conf目录, 把 zoo_sample.cfg 改名为 zoo.cfg 进入zoo.cfg文件,修改dataDir=/opt/zookeeper/data 启动 进入bin目录,使用./zkServer start 命令启动,提示如下则启动成功 JMX enabled

wr10980170的博客 345

小白学hadoop日记day14——hbase

4.1 hbase的来源 1、hdfs的数据读写延迟高 2、不能近实时更新删除局部数据 3、hive的数据必须要指定的列或者字段,必须要格式化的数据。 4、hbase来源于google的bigtable。 4.2 hbase的定义 Hbase是一个基于Hadoop的开源, 分布式的,多版本的,可扩展的,非关系型数据库,能够处理海量数据(数十亿行和百万列)。 Hbase特点 habse类似于:Redis、clickhouse、mongoDB、canssdra等。uid <name:zs,age:18.

qq_42515611的博客 330
上一篇: Day7-电商实战项目使用Hadoop实现(二)
下一篇: Day9-SparkCore学习(一)
风吹落红烛.
博客等级 码龄5年 238粉丝 15原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值