hbase快速入门之---系统架构

《HBase系列》HBase详细入门教程 分布式的数据库,它的本质是将数据存放在HDFS。它和Hive的最大区别就是,Hive的本质相当于封装了Mapreduce,HBase的本质相当于封装了HDFS。帮助我们存储一些非结构化的数据。他是一个Nosql的数据库。使用场景:1.海量非结构化或者结构化的数据的存储2.需要实现近实时的读写管理的数据。 阅读详情

ØClient
HBase Client使用HBase的RPC机制与HMaster和HRegionServer进行通信,对于管理类操作,Client与HMaster进行RPC;对于数据读写类操作,Client与HRegionServer进行RPC
ØZookeeper
Zookeeper Quorum中除了存储了-ROOT-表的地址和HMaster的地址,HRegionServer也会把自己以Ephemeral方式注册到Zookeeper中,使得HMaster可以随时感知到各个HRegionServer的健康状态。此外,Zookeeper也避免了HMaster的单点问题。
ØHmaster
HMaster没有单点问题,HBase中可以启动多个HMaster,通过Zookeeper的Master Election机制保证总有一个Master运行。
HMaster在功能上主要负责Table和Region的管理工作:
1.管理用户对Table的增、删、改、查操作
2.管理HRegionServer的负载均衡,调整Region分布
3.在Region Split后,负责新Region的分配
4.在HRegionServer停机后,负责失效HRegionServer上的Regions迁移

ØHRegionServer主要负责响应用户I/O请求,向HDFS文件系统中读写数据,是HBase中最核心的模块。

ØHRegionServer内部管理了一系列HRegion对象,每个HRegion对应了Table中的一个Region,HRegion中由多个HStore组成。每个HStore对应了Table中的一个Column Family的存储,可以看出每个Column Family其实就是一个集中的存储单元,因此最好将具备共同IO特性的column放在一个Column Family中,这样最高效。

ØHStore存储是 HBase存储的核心了,其中由两部分组成,一部分是MemStore,一部分是StoreFiles。
ØMemStore是Sorted Memory Buffer,用户写入的数据首先会放入 MemStore,当MemStore满了以后会Flush成一个StoreFile(底层实现是 HFile)
Ø当StoreFile文件数量增长到一定阈值,会触发 Compact合并操作,将多个StoreFiles合并成一个 StoreFile,合并过程中会进行版本合并和数据删除,因此可以看出 HBase其实只有增加数据,所有的更新和删除操作都是在后续的compact过程中进行的,这使得用户的写操作只要进入内存中就可以立即返回,保证了HBase I/O的高性能。
Ø当StoreFiles Compact后,会逐步形成越来越大的StoreFile,当单个StoreFile大小超过一定阈值后,会触发 Split操作,同时把当前 Region  Split成2个Region,父 Region会下线,新 Split出的2个孩子Region会被HMaster分配到相应的HRegionServer 上,使得原先 1个Region的压力得以分流到 2个Region上。
Ø下图描述了Compaction和Split的过程。


Hadoop生态系统-新手快速入门(含HDFS、HBase系统架构) Hadoop简介 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。 Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量... 阅读详情

相关推荐

【SpringBoot+HBase 】快速入门

SpringBoot+HBase保姆级入门教程前言一、HBase常用shell命令1.基础命令2. 表的基本操作3.表中数据的增删改查3.1 HBase数据模型3.20.1 Maven依赖 前言 本文是在已经搭建好的hbase数据库基础上进行的JavaAPI开发。HBASE搭建可以参考下面这篇文章,如果在自己电脑上搭建,配置不够用,只搭建一个单节点的hbase也行。 WMware上搭建基于Ubuntu18.04的Zookeeper+Hadoop+HBase集群 本文是一个单节点的hbase,搭建在2核4G的

God_WZH的博客 4516

HBase入门教程

1、什么是HBase? HBase是建立在Hadoop文件系统之上的分布式面向列的数据库。它是一个开源项目,是横向扩展的。 HBase是一个数据模型,类似于谷歌的大表设计,可以提供快速随机访问海量结构化数据。它利用了Hadoop的文件系统(HDFS)提供的容错能力。 它是Hadoop的生态系统,提供对数据的随机实时读/写访问,是Hadoop文件系统的一部分。人们可以直接或通过HBase的存储HDFS数据。使用HBase在HDFS读取消费/随机访问数据。HBa...

qq_54070501的博客 4793

一条数据的HBase之旅,简明HBase入门教程-开篇

这是HBase入门系列的第1篇文章,介绍HBase的数据模型、适用场景、集群关键角色、建表流程以及所涉及的HBase基础概念,本文内容基于HBase 2.0 beta2版本。本文既适用于HBase新手,也适用于已有一定经验的HBase开发人员。一些常见的HBase新手问题什么样的数据适合用HBase来存储?既然HBase也是一个数据库,能否用它将现有系统中昂贵的Oracle替换掉?存放于HBase...

nosqlnotes的博客 3万+

Hbase(一)入门

Hbase概述

ks_1998的博客 2万+

Hbase概述以及快速入门

文章目录一 Hbase简介1.1 Hbase定义1.2 hbase数据模型1.2.1 Hbase逻辑结构1.2.2 Hbase物理存储结构1.2.3 数据模型1.3 Hbase架构二 Hbase快速入门2.1 Hbase安装部署2.1.1 查看Hbase服务启动及页面2.1.2 Hmaster的高启用2.2Hbase shell操作 一 Hbase简介 1.1 Hbase定义 Hbase是一种分布式、可扩展、支持海量数据存储的nosql数据库 1.2 hbase数据模型 逻辑上,Hbase的数据模型与关系型

newhandnew413的博客 594

【深度剖析】三一重工的数字化转型(中篇)

三一重工在数字化转型方面取得了提高效率、降低成本、加强研发创新和改善内控管理等多方面的成效。本研究旨在通过对三一重工数字化转型的深入分析,引导企业思考在第四次工业革命与第三次能源革命交汇的超级技术窗口期,如何进一步把握发展机遇,并为同行业其他企业提供探索性的建议。作为装备制造行业的佼佼者,三一重工的数字化转型受到了业界的广泛关注。作为行业内首批接触并实践数字化转型的企业之一,三一重工的转型经验不仅成功,而且积累了丰富的理论与实践,为其他制造业企业的数字化转型提供了可借鉴的范例。

领信卓越的博客 2308

了解Hbase数据库:小白快速入门指南

HBase的数据模型在逻辑上与关系型数据库相似,数据存储在表中,有行有列。但从底层物理存储结构来看,HBase更像是一个多维地图(multi-dimensional map),以键值对(K-V)的形式存储数据。Namespace(命名空间):类似于关系型数据库的database概念,每个命名空间下有多个表。HBase有两个自带的命名空间,分别是hbase和default。hbase中存放的是HBase内置的表,default表是用户默认使用的命名空间。Table(表):表是HBase的基本存储单位。

huaqianzkh的专栏 1393

详解STM32F407双重ADC同步采集与DMA传输的配置技巧及实战应用

本文详细解析了STM32F407双重ADC同步采集与DMA传输的配置技巧及实战应用。通过CubeMX配置、代码实现和常见问题解决方案,帮助开发者高效实现多通道数据同步采集,提升工业自动化和嵌入式系统的数据采集效率与精度。

ii567的博客 365

一篇文章完成Hbase入门

HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库。

lydms的博客 1万+

TongWeb微服务部署实战:Nacos注册与网关路由的疑难解析

本文分享了将Spring Cloud微服务迁移至TongWeb应用服务器时,解决Nacos服务注册失败与Spring Cloud Gateway路由失效的实战经验。针对Nacos注册问题,通过实现ApplicationRunner接口并利用JMX获取容器端口,实现了手动注册;针对网关路由问题,建议将基于WebFlux的Gateway模块改为JAR包独立部署,以保障其原生运行环境。文章为在TongWeb上进行微服务部署提供了关键的问题排查思路与混合架构部署的最佳实践。

weixin_29209801的博客 241

Word论文插入带有方括号序号的参考文献——尾注+交叉引用

文章目录1. 尾注功能2. 为参考文献的序号添加方括号3. 调整参考文献前的序号大小4. 重复引用同一参考文献5. 将交叉引用的序号改为带有方括号的上标序号格式6. 删除参考文献前的尾注横线 1. 尾注功能 首先使用尾注功能顺序插入参考文献,暂时不考虑方括号问题,具体操作如下: ① 将光标放在需要插入参考文献角标的地方 ② 在word菜单栏,“引用-脚注部分右下角箭头”(用来设置尾注格式) ③如...

Your_Raymond的博客 9万+

大厂面试 HBase系列(一) 系统设计开篇

“大厂面试系列主要两个目标:1让有经验同学快速复习,温故而知新;2作为萌新同学的入门砖”本文是HBase系列第一篇,通过本文可以了解:1、HBase概述及数据模型;2、HBase系统架...

靳刚同学 441

PSM倾向匹配详细步骤和程序

目录1.安装psmatch2统计包。2.数据准备3.数据分析及命令解读4.结果解读4.1模型拟合结果,此处无太多实际意义。4.2试验组可匹配的观测概览,按照命令中设定的匹配规则,试验组有8例患者未能匹配到合适对照。4.3结果解读的重点应该是对stata新生成的中间变量的解读。4.4均衡性检验结果4.5匹配结果的图示化5.Stata命令汇总最后留下两个问题给大家思考:题目 试验设计中,匹配的目的在于确保干预效应估计是建立在可比个体之间的不同结果的基础上。最简单的匹配方式是将干预组和对照组中协变量值相同的两个个

平平淡淡,戒急用忍,一生学闭嘴。 5万+

大数据技术之HBase(一)HBase简介、HBase快速入门、HBase进阶

文章目录1 HBase 简介1.1 HBase 定义1.2 HBase 数据模型1.2.1 HBase 逻辑结构1.2.2 HBase 物理存储结构1.2.3 数据模型1.3 HBase 基本架构2 HBase 快速入门1.2.3 自定义存储 offset1.3 自定义 Interceptor1.3.1 拦截器原理1.3.2 拦截器案例2 Kafka 监控2.1 Kafka Eagle3 Flume 对接 Kafka4 Kafka 面试题 1 HBase 简介 1.1 HBase 定义 HBase 是一.

huxili2020的博客 4万+

什么是华为OD?怎么才能通过华为OD机试?华为OD机试怎么刷题?(2024最新华为OD机试E卷更新中)

华为OD是Outsourcing Dispacth模式,是华为和外企德科联合招聘的简称。目前华为大多数是OD招聘。OD模式也是华为提出的一种新的用工形式,每年都会从OD项目挑优秀员工转为正编。所有OD和正式员工一样对待,没有差别,部门平时开会、评审等活动都是一起参加的,是同薪同酬,都是由华为的HR直接定的薪资,看的是我们技术能力。华为是大企业,能到华为上班也是有能力的,每个部门都有好多职位,是金子,在哪都会发光。

KJ.JK 11万+

ABAP 百科全书的阅读目录(2024版)

909 篇 ABAP 技术文章的目录

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 4251

HBase快速入门系列(1) | Hbase的简单介绍

> 大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语—`不温不火`,本意是`希望自己性情温和`。作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限,博客中难免会有一些错误出现,有纰漏之处恳请各位大佬不吝赐教!暂时只有csdn这一个平台,博客主页:[https://blog.youkuaiyun.com/qq_16146103](https://blog.youkuaiyun.com/qq_16146

不温卜火 6414

一文搞定离线环境下的RAG引擎部署

在人工智能浪潮下,技术已成为构建智能问答、文档分析和代码助手等应用的核心。然而,在许多企业场景中,出于数据安全和性能的考虑,服务器往往部署在中,并要求极致的推理效率。这给依赖外部资源的应用部署带来了巨大挑战。如何在这种严苛的环境下,完整、可靠地部署一套包含向量数据库、**高性能推理服务(vLLM)**和Python后台的复杂RAG系统呢?本文将为你提供一个,手把手教你如何使用 Docker 技术,将一套基于 Weaviate 和的 Python RAG 应用完整打包,并在离线环境中一键部署。

木鱼时刻的专栏 1243

Hbase简介和快速入门

本文首先简单介绍了Hbase的定义,逻辑结构,物理存储结构;然后详细的介绍了Hbase的安装;最后简单介绍了Hbase的shell命令操作

m0_37689903的博客 1506

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

HBase快速入门系列(3) | Hbase的shell基本操作

  此篇为大家带来的是Hbase的shell操作。 目录1. 基本操作2. 表的基本操作 1. 基本操作 1. 进入HBase客户端命令行 [bigdata@hadoop002 hbase]$ bin/hbase shell 2. 查看帮助命令 hbase(main):001:0> help 3. 查看当前数据库中有哪些表 hbase(main):002:0> list 2. 表的基本操作 1. 创建表 hbase(main):003:0> crea

不温卜火 5565

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

【HBase分布式数据库】第三章 HBase快速入门

任务目的了解安装包下各个文件作用任务清单任务1:解压安装包任务2:文件介绍任务步骤任务1:解压安装包下载通过hbase官网https://hbase.apache.org/downloads.html,选择版本进行下载。3.1-1解压通过以下指令进行解压。3.1-2任务2:文件介绍主目录预览进入hbase主目录并进行查看。3.1-3bin目录该目下两个文件重要,一个文件可以启动hbase服务,一个可以关闭3.1-4conf目录。

1556

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

Hbase快速入门

1、HBase基本介绍 简介: hbase是bigtable的开源java版本。是建立在hdfs之上,提供高可靠性、高性能、列存储、可伸缩、实时读写nosql的数据库系统。 它介于NoSQL和RDBMS之间,仅能通过主键(row key)和主键的range来检索数据,仅支持单行事务(可通过hive支持来实现多表join等复杂操作)。 主要用来存储结构化和半结构化的松散数据。 Hbase查询数据功...

王傲旗的大数据之路 5078

【Hbase】HBase入门教程

入门好文章研读: 《一条数据的HBase之旅,简明HBase入门教程-开篇》:https://blog.youkuaiyun.com/nosqlnotes/article/details/79647096 这是HBase入门系列的第1篇文章,介绍HBase的数据模型、适用场景、集群关键角色、建表流程以及所涉及的HBase基础概念,本文内容基于HBase 2.0 beta2版本。本文既适用于HBase新手,...

我的笔记本 1011
上一篇: hbase快速入门之---物理存储
下一篇: hbase 快速入门之---HFILE数据格式
Java_Soldier
博客等级 码龄10年 27粉丝 82原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值