HBase 2.2.5 安装教程(基于centos7.x)

Hadoop-HBase HBase 2.2.5 1. HBase介绍 BigTale: http://blog.csdn.net/accesine960/archive/2006/02/09/595628.aspx 1.1. HBase简介 Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩、实时读写的分布式数据库。利用Hadoop HDFS作为其文件存储系统,利用Zookeeper作为其分布式协同服务主要用来存储非结构化和半结构化的松散数据(列存 NoSQL 数据库) 1.2. HBase优点 容量大 阅读详情

HBase 安装教程(基于centos7.x)

1.版本选择

  1. 官网地址HBase
    在这里插入图片描述
  2. 目前选择相对新版本的2.2.5版本,2020年5月份。
    在企业开发中,由于整个技术架构中包含各种框架,框架和框架之间往往会有版本依赖问题。所以虽然每个框架的版本都会解决一些历史bug和增强性能或者添加新功能,但企业做版本选择时往往会选择相对稳定和兼容性更佳的版本而不是最新的版本。

在这里插入图片描述

2. 环境准备

  1. linux集群(这里windows10系统上,使用vmware15.x基于centos7.x的linux操作系统版本虚拟出集群,都安装好JDK1.8,配置好SSH免密登录,安装好MySQL MySQL安装)
  2. hadoop 3.2.1(集群已安装好hdfs和yarn)HDFS、Yarn
  3. zookeeper 3.4.6(集群已安装好)zookeeper安装
  4. 如果采用虚拟集群,建议CPU6核、内存16GB以上,硬盘使用固态硬盘更佳,程序运行速度更快

3. 安装步骤

  1. 确保zookeeper集群启动,没有启动,则使用自定义批量启动脚本或者手动去zookeeper集群节点上启动服务
-- 在zookeeper安装目录下的bin目录下,执行以下命令 注意是在每个zookeeper集群节点服务器上都执行这个操作;
-- 如果配置了环境变量,可以不需要cd到这个目录下来执行指令
./zkServer.sh  start

-- 执行完之后,输入jps查看进程
jps

出现QuorumPeerMain说明启动正常
在这里插入图片描述

  1. 启动HDFS
-- 在hadoop安装目录的sbin目录下,输入以下shell 命令
-- 如果配置了环境变量,可以不需要cd到这个目录下来执行指令
./start-dfs.sh

-- 启动后,输入jps指令查看进程信息
jps

在这里插入图片描述
如果出现datanode或者namenode或者2者都出现,说明启动hdfs成功。
3. 上传从官网下载的linux安装压缩包

tar -zxf  hbase-2.2.5-bin.tar.gz  -C  /opt/apps/
  1. 查看安装包下文件夹路径
    在这里插入图片描述
    在这里插入图片描述
  2. 先编辑conf目录下的hbase-env.sh文件; 这里需要设置jdk安装路径以及设置hbase自带的zookeeper失效而使用外部配置的zookeeper
vi hbase-env.sh
export JAVA_HOME=/opt/apps/jdk1.8.0_251

export HBASE_MANAGES_ZK=false

PS:
xml文件过多,使用vi打开时,可以进入命令模式,使用搜索功能 ,输入斜杠后面跟需要搜索的字符串: /需要搜索的字符串

  1. hbase-site.xml便捷
vi hbase-site.xml
<!-- 指定hbase在HDFS上存储的路径 -->
<property>
    <name>hbase.rootdir</name>
    <value>hdfs://linux100:8020/hbase</value>
</property>

<!-- 指定hbase是分布式的 -->
<property>
    <name>hbase.cluster.distributed</name>
    <value>true</value>
</property>

<property>
  <name>hbase.unsafe.stream.capability.enforce</name>
  <value>false</value>
</property>

<!-- 指定zk的地址,多个用“,”分割 -->
<property>
    <name>hbase.zookeeper.quorum</name>
    <value>linux100:2181,linux101:2181,linux102:2181</value>
</property>
  1. 编辑regionservers文件
vi regionservers

我的如下,就是配置集群中节点的域名,注意需要配置域名而不是ip地址。域名设置去/etc/hosts编辑,编辑后,重启网络服务 service network restart。如果未生效,重启以下即可。

linux100
linux101
linux102

在这里插入图片描述
8. cd到安装HBase的目录下,将修改好配置信息的解压缩后文件夹拷贝给另外几个节点。如果节点数较多,可以使用脚本来执行。这里使用scp指令进行拷贝,拷贝前,注意先配置各个节点间的免密登录。

scp -r hbase-2.2.5 linux101:$PWD
scp -r hbase-2.2.5 linux102:$PWD
  1. 启动HBase
  • 单节点启动(这里和Hdfs一样可以单节点和集群方式启动)
# cd到hbase安装目录的bin目录下,执行以下命令。如果去/etc/profile中配置了HBASE_HOME环境变量(注意配置好之后source一下),不需要cd到这个目录
-- 这是启动主节点服务,后续注意启动第二主节点。这是为了高可用,和hdfs的namenode一样,双节点机制
./hbase-daemon.sh start master

-- 启动存储服务
./hbase-daemon.sh start regionserver
  • 集群启动
-- 去安装目录bin目录下,执行以下命令。注意也有一键停止的脚本
./start-hbase.sh
  1. 启动之后,通过浏览器访问web页面。这个和hdfs一样,通过web页面提供了对外的展示
    我的网址如下:
    http://linux100:16010/master-status
    在这里插入图片描述
    PS:
    这里可以看到,和hdfs的机制类似,不过hbase是从逻辑上对数据进行分区,区的数据存储在regionserver上,负责协调的节点叫master节点,备用master节点叫backup master。

4.常见问题及解决

4.1 时间同步问题

  1. 在各种集群搭建中,节点之间的时间一般都需要确保是同步的(时间误差在一定范围内)。但由于各种原因,可能会出现各个节点服务器时间不同步问题。这时候就会有异常或者错误抛出,常见的如ClockOutOfSyncException
  2. 解决办法有2种,一种是手动设置,一种是配置时间同步服务器让系统自动校对时间

手动设置

date  -s  "2020-01-08 17:12:55"

系统校对时间

-- 安装时间校对软件
yum -y install ntpdate.x86_64

-- 校对时间
ntpdate 0.asia.pool.ntp.org

time.nist.gov
time.nuri.net
0.asia.pool.ntp.org
1.asia.pool.ntp.org
2.asia.pool.ntp.org
3.asia.pool.ntp.org

修改节点间时间匹配误差值
在hbase-site.xml文件中添加以下配置,5h
60min
60s

<property>
        <name>hbase.master.maxclockskew</name>
        <value>180000</value>
        <description>Time difference of regionserver from master</description>
 </property>

4.2日志组件报错问题

报错如下(不影响使用)
在这里插入图片描述
去hbase的lib目录的client-facing-thirdparty下,执行以下命令. 就是把hbase中的日志jar包失效掉(也可以rm -rf 删除,不过安全起见,加个.bak后缀失效更稳妥一些,这样出错了还可以改回来)

mv slf4j-log4j12-1.7.25.jar slf4j-log4j12-1.7.25.jar.bak

在这里插入图片描述
修改好之后如下图
加粗样式

HBase单机模式安装简单教程 前言 经过简单的学习了解,HBase安装是需要多组件集成的,且适用于TB/PB级别数据存储和实时性较高的集群场景,一般开发使用的完全分布式集群安装(Hadoop HA+ZooKeeper+HBase),但是毕竟是初学,用不到那么硬的开发环境,再一个集群环境下要带的动数据存储一般每个虚拟机节点的内存要求不小于8GB,磁盘大小不小于60GB(如果用一个分区,分区大小不小于30GB),个... 阅读详情

相关推荐

Centos 7 Linux 单机安装使用 HBase:下载、安装、配置、使用

本文详细介绍了在 CentOS 7 系统上单机安装与配置 HBase 的完整流程,包括环境准备(JDK、Hadoop)、版本兼容性分析、HBase 安装配置、环境变量设置及服务启动。并通过一个“天气历史记录表”的实战案例,演示了 HBase 表设计、数据写入与查询操作,帮助读者快速掌握 HBase 的基本使用方法。

寒水馨 · 轻量级技术文档 · hanshuixin.org 3006

Windows环境下安装HBase2.2.5与Linux环境下搭建HBase2..4.5高可用集群

Windows环境下安装HBase2.2.5与Linux环境下搭建HBase2..4.5高可用集群

积跬步,至千里。 2万+

hbase-2.2.5-bin.tar.gz

软件:hbase 版本:2.2.5 平台:linux/windows

hadoop 集群中安装 hbase 2.2

文章目录安装 hadoop 集群下载 hbase修改 hbase 配置文件1. hbase-env.sh2. hbase-site.xml3. regionservers配置其它节点拷贝 hbase远程执行脚本启动 hbase 安装 hadoop 集群 参见:ubuntu 基于 docker 搭建 hadoop 3.2 集群 下载 hbase 镜像地址: http://mirrors.hust.e...

颹蕭蕭 1932

hbase2.2安装文件

内含 hbase-2.2.2-bin.tar.gz hbase-2.2.2-src.tar.gz 安装文档

hbase-2.2.3-bin.tar.gz

hbase的2.2.3版本,可解压后,直接使用 后续还会提供整理的相关配置,及使用说明 敬请期待,喜欢可关注我

大数据环境搭建(六)Hbase安装配置

大数据环境搭建(六)Hbase安装配置 上篇zookeeper安装配置 1.安装Hbase 镜像:https://mirrors.tuna.tsinghua.edu.cn/apache/hbase/ 本文使用hbase2.2.5版本 解压重命名文件夹 tar -zxvf hbase-2.2.5-bin.tar.gz -C /usr/local/ mv hbase-2.2.5 hbase 2.配置Hbase 配置环境变量 export HBASE_HOME=/data/hbase/ export PAT

weixin_44466948的博客 542

hbase-2.2.7-bin.tar.gz

hbase-2.2.7-bin.tar.gz

CentOS7下安装HBase1.x伪分布式

前提条件 CentOS7下安装好hadoop2.x,可参考:CentOS7安装hadoop2伪分布式 步骤 官网下载 hbase-1.7.1-bin.tar.gz 解压 [hadoop@node1 installfile]$ tar -zxvf hbase-1.7.1-bin.tar.gz -C ~/soft/ 建立软链接 [hadoop@node1 soft]$ ln -s hbase-1.7.1 hbase [hadoop@node1 soft]$ ls apache-z

大头皮鞋的博客 1094

hbase的安装包

这是hbase1.1.2的安装包,用于hbase1.1.2的安装使用。

hbase-2.2.2-bin.tar.gz

HBase是一个开源的非关系型分布式数据库,它参考了谷歌的BigTable建模,实现的编程语言为Java。它是Apache软件基金会的Hadoop项目的一部分,运行于HDFS文件系统之上,为 Hadoop 提供类似于BigTable 规模的服务。因此,它可以容错地存储海量稀疏的数据。 HBase是一个高可靠、高性能、面向列、可伸缩的分布式数据库,是谷歌BigTable的开源实现,主要用来存储非结构化和半结构化的松散数据。HBase的目标是处理非常庞大的表,可以通过水平扩展的方式,利用廉价计算机集群处理由超过10亿行数据和数百万列元素组成的数据表。

Centos7下HBase安装与配置(亲测!)

目录Centos7下Hadoop完全分布式安装第一步:安装软件(1)上传文件(2)解压文件第二步:配置环境变量第三步:修改配置文件(1)修改hbase-env.sh配置文件(2)修改hbase-site.xml配置文件(3)修改regionservers 文件(4)配置backup-masters (可选)第四步:分发配置文件第五步:启动与检测第六步:常见问题总结 Centos7下Hadoop完全分布式安装 电脑系统:macOS 10.15.4 虚拟机软件:Parallels Desktop14 Hado

蔡政洁的博客 8614

从 0 到 1 构建 Graph RAG 系统:本地图谱 + 通义千问落地实践

本文介绍了一个基于知识图谱的检索增强生成系统(Graph RAG),该系统结合领域知识图谱、语义检索和大模型问答,旨在提供结构化、精准的技术问答服务。文章详细说明了项目背景、目标、核心技术架构以及实现方法,包括本地图谱构建、Neo4j数据库接入、语义检索和大模型集成等关键环节。该系统支持混合检索、多轮问答和知识图谱关联理解,能够有效减少大模型幻觉,提升问答的准确性和可解释性。文中还展示了核心代码结构和流程图,呈现了从文档加载到图谱构建再到问答生成的完整流程。该系统适用于需要处理复杂领域知识的研发和数据分析场

m0_58378112的博客 1402

Centos7 zookeeper3.5.6 + hadoop3.2.1+Hbase2.2.2完全分布式+高可用(HA)图文教程

这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Ma...

gdeasy的博客 6974

UVM验证中,为什么我的pack_bytes()返回长度是0?手把手教你排查自定义do_pack函数

本文深入解析UVM验证中pack_bytes()返回长度为0的常见原因及系统排查方法。从UVM打包机制原理出发,详细列举了super.do_pack()缺失、field automation冲突等典型问题,并提供动态数组处理、位宽计算等进阶调试技巧,帮助开发者快速定位和解决自定义do_pack函数问题。

weixin_42523693的博客 127

AI驱动视频剪辑自动化:cutcli命令行工具重塑工作流

视频剪辑自动化是提升内容生产效率的关键技术,其核心原理在于通过程序化指令替代手动操作,将创意执行过程代码化。这项技术的价值在于能够将创作者从重复性劳动中解放,实现批量化、标准化的视频内容生产,尤其适用于社交媒体运营、产品宣传等高频产出场景。通过封装专业软件(如剪映/CapCut)的底层草稿格式,自动化工具在保证工业级渲染质量的同时,提供了可编辑的中间态,为AI智能体(Agent)与生产工具的结合提供了清晰接口。本文以cutcli为例,深入探讨了如何通过命令行工具和AI助手,构建从自然语言指令到可编辑视频草稿

weixin_27210125的博客 1064

记一次 Centos7.6 基于 Hadoop3.x 集群部署 HBase 2.4.0 集群

基本信息 安装部署 [root@master ~]# wget -P /usr/bigdata/ https://mirror.bit.edu.cn/apache/hbase/2.4.0/hbase-2.4.0-bin.tar.gz [root@master ~]# cd /usr/bigdata/ [root@master bigdata]# tar zxf hbase-2.4.0-bin.tar.gz [root@master bigdata]# ll [root@master ~]# cd /us

一花一世界 2772

Unity半透明物体景深失效?教你用双材质球方案完美解决(附完整Shader代码)

本文深入剖析了Unity中半透明物体导致景深效果失效的根本原因,即半透明物体默认不写入摄像机深度图。针对此问题,文章详细介绍了稳定高效的“双材质球”解决方案,通过为物体附加一个仅写入深度信息的不可见材质,完美修复景深效果,并提供了完整的Shader代码与实现脚本。

weixin_29010003的博客 382

CentOS7 Hbase-2.4.2安装

CentOS7 Hbase安装 前言 1.在CentOS7.X下安装Hbase,需要对如下软件进行安装: (1)安装JDK1.8 (2)安装Hadoop (3)安装Zookeeper (4)安装前启动zookeeper和hadoop查看 [root@hadoop001 ~]# cd $ZOOKEEPER_HOME [root@hadoop001 apache-zookeeper-3.7.0-bin]# bin/zkServer.sh start [root@hadoop001 apache-zookeep

qq_43157097的博客 606

智能安防摄像头埋点实践:用户行为与设备状态的闭环监控(含AI事件)

智能安防摄像头埋点闭环体系设计及应用实践 摘要: 本文系统阐述了智能安防摄像头埋点闭环体系的设计与实践。首先分析了传统埋点的不足及闭环埋点的价值,提出由用户行为埋点、设备状态埋点和AI事件埋点构成的三维埋点体系框架。详细介绍了闭环监控的四大流程:数据采集、汇聚清洗、分析建模和智能决策。通过误报优化、个性化策略等案例展示了AI事件闭环的实际应用价值,并探讨了隐私合规、性能优化等关键挑战的解决思路。最后展望了端侧AI增强、预测型埋点等未来发展趋势。该体系实现了从数据采集到业务决策的完整闭环,有效提升了AI模型性

专注智能硬件软硬件产品经理成长与实战,分享从需求定义到量产落地的真实日记。涵盖IoT趋势洞察、研发协作经验、产品方法论与工具箱,用轻松有趣的“汪式”视角,陪伴产品经理成长、避坑与升级。 1046

华为数字化转型之道 方法篇 第五章 视IT为投资,用产品思维管理IT

比较传统信息化和数字化转型下的IT系统特征,我们发现业务环境、IT能力、业务和IT的关系都发生了巨大的变化(见图5-1)从“管理系统”到“作业平台”。企业通常的做法是将线下的文档、流程线上化,IT系统是作为管理系统而存在的。而面向数字化,企业的业务作业、业务运营和决策、团队协同等业务动作已经和IT系统集成,IT系统逐步转变为作业系统。从“功能优先”到“体验优先”,如果要整体完成一项工作往往需要用户在不同系统间切换,费时费力。

沧海之巅的专栏 1095

安装hbas_史上最详细的CentOS 7 安装 HBase教程

标签:1.根据官方文档,安装hbase依赖项的版本可以选择JDK1.8,zookeeper 3.4.x, hadoop 2.7.7,Hbasehbase-2.0.2-bin.tar.gz2.安装zookeeper(standalone模式)从https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/下载zookeeper 3.4.x将...

weixin_39673037的博客 366

机器学习实战26-一种基于LightGBM的股市涨跌预测系统与代码实现过程

在全球经济一体化的背景下,股市作为经济活动的晴雨表,其波动与预测对于投资者、金融机构乃至国家政策制定者而言至关重要。随着金融市场的日益复杂化与信息量的爆炸式增长,股市分析不再仅限于基本面和技术面的传统研究,而是迫切需要更加精准、高效及智能化的方法来捕捉市场动态,以辅助决策制定。模型评估是确保LightGBM股市预测系统准确性和稳定性不可或缺的一环。通过综合运用多种评估指标、科学的验证方法以及深入的性能分析,我们不仅能够全面理解模型的能力和限制,还能为持续优化模型、提升预测准确性奠定坚实基础。

微学AI的博客 2328

HBase【环境搭建 01】CentOS 7.5 部署 hbase-2.4.5 单机版standalone模式(详细安装+配置+增删改查测试脚本)(附开源镜像站地址)

本文介绍了在CentOS 7.5系统上部署HBase 2.4.5单机版(standalone模式)的完整过程。主要内容包括:环境要求(需Hadoop 3.1.3和JDK 1.8+)、安装步骤(解压、配置环境变量、修改配置文件)、关键配置项说明(hbase-site.xml中的存储路径设置等)、服务启动验证(jps检查HMaster进程)以及基础操作测试(通过hbase shell创建表、插入数据、查询和删除等)。文章提供了详细的配置代码和操作命令,适合开发测试环境快速搭建参考。

シ風 2290

企业级 Multi-Agent 实施指南:从需求拆解到上线验收的全流程方法论

本文基于12个不同行业(金融、制造、零售、互联网)的百万级Multi-Agent投产项目经验,提炼出一套可复用的全流程实施SOP,覆盖需求对齐与拆解、架构设计、开发实现、测试优化、上线部署、验收迭代6个核心阶段,包含标准化工具、量化指标、踩坑指南、可直接运行的代码示例,帮你避开90%的落地坑。需求阶段是项目成败的核心,必须对齐业务方的量化指标,明确系统边界架构设计要兼顾性能、安全、可扩展性,不要为了炫技选择复杂的框架工程化是投产的关键,测试、灰度、监控、降级机制缺一不可。

AI云原生与云计算技术学院 224

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

CentOS7搭建Hadoop 2.X和Hbase2.x伪分布式环境

1.安装JDK 安装wget命令: yum install wget -y JDK下载官网 这里下载选择JDK11长期支持版本 下载过程省略 解压到 /opt/java下 配置环境变量 打开配置文件: vim /etc/profile 在末尾添加以下内容: # jdk-11.0.6配置 export JAVA_HOME=/opt/java/jdk-11.0.6 export PATH=$P...

淮城一只猫 656

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

上一篇: 磁盘读写机制及其在软件框架中的应用
下一篇: HBase 总结之基本结构和内部流程机制
闻香识代码
博客等级 码龄12年 314粉丝 223原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值