hive HA

Hive 高可用HA搭建_hive ha (img-Ul7lZNLm-1726072618217)],查看源码,和配置没有找到出问题的原因。可以通过安装tez消除这个警告。通过hiveserver2 启动后(日志中会出现如下警告,不影响使用)10000 //两个HiveServer2实例的端口号要一致。zookeep已经安装好,并可用。hive单机已经可用。,在zookeeper中可以看到相关实例。 阅读详情

1、修改hive-site.xml

<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://hd3:3306/hive?createDatabaseIfNotExist=true&amp;useUnicode=true&amp;characterEncoding=UTF-8&amp;useSSL=false</value>
</property>
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
</property>
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>root</value>
</property>
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>123456</value>
</property>
<property>
<name>datanucleus.readOnlyDatastore</name>
<value>false</value>
</property>
<property>
<name>datanucleus.fixedDatastore</name>
<value>false</value>
</property>
<property>
<name>datanucleus.autoCreateSchema</name>
<value>true</value>
</property>
<property>
<name>datanucleus.schema.autoCreateAll</name>
<value>true</value>
</property>
<property>
<name>datanucleus.autoCreateTables</name>
<value>true</value>
</property>
<property>
<name>datanucleus.autoCreateColumns</name>
<value>true</value>
</property>
<property>
<name>hive.metastore.local</name>
<value>true</value>
</property>
<!-- 显示表的列名 -->
<property>
<name>hive.cli.print.header</name>
<value>true</value>
</property>
<!-- 显示数据库名称 -->
<property>
<name>hive.cli.print.current.db</name>
<value>true</value>
</property>
<property>
<!-- hiveserver2用户名 -->
<name>beeline.hs2.connection.user</name>
<value>root</value>
</property>

<property>
<!-- hiveserver2密码 -->
<name>beeline.hs2.connection.password</name>
<value>123456</value>
</property>

<property>
<!-- hiveserver2端口 -->
<name>beeline.hs2.connection.hosts</name>
<value>localhost:10000</value>
</property>

<property>
<name>hive.security.authorization.enabled</name>
<value>true</value>
<description>enableor disable the hive clientauthorization</description>
</property>

<property>
<name>hive.security.authorization.createtable.owner.grants</name>
<value>ALL</value>
<description>theprivileges automatically granted to the ownerwhenever a table gets created. Anexample like "select,drop" willgrant select and drop privilege to theowner of the table</description>
</property>

<property>
<name>hive.server2.enable.doAs</name>
<value>true</value>
<description>
hive.server2.enable.doAs设置成false则,
yarn作业获取到的hiveserver2用户都为hive用户。
设置成true则为实际的用户名
</description>
</property>

<property>
<name>hive.users.in.admin.role</name>
<value>root</value>
</property>

<property>
<name>hive.security.metastore.authorization.manager</name>
<value>org.apache.hadoop.hive.ql.security.authorization.DefaultHiveMetastoreAuthorizationProvider</value>
<description>authorization manager class name to be used in the metastore for authorization.
The user defined authorization class should implement interface
org.apache.hadoop.hive.ql.security.authorization.HiveMetastoreAuthorizationProvider.
</description>
</property>

<property>
<name>hive.security.metastore.authenticator.manager</name>
<value>org.apache.hadoop.hive.ql.security.HadoopDefaultMetastoreAuthenticator</value>
<description>authenticator manager class name to be used in the metastore for authentication.
The user defined authenticator should implement interface
org.apache.hadoop.hive.ql.security.HiveAuthenticationProvider.
</description>
</property>

<property>
<name>hive.metastore.pre.event.listeners</name>
<value> </value>
<description>pre-event listener classes to be loaded on the metastore side to run code
whenever databases, tables, and partitions are created, altered, or dropped.
Set to org.apache.hadoop.hive.ql.security.authorization.AuthorizationPreEventListener
if metastore-side authorization is desired.
</description>
</property>

<property>
<name>hive.metastore.authorization.storage.checks</name>
<value>true</value>
<description>Should the metastore do authorization checks against
the underlying storage for operations like drop-partition (disallow
the drop-partition if the user in question doesn't have permissions
to delete the corresponding directory on the storage).</description>
</property>

<!-- 更新和删除 -->
<property>
<name>hive.support.concurrency</name>
<value>true</value>
</property>
<property>
<name>hive.enforce.bucketing</name>
<value>true</value>
</property>
<property>
<name>hive.exec.dynamic.partition.mode</name>
<value>nonstrict</value>
</property>
<property>
<name>hive.txn.manager</name>
<value>org.apache.hadoop.hive.ql.lockmgr.DbTxnManager</value>
</property>
<property>
<name>hive.compactor.initiator.on</name>
<value>true</value>
</property>
<property>
<name>hive.compactor.worker.threads</name>
<value>1</value>
</property>

<property>
<name>hive.querylog.location</name>
<value>/usr/hive/hive-3.1.2/log</value>
</property>

<property>
<name>hive.insert.into.multilevel.dirs</name>
<value>true</value>
</property>
<property>
<name>hive.auto.convert.join</name>
<value>false</value>
</property>
<property>
<name>hive.scratch.dir.permission</name>
<value>755</value>
</property>

<property>
<name>hive.server2.support.dynamic.service.discovery</name>
<value>true</value>
</property>

<property>
<name>hive.server2.zookeeper.namespace</name>
<value>hiveserver2</value>
</property>

<property>
<name>hive.zookeeper.quorum</name>
<value>hd1:2181,hd2:2181,hd3:2181</value>
</property>

<property>
<name>hive.zookeeper.client.port</name>
<value>2181</value>
</property>


<property>
<name>hive.server2.thrift.bind.host</name>
<value>172.16.212.131</value>
</property>

<property>
<name>hive.server2.thrift.port</name>
<value>10000</value>
</property>
<property>
<name>hive.exec.submitviachild</name>
<value>true</value>
</property>

<property>
<name>hive.server2.use.SSL</name>
<value>false</value>
</property>
<property>
<name>hive.security.authorization.sqlstd.confwhitelist</name>
<value>mapred.*|hive.*|mapreduce.*|spark.*</value>
</property>

<property>
<name>hive.security.authorization.sqlstd.confwhitelist.append</name>
<value>mapred.*|hive.*|mapreduce.*|spark.*</value>
</property>

<property>
<name>hive.cli.print.header</name>
<value>true</value>
</property>

<property>
<name>hive.cli.print.current.db</name>
<value>true</value>
</property>
</configuration>

启动hive,beeline连接测试

!connect jdbc:hive2://hd1:2181,hd2:2181,hd3:2181/datawarehouse;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2root 123456

cdh集群hive 启用HA hive 在离线分析,数仓中是最常用的工具,业务人员不需要熟悉mr,编程基础就可以通过sql操作数据。hive 的性能及稳定性在生产中必须保证。hive可以通过HAPROXY进行多节点负载均衡来达到目的。 hive Metastore 开启HA 1. 进入hive服务配置, 搜索DBTokenStore,选择 org.apache.hadoop.hive.thrif... 阅读详情

相关推荐

Hive HA (高可用)搭建

官方文档 hive的搭建方式有三种,分别是 1、Local/Embedded Metastore Database (Derby) 2、Remote Metastore Database 3、Remote Metastore Server 一般情况下,我们在学习的时候直接使用hive –service metastore的方式启动服务端,使用hive的方式直接访问登录客户端,除了这种方式之外,hive提供了hiveserver2的服务端启动方式,提供了beeline和jdbc的支持,并且官网也提出

chooser007的博客 1212

Hive 高可用HA搭建

1、使用HiveServer2提供HA的好处 1. 在应用端不用部署Hadoop和Hive客户端; 2. 相比hive-cli方式,HiveServer2不用直接将HDFS和Metastore暴漏给用户; 3. 有安全认证机制,并且支持自定义权限校验; 4. 有HA机制,解决应用端的并发和负载均衡问题; 5. JDBC方式,可以使用任何语言,方便与应用进行数据交互; 6. 从2.0开始,HiveServer2提供了WEB UI。 Hive从0.14开始,使用Zookeeper实现了Hive.

狂奔的乌牛的博客 2799

Hive HA配置高可用

Hive的高可用性(HA)通过消除关键组件的单点故障来实现,确保系统在部分故障时仍能正常运行。‌ 多实例部署‌:部署多个Metastore服务实例,每个实例连接到共享的后端数据库(如MySQL、PostgreSQL集群)。‌ 后端数据库HA‌:使用高可用数据库方案(如主从复制、Galera集群),确保元数据存储的可用性。‌客户端配置‌:客户端配置多个Metastore URI,通过重试机制实现故障转移。

jiedaodezhuti的博客 786

【运维】hive 高可用详解: Hive MetaStore HA、hive server HA原理详解;hive高可用实现

【运维】hive 高可用详解: Hive MetaStore HA、hive server HA原理详解;hive高可用实现

hiliang521的博客 3975

Moveit +Gazebo:搭建单臂机械臂仿真平台

Moveit +Gazebo:搭建单臂机械臂仿真平台

magic_invaid的博客 5293

最新首发——boss直聘爬虫

本文介绍了使用Python开发Boss直聘爬虫的核心思路和技术要点。通过模拟浏览器访问搜索页面获取Cookie,然后构建API请求获取职位数据。关键步骤包括:1)使用DrissionPage库初始化浏览器;2)模拟用户浏览行为获取必要参数;3)设置完整的请求头信息;4)通过POST请求获取JSON格式的职位数据。文章提供了详细的代码实现,包括浏览器模拟、API请求构建、数据处理等核心功能模块,并强调了最新版接口改为POST访问的特点。该爬虫可自动翻页采集数据并保存为Excel文件,适用于安全实习等职位信息的

2301_79735033的博客 3324

大数据之-hive使用HA高可用集群搭建

一. 简介 haproxy是一个开源的,高性能的,负载均衡软件,借助haproxy可以快速,可靠的构建一个负载均衡群集。 优点如下: 1.可靠性和稳定性非常好,可以和硬件级的负载均衡设备F5相媲美。 2.最高可同时维护40000-50000个并发连接,单位时间内处理的最大请求数为20000个。 3.支持8种负载均衡算法,支持回话保持。 4.支持虚拟主机功能。 5.支持连接拒绝,全透明代理并且有一个功能强大的服务器状态监控界面。 6.拥有功能强大的ACL支持。 haproxy真的很强大。这里

yaodunlin的博客 1037

AC360变频器使用案例

AC360变频器使用案例!

QING_BOSS的博客 518

Hive 高可用HA搭建_hive ha(1),2024年最新2024年软件测试开发进阶课程

(img-efjaTp7m-1713318560586)],查看源码,和配置没有找到出问题的原因。可以通过安装tez消除这个警告。通过hiveserver2 启动后(日志中会出现如下警告,不影响使用)10000 //两个HiveServer2实例的端口号要一致。,在zookeeper中可以看到相关实例。

2401_84300107的博客 1038

【AI智能体】基于Coze制作跨境电商客服助手工作流实战操作详解

基于Coze制作跨境电商客服助手工作流实战操作详解

congge 3464

YOLOv8性能突破:DySample超轻量动态上采样算子的创新应用与实现【附保姆级代码】

YOLOv8(You Only Look Once Version 8)作为YOLO系列模型的最新版本,延续了高效、准确的目标检测优势。其基础结构包含了骨干网络(Backbone)、检测头(Head)、以及特征融合层(Neck)。在特征融合阶段,YOLOv8需要对不同尺度的特征图进行上采样,以便将低分辨率的特征与高分辨率的特征进行融合。传统的上采样操作多使用插值(如双线性插值)或固定卷积,而这些方法可能无法很好地适应复杂的上下文信息。

一键难忘的博客 3122

hive on tez运行及hive ha搭建

在Hive2.x版本起,Hive官方不再建议使用MapReduce作为底层默认执行引擎,推荐使用Tez或者Spark作为执行引擎(目前Hive4.0.0版本不支持Spark引擎),这些引擎相比于默认的MapReduce执行引擎执行任务时可以提升查询性能、降低延迟并优化资源利用,Hive4.x版本后可能会彻底弃用MapReduce引擎。Apache Tez是一个开源分布式执行框架,专为处理复杂数据流任务而设计。它允许将多个依赖任务转化为单一的有向无环图(DAG)作业,从而大幅提升性能。

weixin_62206215的博客 1457

伺服系统控制原理深度解析

摘要:本文系统阐述了伺服系统的控制原理与应用。首先介绍了伺服系统的定义、组成及其在工业自动化中的重要性;然后详细分析了反馈控制机制、稳定性判据和性能指标;重点推导了传递函数和状态空间两种数学模型,并通过LaTeX公式展示了二阶系统建模过程;进而对比了PID控制、状态反馈及自适应控制等方法的优缺点;最后结合数控机床等案例,验证了理论方法的有效性,并展望了伺服系统智能化发展趋势。全文兼顾理论深度与实践指导性,为控制工程领域提供了系统的技术参考。

技术工作者 1267

14-Hive-HA

Hive-HA hive的搭建方式有三种: 1、Local/Embedded Metastore Database (Derby) 2、Remote Metastore Database 3、Remote Metastore Server hiveserver2的优点如下: 1、在应用端不需要部署hadoop和hive的客户端 2、hiveserver2不用直接将hdfs和metastore暴露给...

一个孤独漫步者的遐想的博客 330

项目篇 | 图书管理系统 | 管理员模块 | 概述

图书管理系统管理员模块概述

百栗.的博客 405

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

HIVE 双机集群HA-部署

HIVE双机HA-部署 1.1、系统环境初始化 防火墙关闭: server iptables stop chkconfig iptables off selinux关闭:   用户创建: vim yonghu.txt hbase hdfs hive impala Impala kudu Kudu spark wxl zookeeper   #!/bin/sh

凉城凉心凉忆悲 1202

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

Ambari—Hive配置HA(四)

1、Hive4.1 Hive MetastoreHive Metastore HA解决方案旨在处理Metastore服务失败。每当部署的Metastore服务关闭时,Metastore服务在相当长的时间内都会保持不可用状态,直到恢复服务为止。为避免此类停机,在HA模式下部署Metastore服务。Hive Metastore客户端始终使用第一个URI连接Metastore服务器。如果Metasto...

周源的专栏 3678

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

Hadoop集群之Hive HA 安装配置

Hive是基于Hadoop构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据。其在Hadoop的架构体系中承担了一个SQL解析的过程,它提供了对外的入口来获取用户的指令然后对指令进行分析,解析出一个 MapReduce程序组成可执行计划,并按照该计划生成对应的MapReduce任务提交给Hadoop集群处理,获取最终的结果。元数据——如表模式

蘑菇丁的专栏 2782

Hive-ha (十三)

hive—high Avaliable ​ hive的搭建方式有三种,分别是 ​ 1、Local/Embedded Metastore Database (Derby) ​ 2、Remote Metastore Database ​ 3、Remote Metastore Server ​ 一般情况下,我们在学习的时候直接使用hive –service metastore的方式启动服务端,...

weixin_30595035的博客 96

beeline连接hive_14-Hive-HA

Hive-HAHive-HA思维导图hive的搭建方式有三种:1、Local/Embedded Metastore Database (Derby)2、Remote Metastore Database3、Remote Metastore Serverhiveserver2的优点如下:1、在应用端不需要部署hadoop和hive的客户端2、hiveserver2不用直接将hdfs和metastor...

weixin_31887861的博客 206

hadoop-ha后的hive配置的三种模式

1.本地模式 首先node1、2、3进入zookeeper目录启动启动zookeeper, bin/zkServer.sh start 之后新打开一个node3窗口进入zookeeper目录启动zookeeper客户端 bin/zkCli.sh 然后再node1进入hadoop目录启动hadoop sbin/start-all.sh 在node4机器上、/data/目录下创建hive文件夹 ...

Pioneer_1的博客 1212

安装HDFS的HA后配置hue与hive

安装HDFS的HA后配置hue与hive一、配置hue1.1 安装HdfsFS1.2 配置hue二、配置hive 在配置完hdfs的HA后,提示需要重新配置如下内容: 将 Hue 服务 Hue 的 HDFS Web 界面角色 配置为 HTTPFS 角色,而非 NameNode。 Documentation 对于每个 Hive 服务 Hive,停止 Hive 服务,将 Hive Metastore 数据库备份到永久性存储中,运行服务命令"更新 Hive Metastore NameNodes",然后重启 H

叁木大数据 1246

Hive HA 分布式安装

Mysql安装 1. 配置 yum 源 # 挂载光盘 mount /dev/cdrom /media # 查看挂载点 df 2. 配置 yum 仓库 cd /etc/yum.repos.d rm -rf CentOS-Base.repo vi CentOS-Media.repo [c5-media] name=CentOS-$releasever - Media baseur...

pizicai007的博客 575

解决NameNode配置HA后Hive路径不正确的问题

解决NameNode配置HA后Hive路径不正确的问题

Ganymede的Hadoop世界 7674

数仓 Hive HA 介绍与实战操作

在数据仓库中,是指为这个数据仓库查询和分析工具提供高可用性的架构和解决方案。Hive是建立在Hadoop生态系统之上的一种数据仓库解决方案,用于处理大规模数据的查询和分析。为了确保Hive服务的连续性和可用性,特别是在出现硬件故障、软件问题或其他中断情况时,实施Hive的高可用性解决方案非常重要。Hive HA通常涉及以下几个方面:元数据存储的高可用性: 元数据存储在Hive Metastore中,其中包括表的结构、分区信息、表的位置等。为了确保元数据的高可用性,可以使用数据库复制、备份和恢复策略。

匠人精神,持之以恒! 844
上一篇: hadoop HA
下一篇: OOM排查
西游却冻醒
博客等级 码龄11年 47粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值