HIVE 建表访问 HBASE 笔记

在HIVE建表,同时往HBASE里创建此表
DROP TABLE works as usual, but ALTER TABLE is not yet supported for non-native tables.
所以,如果要修改HIVE中非本地表的结构,那么只能 drop table 然后重新创建外部表了
下面这个建表脚本会创建一个HIVE表,同时也会创建一个 HBASE 表
建表脚本:
-------------------------------------------------------------------
CREATE TABLE hbase_table_1(key int, value string)
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,cf1:val")
TBLPROPERTIES ("hbase.table.name" = "xyz");
-------------------------------------------------------------------

set hbase.client.scanner.caching=10000;

可以把建表脚本存到文件中,然后用hive命令去生成表
-------------------------------------------------------------------
cat create_hbase_table.sql | hive > create.log
-------------------------------------------------------------------

########################################################################
# 一些DEMO
########################################################################
创建二进制存储的列,在列处使用关键字 #b,#s 是 string的意思
-------------------------------------------------------------------
CREATE TABLE hbase_table_1 (key int, value string, foobar double)
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES (
"hbase.columns.mapping" = ":key#b,cf:val,cf:foo#b"
);
-------------------------------------------------------------------
CREATE TABLE hbase_table_1 (key int, value string, foobar double)
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES (
"hbase.columns.mapping" = ":key,cf:val#s,cf:foo",
"hbase.table.default.storage.type" = "binary"
);
-------------------------------------------------------------------

创建一个外部表,用来访问HBASE数据
If you want to give Hive access to an existing HBase table, use CREATE EXTERNAL TABLE:
-------------------------------------------------------------------
CREATE EXTERNAL TABLE hbase_table_2(key int, value string)
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = "cf1:val")
TBLPROPERTIES("hbase.table.name" = "some_existing_table");
-------------------------------------------------------------------

创建一个表,第一列为 MAP 型,MAP 型对应HBASE里一个列族,
列族对应的 KEY-VALUE 分别是 MAP 的 KEY-VALUE,这个厉害哦
Note that the key of the MAP must have datatype string, since it is used for naming the HBase column, so the following table definition will fail: "map<int,int>"
-------------------------------------------------------------------
CREATE TABLE hbase_table_1(value map<string,int>, row_key int)
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES (
"hbase.columns.mapping" = "cf:,:key"
);
-------------------------------------------------------------------
HBase与hive整合 文章目录HBase与hive的对比HiveHBase总结:Hive与HBasehive与HBase的整合需求一:将hive分析结果的数据,保存到HBase当中去第一步:拷贝hbase的五个依赖jar包到hive的lib目录下第二步:修改hive的配置文件第三步:修改hive-env.sh配置文件添加以下配置第四步:hive当中建表并加载以下数据第五步:创建hive管理表与HBase进行映射第六步:hbase当中查看表hbase_score需求二:创建hive外部表,映射HBase当中已有的表模型,直接通过第 阅读详情

相关推荐

Pyspark读取hive表数据进行处理,将结果插入到hive及hbase

文章目录前言一、基本思路1.创建参数初始化方法ReadConfig();2.创建一个数据处理类DataDeal():二、实现过程及说明1.初始化sparksession2.读取hive数据3.数据处理4.插入到hive5.插入到hbase主函数及参数处理总结 前言 项目需要使用pyspark将hive数据进行处理插入到hive表及hbase中,刚开始接触spark,记录了学习的过程帮助初学者。 一、基本思路 1.创建参数初始化方法ReadConfig(); 读取key:value格式的配置..

u010489820的博客 2627

hive对接hbase(一)-配置和使用例子

1.配置 配置hive-site.xml,除了增加hive-hbase-handler-xxx.jar之外,在需要进行一些mapreduce计算的时候计算节点还需要hbase的jar来访问hbase,还要增加其它hbase访问的jar。 property> name>hive.aux.jars.pathname> value>file:/opt/hive/lib/hive-hb

敲码的汉子 4745

Hbase数据映射到hive

今天同事过来问我hbase和hive字段类型之间的对应关系,我就顺带问了一下,她在干什么,她说要将hbase的数据映射到hive中去,建一个hbase的映射表,问我是建一个内部表映射呢,还是外部表映射呢。恰好最近正在做知识总结,我就来总结下这个映射关系吧。 内部表映射 首先说一下Hbase数据到hive内部表的映射,代码如下: create table stu_info{ key string...

暁洣的博客 2103

通过Spark访问Hbase的Hive外部表(hive on hbase的表)

业务处理的过程中,使用到pyspark访问hive,直接访问没有问题, 后面遇到使用pyspark访问hive关联hbase的表(hive on hbase),就出现报错了。 首先集群已经可以通过spark-sql读取hive的数据,然后进行如下配置。 1.拷贝如下jar包到${spark_home}/jars(spark2.0之前是${spark_home}/lib): hba...

TURING.DT 3150

WorkBuddy任务对话上下文管理:Token、compact与上下文窗口实战指南

在大语言模型应用中,Token作为文本处理的最小单位,直接决定上下文窗口的消耗速度,而上下文窗口则限定了单次对话可承载的信息总量。当对话超出窗口限制时,compact压缩机制会触发有损摘要,导致关键约束丢失或工具调用结果被稀释。合理管理上下文不仅能提升多步骤任务的稳定性,还能显著降低Token成本与响应延迟。在文档处理、代码开发、多步自动化等场景中,通过主动压缩、状态外置、分段喂入等策略,可有效避免任务后期遗忘、版本混乱等问题。本文围绕WorkBuddy的上下文管理机制,从Token与compact的底层原

weixin_29055699的博客 394

STM32硬件SPI调试ADS1256的3个致命坑,CubeMX配置避坑指南

本文深入解析STM32硬件SPI调试ADS1256高精度ADC芯片时常见的3大配置陷阱,包括SPI时钟频率、时钟极性与相位、数据字节序等关键问题。通过CubeMX实战配置指南和实测数据对比,提供稳定可靠的解决方案,帮助开发者避免常见错误,提升采样精度和系统稳定性。

weixin_42550597的博客 346

Hive整合HBase

Hive支持使用HDFS之外的存储系统作为底层存储系统,其中官方明确支持HBase,Kudu,Druid和JDBC(MySQL等)。 Hive提供了相应的接口 StorageHandlers,用以实现和其他存储系统的整合。本人整理的已有相应实现的其他存储系统有:Phoenix HBase,MongoDB,ElasticSearch等。 本文主要讨论Hive整合HBase在使用上的一些关键内容,更详细的内容请参考 HBaseIntegration 。 介绍 Hive整合HBase之后,可以通过Hive QL语

邢为栋 1607

别再傻傻分不清PBR和NPR了!从《原神》到《双城之战》,聊聊游戏里那些让你眼前一亮的渲染风格

本文深入解析了PBR(基于物理的渲染)与NPR(非真实感渲染)在游戏视觉风格中的应用差异,通过《原神》和《双城之战》的案例,展示了两种渲染技术如何创造出截然不同的艺术效果。从技术原理到实战案例,帮助读者理解如何根据项目需求选择合适的渲染风格。

weixin_30425949的博客 148

hive集成管理Hbase表

本文借鉴了他人博客,此文看了更加简明明了 本文主要实现一下目标:    1. 在hive中创建的表能直接创建保存到hbase中。    2. hive中的表插入数据,插入的数据会同步更新到hbase对应的表中。    3. hbase对应的列簇值变更,也会在Hive中对应的表中变更。    4. 实现了多列,多列簇的转化:(示例:hive中3列对应hbase中2列簇) ++++++++

Johnmay--Blog 991

SPSS中的数据分析—信度效度检验【1】

前一段时间跟大家分享了好几篇关于EXCEL方面的数据分析知识,不知道大家都掌握得怎么样了。今天咱们换个口味,给大家讲一下关于SPSS中的数据分析——信度效度检验。 现阶段正处在毕业季阶段,很多同学可能都正在忙着去弄自己的论文和答辩(不知道大家在翟天临上热搜这个事情上有没有做出过一定贡献),很多时候我们在写论文答辩甚至于其他课题研究的时候都会选择用问卷这种形式来收集数据。最后我们只需要针对问卷所取...

小白数据营的博客 6万+

NFS共享速度慢?麒麟系统性能调优5个关键参数实测对比

本文针对银河麒麟服务器系统上NFS共享速度慢的问题,通过实测对比分析了五个关键调优参数。重点探讨了rsize/wsize传输块大小、TCP/UDP协议选择、sync/async模式权衡等,并结合麒麟系统特性提供了具体的优化建议与配置示例,旨在帮助用户有效提升国产化环境下的文件共享性能。

weixin_29254029的博客 337

Hbase与hive整合

我们来参照hive的官方文档来进行Hbase与hive的整合,在这之前呢,需要将HBase与Hive之间依赖的jar包相互导入建立依赖关系,具体请参见 https://blog.youkuaiyun.com/Lu_Xiao_Yue/article/details/84949427 下面来详细介绍Hbase与Hive的整合 按照官方指导 我们先在hive中创建hive表并且关联HBase表 建表语句如下 CRE...

孙大迪迪的博客 699

深入解析反射式DLL注入:从原理到实战优化

本文深入解析反射式DLL注入技术,从原理到实战优化全面剖析。通过PE文件内存重构、反射加载器实现及免杀增强方案,展示如何绕过安全检测并提升性能。适用于红队行动、内网渗透等场景,是高级攻防对抗中的关键技术。

weixin_28339967的博客 404

HIVE建表、HBASE建表、HIVE表与HBASE表关联以及数据导入

- 背景 后端查询数据库时,要用到hive表和MySQL表 当前的做法是:先查询MySQL数据表,得到的结果通过参数的形式传递给hive表进行查询 弊端: 当传递的参数太多时,SQL查询有长度限制,当往关键字in中传递时,有长度和效率的限制 为了解决这个问题,做以下探索: 在hive下创建一张与MySQL表相同的表,后端SQL查询采用join的方式 在HBASE下创建表并映射到hive下,后端S...

Rain的博客 1495

Python爬虫实战:手把手教你如何抓取农作物品种名录,构建标准化种业索引数据库!

我长期专注 Python 爬虫工程化实战,主理专栏 《Python爬虫实战》:从采集策略到反爬对抗,从数据清洗到分布式调度,持续输出可复用的方法论与可落地案例。内容主打一个“能跑、能用、能扩展”,让数据价值真正做到——抓得到、洗得净、用得上。

喵手的博客 291

(五)激光线扫描-位移台标定

线激光属于主动测量方式,但是由于线激光的特性,我们只能通过提取激光中心线获取这一条线上的高度信息,那么要进行三维重建的话,就需要通过平移或者是旋转的方式,来让线激光扫描被测物体的完整轮廓,也就是整个表面。激光线的密度越高还原出来的物体越细腻,但由于数据量大,也会导致速度变慢。下面以位移台为例讲解,如何标定位移台。

FlyWine的博客 2891

Hbase表映射Hive表三种方法

一、准备 1.1 官方文档 https://cwiki.apache.org/confluence/display/Hive/HBaseIntegration 1.2 依赖服务 Hive3.1.1:https://blog.youkuaiyun.com/qq_39680564/article/details/89714184 Hbase2.1.0:https://blog.youkuaiyun.com/qq_396805...

刘李404not_found的博客 6618

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

Hbase和Hive整合,Hive读Hbase的表内容

经过一下午,终于测试成功。前期:Hapood平台、Zookeeper、Hbase、Hive都安装好。(安装可以参考其它资源)本Demo版本:jdk1.8.0_171,hadoop-2.7.3,zookeeper-3.4.9,mysql-5.6.40-linux-glibc2.12-x86_64,hbase-1.2.4,apache-hive-2.1.1-binroot@master lib]#...

Mafeng 的博客 1899

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

hive表数据导入到Hbase

hive数据导入到Hbase中有两种方式。 方式一 —— 内部表映射 适用于数据量不是特别大的场景。 首先说一下Hbase数据到hive内部表的映射,代码如下: create table stu_info{ key string comment '主键', name string comment '名字', age int comment'年龄' } STORED BY 'org.ap...

暁洣的博客 6619

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

Hive小项目之mysql、hbase、hive之间的表迁移、映射和查询

本文任务:创建关系型数据库,导入表。将多表结合起来,导入到hbase,然后通过hive映射hbase的数据进行查询。 目录一、MySql表关联概念二、建表三、多表结合四、数据迁移—mysql->hbase五、建立hive映射六、查询 一、MySql表关联概念 关系型数据库的搭建,需要遵循三大范式,而三大范式反过来逼着我们不可避免的要将多个表关联起来。在表关联这一块,如果稍有差错,可能半个小时就完成的工作会因为不断的删表建表搞两三个小时。先说几个概念, 1、外键:如果一张表中有一个非主键的字段指向了另一

小小鱼 1393

hive访问不在同一集群的hbase表数据

最近有个需求,有一些数据会实时写入到 hbase,但是又需要在 hive 中计算这些数据,最后把结果同步到 mysql。如果对于 hbase 与hive 在同一个集群,是很简单的操作,直接在 hive 中创建一个 hbase 的外部映射表就好了。但是我这边有些不一致,我们这边 hbase 和 hive 在两个不同的集群,需要了一些额外的操作 开启白名单限制 由于 hbase 集群与 hive ...

苏苏爱自由 2562

Hive整合HBase,操作HBase表

HBase是被设计用来做k-v查询的,但有时候,也会遇到基于HBase表的复杂统计,写MR很不方便。Hive考虑到了这点,提供了操作HBase表的接口。值得商榷的是,使用Hive操作HBase中的表,只是提供了便捷性,对于性能上,较MapReduce并不会提升太多,请大家酌情使用。

未来在这儿的专栏 1347

8 ,hive 集成 hbase ( hbase 表已经存在,我们用 hive 创建表去关联它 )

一 ,集成 1 ,作用 : 分析 hbase 只能做存储,不能做分析。 hbase 要想分析数据,必须集成第三方框架。 分析框架 : mr ,hive ,spark 要想分析 hbase 中的数据,必须用到第三方框架 。 2 ,集成 : 将 hbase 的 jar 包给 hive ( 用软链接的形式 ) ln -s $HBASE_HOME/lib/hbase-common-1.2.0-cdh5...

孙砚秋的博客 722

【Hive】如何在 Hive 中创建外部表映射 Hbase 中已存在的表

文章目录一、上传完整的jar文件到hive/lib中二、修改hive-site.xml三、修改hive-env.sh四、在hive和hbase中分别创建相关联的表并通过hive向hbase表中加载数据五、在hive中创建外部表映射hbase中已存在的表六、特别注意 一、上传完整的jar文件到hive/lib中 删除hive/lib下所有文件 解压上传hive所有的jar到该目录下 二、修改hi...

云祁QI 5686

通过shell访问hive_通过hive访问hbase中的表

在hbase中创建表后,我们只能在hbase shell中使用scan查询数据,这对于熟悉SQL的使用者不怎么习惯,不过我们可以在hive中创建外部表来访问hbase表中的数据,例子如下:1.这里hbase中的表oss_user_label_action_data已经存在=> #:0xd5a1b0>hbase(main):067:0> scan 'oss_user_label_a...

weixin_39636226的博客 176
上一篇: hive python thrift client
下一篇: hive python 笔记
lancefox
博客等级 码龄19年 4粉丝 42原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值