Hive集合数据类型

最新推荐文章于 2023-04-25 15:16:19 发布

卡列宁的微笑66

最新推荐文章于 2023-04-25 15:16:19 发布

阅读量508

点赞数

CC 4.0 BY-SA版权

分类专栏： Hive

本文链接：https://blog.youkuaiyun.com/fczheng/article/details/98218966

Hive 专栏收录该内容

3 篇文章

订阅专栏

本文介绍了Hive中的三种复杂数据类型：ARRAY、MAP和STRUCT，并通过一个案例展示了如何在Hive中创建包含这些复杂类型的表，导入数据以及如何访问和操作这些集合数据。案例中，数据以JSON格式表示，通过创建测试表并导入数据，详细说明了ARRAY、MAP和STRUCT的使用方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Hive有三种复杂数据类型ARRAY、MAP 和 STRUCT。ARRAY和MAP与Java中的Array和Map类似，而STRUCT与C语言中的Struct类似，它封装了一个命名字段集合，复杂数据类型允许任意层次的嵌套。

数据类型	描述	语法示例
STRUCT	和c语言中的struct类似，都可以通过“点”符号访问元素内容。例如，如果某个列的数据类型是STRUCT{first STRING, last STRING},那么第1个元素可以通过字段.first来引用。	struct() 例如struct<street:string, city:string>
MAP	MAP是一组键-值对元组集合，使用数组表示法可以访问数据。例如，如果某个列的数据类型是MAP，其中键->值对是’first’->’John’和’last’->’Doe’，那么可以通过字段名[‘last’]获取最后一个元素	map() 例如map<string, int>
ARRAY	数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素，每个数组元素都有一个编号，编号从零开始。例如，数组值为[‘John’, ‘Doe’]，那么第2个元素可以通过数组名[1]进行引用。	Array() 例如array<string>

案例实操

1) 假设某表有如下一行，我们用JSON格式来表示其数据结构。在Hive下访问的格式为

{
    "name": "songsong",
    "friends": ["bingbing" , "lili"] ,       //列表Array, 
    "children": {                      //键值Map,
        "xiao song": 18 ,
        "xiaoxiao song": 19
    }
    "address": {                      //结构Struct,
        "street": "hui long guan" ,
        "city": "beijing" 
    }
}

2) 基于上述数据结构，我们在Hive里创建对应的表，并导入数据。

创建本地测试文件test.txt

songsong,bingbing_lili,xiao song:18_xiaoxiao song:19,hui long guan_beijing
yangyang,caicai_susu,xiao yang:18_xiaoxiao yang:19,chao yang_beijing

注意：MAP，STRUCT和ARRAY里的元素间关系都可以用同一个字符表示，这里用“_”。

3）Hive上创建测试表test

create table test(
name string,
friends array<string>,
children map<string, int>,
address struct<street:string, city:string>
)
row format delimited fields terminated by ','
collection items terminated by '_'
map keys terminated by ':'
lines terminated by '\n';

字段解释：

row format delimited fields terminated by ','  -- 列分隔符

collection items terminated by '_'         --MAP STRUCT 和 ARRAY 的分隔符(数据分割符号)

map keys terminated by ':'                               -- MAP中的key与value的分隔符

lines terminated by '\n';                                    -- 行分隔符

4）导入文本数据到测试表

hive (default)> load data local inpath ‘/opt/module/datas/test.txt’into table test

5）访问三种集合列里的数据，以下分别是ARRAY，MAP，STRUCT的访问方式

hive (default)> select * from test;
+------------+----------------------+--------------------------------------+----------------------------------------------+--+
| test.name  |     test.friends     |            test.children             |                 test.address                 |
+------------+----------------------+--------------------------------------+----------------------------------------------+--+
| songsong   | ["bingbing","lili"]  | {"xiao song":18,"xiaoxiao song":19}  | {"street":"hui long guan","city":"beijing"}  |
| yangyang   | ["caicai","susu"]    | {"xiao yang":18,"xiaoxiao yang":19}  | {"street":"chao yang","city":"beijing"}      |
+------------+----------------------+--------------------------------------+----------------------------------------------+--+


hive (default)> select name,friends[1],children["xiao song"],address.city from test;
+-----------+-------+-------+----------+--+
|   name    |  _c1  |  _c2  |   city   |
+-----------+-------+-------+----------+--+
| songsong  | lili  | 18    | beijing  |
| yangyang  | susu  | NULL  | beijing  |
+-----------+-------+-------+----------+--+