HIVE 通过正则匹配字段分列

最新推荐文章于 2025-03-02 13:54:40 发布

原创最新推荐文章于 2025-03-02 13:54:40 发布 · 1.1w 阅读

2 ·

CC 4.0 BY-SA版权

Hive 专栏收录该内容

24 篇文章

订阅专栏

本文详细介绍了如何利用RegexSerDe在Hive中处理包含多种数据类型的复杂数据，包括字符串和日期格式。通过增加JAR包、创建表结构并设置特定的SERDEPROPERTIES，实现对数据的高效序列化与反序列化，从而简化数据处理流程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

通过 SerDe(serialize/deserialize) ，在数据序列化和反序列化时格式化数据。

这种方式稍微复杂一点，对数据的控制能力也要弱一些，它使用正则表达式来匹配和处理数据，性能也会有所影响。但它的优点是可以自定义表属性信息 SERDEPROPERTIES ，在 SerDe 中通过这些属性信息可以有更多的定制行为。

原数据类型：

"abc"@_@123@_@"192.168.1.2"@_@"2013-02-05 12:13:00"

1.Hive 增加JAR 包

add jar /opt/app/hive-0.7.0-rc1/lib/hive-contrib-0.7.0.jar ;

2.创建表结构

create table hive_test(name string,  
age string,  
ip string ,
`date` string
) ROW FORMAT  
SERDE 'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'  
WITH SERDEPROPERTIES  
( 'input.regex' = '"(.*)"@_@(.*)@_@"(.*)"@_@"(.*)"',  
'output.format.string' = '%1$s %2$s %3$s %4$s')  
STORED AS TEXTFILE

3.导入数据

load data local inpath '/home/op1/uerdwdb/data_test.txt' into table hive_test;

HIVE 通过正则匹配 字段分列

HIVE 通过正则匹配字段分列