Hive的内置函数parse_url_tuple/lateral view/explode

这篇博客介绍了Hive中用于解析URL和处理JSON数据的内置函数,如parse_url_tuple()和lateral view explode()。parse_url_tuple()用于提取URL的特定部分,而lateral view则用于将数据展开成多行,配合explode()处理数组结构,常用于从非关系型数据库导入到Hive数仓的ETL过程中。

目录

大数据技术普及后,很多类似pv,uv的数据,在业务系统中以json的方式存储存贮在非关系型数据库中,直接导入hive为基础的数仓系统中,就需要经过ETL过程解析这类数据,Hive的lateral view内置函数在这种情景下应运而生。
【1】parse_url_tuple()
语法: parse_url(string urlString, string partToExtract [, string keyToExtract]),parse_url_tuple()功能类似parse_url(),但它可以同时提取多个部分并返回。
返回值:String
说明:返回URL中指定的部分。partToExtract的有效值为:HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO。

hive> select parse_url_tuple(‘http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1’,QUERY:k1’,QUERY:k2’);
>>v1 v2

【2】lateral view
  是将右边的表或者结果合并到左边表,和左边表整合成一张表。

create table t_ods_tmp_referurl as
SELECT a.*,b.* FROM ods_weblog_origin a LATERAL VIEW parse_url_tuple(regexp_replace(http_referer, “”", “”),HOST,PATH,QUERY,QUERY
<think>我们已知在Hive中执行`SHOW FUNCTIONS LIKE '*url*';`返回了两个内置函数:`parse_url`和`parse_url_tuple`。 因此,原始查询中的`url_trans`函数不存在,可能是自定义函数(UDF)未注册,或者函数名拼写错误。 根据错误信息,我们需要解决`url_trans`函数不可用的问题。既然Hive内置了`parse_url`和`parse_url_tuple`,我们可以考虑使用这些内置函数来替代`url_trans`的功能。 `parse_url`函数用于解析URL字符串,并返回指定的部分。其语法为: parse_url(url, part) 其中,`part`可以是以下值(不区分大小写): HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, USERINFO, QUERY:<KEY> 例如,要获取URL的主机名,可以使用:`parse_url(url, 'HOST')` 而`parse_url_tuple`是一个UDTF(表生成函数),可以同时解析URL的多个部分,并且可以返回多个列。通常与`LATERAL VIEW`一起使用。 因此,如果`url_trans`的功能是提取URL的特定部分,我们可以用`parse_url`来替代。 但是,原始查询中还有另一个函数`get_city_by_ip`,它可能也是一个自定义函数。由于错误只报了`url_trans`,所以先解决`url_trans`的问题。 解决方案: 1. 如果`url_trans`的功能可以用`parse_url`实现,则替换。 2. 如果`url_trans`有特殊逻辑(如自定义的转换规则),则需要注册自定义UDF。 假设`url_trans`的功能是提取URL的主机名(即域名),那么可以这样改写: 将 `url_trans(url)` 替换为 `parse_url(url, 'HOST')` 改写后的查询: ```sql SELECT parse_url(url, 'HOST') as url_host, get_city_by_ip(client_ip) FROM comm.ods_behavior_log LIMIT 10; ``` 注意:如果`get_city_by_ip`也不是内置函数,那么同样需要注册自定义函数。目前错误只报了`url_trans`,所以先处理这个。 如果`url_trans`的功能不是简单的提取主机名,而是有其他操作(比如URL解码、去掉参数等),那么可能需要自定义UDF,或者结合多个内置函数实现。 另外,如果`url_trans`是一个自定义函数,那么需要按照之前提到的步骤注册UDF。 因此,根据现有信息,我们建议先尝试使用内置函数`parse_url`来替代,如果满足需求则无需自定义函数。 如果上述方案不适用,则需要检查是否存在自定义函数`url_trans`的UDF,并确保其正确注册。 注册自定义函数的步骤(如果已有UDF): 1. 将包含UDF的JAR文件添加到Hive会话中:`ADD JAR /path/to/jarfile.jar;` 2. 创建临时函数:`CREATE TEMPORARY FUNCTION url_trans AS 'com.example.UrlTransUDF';` (其中`com.example.UrlTransUDF`是UDF类的全限定名) 注意:如果是永久函数,可以使用`CREATE FUNCTION`,但需要将JAR文件上传到HDFS,并在创建时指定。 综上所述,优先使用内置函数`parse_url`,如果无法满足再考虑注册自定义函数。 §§相关问题§§1. 如何用Hive内置函数parse_url解析URL的路径部分?2. 如果get_city_by_ip也报错,如何解决?3. 如何编写和注册Hive自定义UDF函数?4. parse_urlparse_url_tuple函数的主要区别是什么?5. 在Hive中如何查看已注册的自定义函数?</think>根据您提供的Hive函数查询结果,系统内置的URL相关函数只有`parse_url`和`parse_url_tuple`,没有`url_trans`函数。这意味着: 1. **`url_trans`不是Hive内置函数** - 需要自定义实现或使用替代方案 2. **建议替代方案**: ```sql -- 使用parse_url解析URL特定部分(如域名) SELECT parse_url(url, 'HOST'), get_city_by_ip(client_ip) FROM comm.ods_behavior_log LIMIT 10; -- 使用parse_url_tuple同时解析多个部分 SELECT parsed_url.*, get_city_by_ip(client_ip) FROM comm.ods_behavior_log LATERAL VIEW parse_url_tuple(url, 'HOST', 'PATH', 'QUERY') parsed_url AS host, path, query LIMIT 10; ``` 3. **若必须使用url_trans**: - 确认是否存在自定义UDF的JAR包 - 注册函数:`CREATE FUNCTION url_trans AS 'com.xxx.UrlUDF' USING JAR 'hdfs:///udfs/url.jar';`
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值