IDEA开发的依赖——hive自定义函数apache-hive-3.1.2

最新推荐文章于 2025-03-31 08:29:19 发布

原创

最新推荐文章于 2025-03-31 08:29:19 发布

· 1.8k 阅读

0 ·

版权

caron

本文介绍了在IDEA中开发Hive自定义函数的方法，包括UDF、UDTF的详细步骤。当Hive内置函数不能满足需求时，可以通过自定义函数进行扩展。内容涵盖了从继承Hive类、实现抽象方法，到创建和删除Hive函数的操作，以及Maven工程的配置和jar包的上传。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

自定义函数

1）Hive 自带了一些函数，比如：max/min等，但是数量有限，自己可以通过自定义UDF来方便的扩展。

2）当Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：user-defined function）。

3）根据用户自定义函数类别分为以下三种：

（1）UDF（User-Defined-Function）

     一进一出

（2）UDAF（User-Defined Aggregation Function）

     聚集函数，多进一出

     类似于：count/max/min

（3）UDTF（User-Defined Table-Generating Functions）

     一进多出

     如lateral view explode()

4）官方文档地址

https://cwiki.apache.org/confluence/display/Hive/HivePlugins

5）编程步骤：

（1）继承Hive提供的类

    org.apache.hadoop.hive.ql.udf.generic.GenericUDF  

    org.apache.hadoop.hive.ql.udf.generic.GenericUDTF;

（2）实现类中的抽象方法

（3）在hive的命令行窗口创建函数

添加jar

add jar linux_jar_path

创建function

create [temporary] function [dbname.]function_name AS class_name;

（4）在hive的命令行窗口删除函数

drop [temporary] function [if exists] [dbname.]function_name;

自定义UDF函数

1）创建一个Maven工程Hive
2）导入依赖

 <dependencies>
    <dependency>
        <groupId>org.apache.hive</groupId>
        <artifactId>hive-exec</artifactId>
        <version>3.1.2</version>
    </dependency>
 </dependencies>

3）创建一个类

import org.apache.hadoop.hive.ql.exec.UDFArgumentException;
import org.apache.hadoop.hive.ql.exec.UDFArgumentLengthException;
import org.apache.hadoop.hive.ql.exec.UDFArgumentTypeException;
import org.apache.hadoop.hive.ql.metadata.HiveException;
import org.apache.hadoop.hive.ql.udf.generic.GenericUDF;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.