Hive UDF实现分析函数row_number

最新推荐文章于 2021-01-01 21:13:38 发布

转载最新推荐文章于 2021-01-01 21:13:38 发布 · 2.9k 阅读

文章标签：

#string #function #oracle #class #java #jar

HADOOP和HIVE 专栏收录该内容

11 篇文章

订阅专栏

本文介绍如何在Hive中通过用户定义函数(UDF)实现Oracle的row_number功能，提供了一段Java代码示例，并展示了如何在Hive查询中使用这个自定义的row_number函数。

Oracle的分析函数row_number是十分有用的功能，但是將ETL迁移到Hive中发现没有的功能，我们实现了一个UDF实现了该函数，代码如下:

JAVA代码:

package org.nalang.hive.udf;
import org.apache.hadoop.hive.ql.exec.UDF;

public class RowNumber extends UDF {

 private static int MAX_VALUE = 50;
 private static String comparedColumn[] = new String[MAX_VALUE];
 private static int rowNum = 1;
 public int evaluate(Object... args) {
 String columnValue[] = new String[args.length];
 for (int i = 0; i < args.length; i++)
 columnValue[i] = args[i].toString();
 if (rowNum == 1)
 {

 for (int i = 0; i < columnValue.length; i++)
 comparedColumn[i] = columnValue[i];
 }

 for (int i = 0; i < columnValue.length; i++)
 {

 if (!comparedColumn[i].equals(columnValue[i]))
 {
 for (int j = 0; j < columnValue.length; j++)
 {
 comparedColumn[j] = columnValue[j];
 }
 rowNum = 1;
 return rowNum++;
 }
 }
 return rowNum++;
 }
}

Hive应用:

hive>add jar /home/work/local/hive/udf/row_number.jar;
create temporary function row_number as 'com.baifendian.hive.udf.RowNumber';
select *,row_number(col1,col2,col3)from (
select col1,col2,col3
from tab
order by col1,col2,col3)a;