Hive变量传递

本文介绍了Hive参数传递的三种方式:--hivevar、--hiveconf和--define,详细讲解了它们的用法、作用域及如何在语句中引用。内容包括变量的覆盖规则、获取Hive配置、大小写敏感性、不同变量的独立性以及未定义变量的处理。最后对比了Impala变量传递的特点,指出Impala变量名称不敏感且未定义时会报错。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

hive传递参数有三种方法:  

        --hivevar : 传参数 ,提供给用户自定义变量。

        --hiveconf : 传参数,包括了hive-site.xml配置的hive相关配置属性。

        --define : 与hivevar定义变量是一致的。

一、语法:

usage: hive
 -d,--define <key=value>          Variable subsitution to apply to hive
                                  commands. e.g. -d A=B or --define A=B
    --database <databasename>     Specify the database to use
 -e <quoted-query-string>         SQL from command line
 -f <filename>                    SQL from files
 -H,--help                        Print help information
    --hiveconf <property=value>   Use value for given property
    --hivevar <key=value>         Variable subsitution to apply to hive
                                  commands. e.g. --hivevar A=B
 -i <filename>                    Initialization SQL file
 -S,--silent                      Silent mode in interactive shell
 -v,--verbose                     Verbose mode (echo executed SQL to the
                                  console)

        用法很简单:hive --hivevar k1=v1 --hivevar k2=v2 --hiveconf k3=v3

        注意:这种方式传参,适用与 hive -f 或者直接 hive 执行语句,hive -e 不会生效

二、作用域

        hivevar与hiveconf作用域都是会话级别的,也就是在同一台主机启动两个hive会话,参数是不会相互覆盖的

三、使用

        在语句中,通过 ${hiveconf:key}、${hivevar:key} 引用参数

举个栗子:

hive --hivevar var1=1 --hivevar var1=2 --hivevar VAR1=3 --hiveconf var1=4 --hiveconf var2=5 --hiveconf VAR2=6


>select
>   '${hiveconf:hive.metastore.warehouse.dir}',
>   '${hivevar:var1}',
>   '${hivevar:VAR1}',
>   '${hiveconf:var1}',
>   '${var1}',
>   '${hiveconf:var2}',
>   '${var2}',
>   '${hiveconf:VAR2}'
>;


+-----------------------+------+------+------+------+------+----------+------+
|          _c0          | _c1  | _c2  | _c3  | _c4  | _c5  |   _c6    | _c7  |
+-----------------------+------+------+------+------+------+----------+------+
| /user/hive/warehouse  | 2    | 3    | 4    | 2    | 5    | ${var2}  | 6    |
+-----------------------+------+------+------+------+------+----------+------+



hive --hivevar var=12.34.56

> select ${hivevar:var};
Error: Error while compiling statement: FAILED: ParseException line 1:13 cannot recognize input near '56' '<EOF>' '<EOF>' in expression specification (state=42000,code=40000)

> select '${hivevar:var}';
+-----------+
|    _c0    |
+-----------+
| 12.34.56  |
+-----------+
1 row selected (2.993 seconds)

        从上面可以得出结论:

        1、后面传入的变量值会覆盖前面的变量值

        2、可以通过 hiveconf 获得 hive 相关配置

        3、变量名称大小写敏感(hivevar和hiveconf都是)

        4、hivevar 和 hiveconf 的变量是独立的

        5、hivevar可以不加前缀 hivevar:,直接${key}使用;而 hiveconf必须 ${hiveconf:key}

        6、不存在的变量会将整个当成值,而不是引用变量

        7、hivevar仅仅只是简单的文本替换,并不考虑数据类型

四、Impala传递参数

impala-shell --var=myvar=test --var=MyVar=try


>select 
>    '${Var:myvar}',
>    '${Var:MyVar}'
>;



+-------+-------+
| 'try' | 'try' |
+-------+-------+
| try   | try   |
+-------+-------+

结论:Impala变量名称大小写不敏感

注意:变量没有定义会报错:Error: Unknown variable XXX

Hive中,可以使用变量来在SQL文件中传递参数值。有几种方法可以在SQL中使用变量。 一种方法是使用-hivevar参数来定义变量。在SQL文件中,可以使用${变量名}来引用这些变量。例如,可以使用以下命令执行SQL脚本: ``` hive --hivevar minscore=60 --hivevar maxscore=85 -S -f test.sql ``` 在test.sql文件中,可以使用${minscore}和${maxscore}来引用这些变量。 另一种方法是使用-hiveconf参数来定义变量。在SQL文件中,同样可以使用${变量名}来引用这些变量。例如,可以使用以下命令执行SQL脚本: ``` hive -S -d minscore=60 -d maxscore=85 -f test.sql ``` 在test.sql文件中,同样可以使用${minscore}和${maxscore}来引用这些变量。 此外,在shell脚本中也可以定义变量并在Hive中使用。例如,可以创建一个shell脚本文件shelltest,其中定义了minscore和maxscore变量,并在Hive中使用这些变量: ``` #!/bin/bash minscore=60 maxscore=70 hive -S -e "use hive_test;select * from score where score >= ${minscore} and score <= ${maxscore};" ``` 然后,通过给shell脚本文件赋予执行权限并执行该脚本来运行Hive查询: ``` chmod 777 shelltest sh shelltest ``` 需要注意的是,在命令行或shell脚本中定义变量时,等号左右两侧不能有空格。另外,使用-hiveconf、-hivevar或-d时,如果需要定义多个变量,每个变量前面都需要加对应的参数,一个参数只对应一个变量。在命令行中使用hive -e参数调用变量时,-e参数后面的SQL语句需要使用单引号'',否则无法解析获取到变量。 #### 引用[.reference_title] - *1* *3* [hive变量的使用](https://blog.youkuaiyun.com/weixin_43990245/article/details/124433738)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [Hive开发中使用变量的两种方法](https://blog.youkuaiyun.com/peishuai1987/article/details/89882731)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值