shell脚本自定义函数及其调用

文章介绍了如何在util.sh脚本中定义函数,如检查环境变量和在HDFS上创建目录,以及如何使用这些函数执行Hive表join操作,确保数据处理流程的正确性。

1. 在util.sh脚本中自定义函数

#!/usr/bin/env bash

# 检查环境变量是否存在
function assert_env_var_exist {
    local var_name=$1
    if [ -z $var_name ];then
        log "ERROR: " "${BASH_SOURCE[*]}" "${LINENO}" "Failed: Check env var: $var_name"
        exit -1
    fi
}

# 在hdfs上创建目录
function mkdir_hdfs {
    local path=${1}
    ${HADOOP_HOME}/bin/hdfs dfs -mkdir -p $path
    if_error_exit "make hdfs dir $path"
}

2. 调用

#!/bin/bash
source /etc/profile
source util.sh

# hive表join
function join_table(){
    local runDt=$1
    local t1="/user/hive/test.db/table1/pt=${runDt}*/_SUCCESS" && check_hdfs_exist ${v1} ${v2} 
    local t2="/user/hive/test.db/table2/pt=${runDt}*/_SUCCESS" && check_hdfs_exist ${v1} ${v2}

    hive -hiveconf mp_queue=${mp_queue} \
        -hiveconf runDt=${runDt} \
        -hiveconf runNextDt=${runNextDt} \
        -hiveconf runPrevDt=${runPrevDt} \
        -f join.hql
    if_error_exit "run table_new: ${runDt}"
    ${HADOOP_HOME}/bin/hdfs dfs -touchz /user/hive/test.db/table_new/dt=${runDt}/_SUCCESS
}

# 调用
join_table ${dt}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值