cdh5.7.4上hive的配置

本文档详细介绍了如何在Hadoop集群中安装配置Hive服务,并通过一系列具体步骤指导如何使用Impala进行数据处理。内容包括安装hive服务、设置MySQL驱动、执行建表命令、添加分区等操作。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.1  添加hive服务

 

将hive服务都安装到hadoop-manager2上(列表所示)

并在所有机器上存放mysql驱动,存放位置

    /opt/cloudera/parcels/CDH/lib/hive/lib

 

选择hadoop-manager1上的mysql

选择默认路径

 

 

 

 

 

 

 

1.2   impala

 

 

1)在hive安装集群中输入一下命令,登入hive客户端

         hive

2)打开hive.txt,并将建表命令拷贝在客户端执行

3)将hive_add_partition.sh拷贝到/opt/data-platform/bin

4)在 /opt/data-platform/sbin/jobs_day.sh 文件中添加如下命令

 

#添加partition

sh/opt/data-platform/bin/hive_add_partition.sh >  /opt/data-platform/log/hive_add_partition.log2>&1

 

hive.txt

 

drop table if exists call_logs;

CREATE external TABLE call_logs (

accesscode string,

province string,

region string,

domain string,

frontid string,

callingnumber string,

oricallednumber string,

callednumber string,

starttime string,

answertime string,

keypresstime string,

endtime string,

keypressduration string,

keynumber string,

callduration string,

callingareanum string,

oricalledareanum string,

calledareanum string,

calltype string,

barringtype string,

trunkid string,

localcode string,

destcode string,

listtype string,

category string,

auditresult string,

auditstutas string,

recordfileid string,

recordpath string,

recordstarttime string,

recordendtime string,

ismonitoring string,

direction string,

answerendtiome string,

calllenth string,

notinterceptreason string,

ishide string,

templet_no string,

policyid string

) partitioned BY(stat_date STRING)

ROW format delimited FIELDS TERMINATED BY '|';

 

hive_add_partition.sh

#!/bin/bash

source /etc/profile

if [ $# -eq 1 ]; then

         target_day=$1

else

         target_day=`date-d "-0 days" +"%Y%m%d"`

fi

 

hive -e "alter table call_logs addpartition (stat_date ='${target_day}') location'/user/callLog/stat_date=${target_day}'"

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值