Hive部署

Hive安装与配置指南
1.获取安装包

wget https://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.16.2.tar.gz

[wzj@hadoop001 software]$ ll
total 549960
-rw-r–r--. 1 wzj wzj 434354462 Dec 2 11:06 hadoop-2.6.0-cdh5.16.2.tar.gz
-rw-r–r--. 1 wzj wzj 128800223 Dec 15 10:55 hive-1.1.0-cdh5.16.2.tar.gz

2.环境准备

官网介绍如下:
Requirements
Java 1.7
Note: Hive versions 1.2 onward require Java 1.7 or newer. Hive versions 0.14 to 1.1 work with Java 1.6 as well. Users are strongly advised to start moving to Java 1.8 (see HIVE-8607).
Hadoop 2.x (preferred), 1.x (not supported by Hive 2.0.0 onward).
Hive versions up to 0.13 also supported Hadoop 0.20.x, 0.23.x.
Hive is commonly used in production Linux
hadoop部署https://blog.youkuaiyun.com/wzj_wp/article/details/103348359

mysql部署
mysql部署https://blog.youkuaiyun.com/wzj_wp/article/details/103251071

*我已经提前装好了jdk1.8和hadoop2.6.0
[wzj@hadoop001 software]$ ll
total 549960
-rw-r–r--. 1 wzj wzj 434354462 Dec 2 11:06 hadoop-2.6.0-cdh5.16.2.tar.gz
[wzj@hadoop001 software]$ which java
/usr/java/jdk1.8.0_45/bin/java
*

3.解压 tar包

tar -xzvf hive-1.1.0-cdh5.16.2.tar.gz -C …/app/
我是放置在我自己app的目录下,你可以根据你的需要放置

4.软连接(好处多多,自行体会)

ln -s hive-1.1.0-cdh5.16.2.tar.gz hive
[wzj@hadoop001 app]$ ll
total 0
lrwxrwxrwx. 1 wzj wzj 21 Dec 15 10:58 hive -> hive-1.1.0-cdh5.16.2/
drwxr-xr-x. 11 wzj wzj 197 Jun 3 2019 hive-1.1.0-cdh5.16.2

[wzj@hadoop001 app]$ cd hive
[wzj@hadoop001 hive]$ ll
total 416
drwxr-xr-x. 2 wzj wzj     48 Jun  3  2019 auxlib
drwxr-xr-x. 3 wzj wzj    119 Jun  3  2019 bin ##脚本
drwxr-xr-x. 2 wzj wzj    200 Dec 15 11:17 conf ##配置文件
drwxr-xr-x. 3 wzj wzj     21 Jun  3  2019 data
drwxr-xr-x. 6 wzj wzj    110 Jun  3  2019 docs
drwxr-xr-x. 4 wzj wzj     34 Jun  3  2019 examples
drwxr-xr-x. 7 wzj wzj     68 Jun  3  2019 hcatalog
drwxr-xr-x. 4 wzj wzj   8192 Dec 15 11:00 lib ##jar包
-rw-r--r--. 1 wzj wzj  24754 Jun  3  2019 LICENSE
-rw-r--r--. 1 wzj wzj    397 Jun  3  2019 NOTICE
-rw-r--r--. 1 wzj wzj   4048 Jun  3  2019 README.txt
-rw-r--r--. 1 wzj wzj 376416 Jun  3  2019 RELEASE_NOTES.txt
drwxr-xr-x. 3 wzj wzj     23 Jun  3  2019 scripts
5.配置环境变量

[wzj@hadoop001 ~]$ vi .bashrc
配置以下环境变量

export HIVE_HOME=/home/wzj/app/hive
export PATH=$HIVE_HOME/bin:$PATH

[wzj@hadoop001 ~]$ source .bashrc

6.配置文件

${HIVE_HOME}/conf

[wzj@hadoop001 ~] c d / h o m e / w z j / a p p / h i v e / c o n f [ w z j @ h a d o o p 001 c o n f ] cd /home/wzj/app/hive/conf [wzj@hadoop001 conf] cd/home/wzj/app/hive/conf[wzj@hadoop001conf] ll
total 24
-rw-r–r--. 1 wzj wzj 1196 Jun 3 2019 beeline-log4j.properties.template
-rw-r–r--. 1 wzj wzj 2378 Jun 3 2019 hive-env.sh.template
-rw-r–r--. 1 wzj wzj 2662 Jun 3 2019 hive-exec-log4j.properties.template
-rw-r–r--. 1 wzj wzj 3505 Jun 3 2019 hive-log4j.properties.template
-rw-r–r--. 1 wzj wzj 2060 Jun 3 2019 ivysettings.xml
[wzj@hadoop001 conf]$ vi hive-site.xml

粘贴以下内容

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
	<property>
	  <name>javax.jdo.option.ConnectionURL</name>
	  <value>jdbc:mysql://hadoop001:3306/data_hive?createDatabaseIfNotExist=true</value>
	</property>
	
	<property>
	  <name>javax.jdo.option.ConnectionDriverName</name>
	  <value>com.mysql.jdbc.Driver</value>
	</property>

	<property>
	  <name>javax.jdo.option.ConnectionUserName</name>
	  <value>root</value>
	</property>

	<property>
	  <name>javax.jdo.option.ConnectionPassword</name>
	  <value>passwd</value>
	</property>
	
	<property>
		<name>hive.cli.print.current.db</name>
		<value>true</value>
	</property>
##此参数代表启动hive命令行是否显示当前仓库	
	<property>
		<name>hive.cli.print.header</name>
		<value>true</value>
	</property>
##此参数代表输出数据时是否打印头部信息
</configuration>
7.上传依赖包

mysql-connector-java-5.1.27-bin.jar
${HIVE_HOME}/lib

8.启动
[wzj@hadoop001 ~]$ hive
which: no hbase in (/home/wzj/app/hive/bin:/home/wzj/app/hadoop/bin:/home/wzj/app/hadoop/sbin:/usr/java/jdk1.8.0_45/bin:/usr/local/bin:/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/wzj/.local/bin:/home/wzj/bin)
19/12/16 13:38:52 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

Logging initialized using configuration in jar:file:/home/wzj/app/hive-1.1.0-cdh5.16.2/lib/hive-common-1.1.0-cdh5.16.2.jar!/hive-log4j.properties
WARNING: Hive CLI is deprecated and migration to Beeline is recommended.
hive (default)> show databases;
OK
database_name
default
Time taken: 7.303 seconds, Fetched: 1 row(s)
hive (default)> 

Hive是一种基于Hadoop的数据仓库工具,用于对大规模数据进行查询和分析。下面简要介绍如何部署Hive。 ### Hive 部署步骤 #### 1. 环境准备 - **安装 JDK**:Hive运行需要Java环境支持,因此首先确认服务器上已正确配置JDK,并设置好JAVA_HOME等环境变量。 - **安装 Hadoop**:Hive依赖于Hadoop分布式文件系统(HDFS),所以在部署之前必须先搭建并启动Hadoop集群。 #### 2. 下载 Hive 并解压 可以从Apache官网下载最新版本的Hive压缩包,然后将其上传到Linux机器并通过命令行解压: ```bash tar zxvf apache-hive-x.x.x-bin.tar.gz -C /opt/ ``` 将路径添加至PATH环境变量方便直接调用hive命令。 #### 3. 修改配置文件 进入`conf`目录下找到hive-env.sh.template并将它复制为hive-env.sh,在该脚本里指定正确的HADOOP_HOME位置以及其它必要的参数;同时还需要编辑hive-site.xml,其中包含诸如元数据库URL、用户权限等相关属性信息设定。 #### 4. 初始化Metastore Hive使用外部的关系型数据库如MySQL保存其元数据,默认采用内嵌Derby仅适合单机模式测试用途。推荐切换成专业级DBMS服务端口连接串格式示例如下: ```xml <property> <name>javax.jdo.option.ConnectionURL</name> <value>jdbc:mysql://localhost:3306/hivemetastore?createDatabaseIfNotExist=true</value> </property> <property> <name>javax.jdo.option.ConnectionDriverName</name> <value>com.mysql.jdbc.Driver</value> </property> <property> <name>javax.jdo.option.ConnectionUserName</name> <value>root</value> </property> <property> <name>javax.jdo.option.ConnectionPassword</name> <value>yourpassword</value> </property> ``` 最后初始化表结构通过执行schemaTool命令完成建库操作。 #### 5. 启动 Hive CLI 或 Beeline 客户端 当所有前期准备工作结束后就可以尝试打开终端输入`hive`来开启交互式shell界面开始编写SQL语句处理业务需求啦!
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值