Hive 3.1.2安装(基于Centos7.x和Hadoop3.2.1)

Hive——Hive安装全流程 阅读详情

Hive 3.1.2安装(基于Centos7.x和Hadoop3.2.1)

背景

  1. Hadoop大数据套件被应用后,进行数据处理就必须编写mapreduce代码。而相当一部分大数据处理需求都是进行数据的查询操作(实际数据库的操作中,读写操作比例也有80%:20%的说法)
  2. Facebook的工程师也遇到这个问题。编写mapreduce对于程序员还是有一定门槛,但是会使用sql的人群更庞大。所以Facebook就发明了Hive,一个把sql语句转换为mapreduce代码的转换器。
  3. 不过Hive的使用场景,还是会有一些限制。既然是sql语句,则Hive转换的mapreduce所需要处理的数据就需要有结构跟数据库数据一样。同时Hive将sql转换为mapreduce代码是通过类似模板的操作
  4. 注意,Hive只是把Sql语句转换为mapreduce代码,也就是一个转换器。所以一般不需要安装集群,安装在一个节点即可。如果担心损坏,一般安装2台,切换者使用也可。

1. 安装环境

  1. Centos7.x 安装教程
  2. Hadoop 3.2.1
    yarn安装教程
    hdfs安装教程
  3. mysql5.7mysql安装教程
  4. hive 3.1.2
  5. mysql 驱动(mysql-connector-java-5.1.39.jar, 可以去maven或者其他仓库获取)

2. 安装步骤

  1. 正常启动HDFS和YARN

    在hadoop安装目录的sbin下,有一个start-all.sh脚本,当hdfs和yarn的配置都设置好之后,可以一键启动hdfs和yarn
    如果不想使用这个一键启动脚本,也可以分别调用start-dfs.sh和start-yarn.sh2个脚本

在这里插入图片描述

  1. 安装mysql
  1. 查看mysql是否运行
    netstat -nltp | grep 3306
    tcp 0 0 0.0.0.0:3306
  2. systemctl start mysqld 启动mysql服务
  3. 配置mysql的开机自启服务 systemctl enable mysqld
  4. 开启远程连接权限
    登录mysql:
    mysql -uroot -proot
    执行sql语句:
    mysql> set global validate_password_policy=0;
    mysql> set global validate_password_length=1; 这个两个设置以后 密码很简单不会报错
    开启远程连接权限:
    mysql > grant all privileges on . to ‘root’@’%’ identified by ‘123456’ with grant option;
    mysql > flush privileges;
  5. mysql启动正常 开启远程连接
    可以使用windows安装的navicat连接linux上的mysql服务器验证以下
  1. 上传hive的安装包
    使用rz软件,或者其他方式如secureCRT的alt+p切换到上传模式,将压缩包上传到第三方软件安装目录下。linux一般第三方软件安装在opt或者usr目录下。我的是安装到/opt/apps目录下
    在软件包所在目录下,执行解压缩的shell指令
tar -zxf apache-hive-3.1.2-bin.tar.gz
  1. 修改配置信息
  • 在Hive的安装目录下,找到conf目录,我的目录路径如下opt/apps/hive-3.1.2/conf。将原本的脚本重命名.
cp hive-env.sh.template  hive-env.sh
  • 编辑hive-env.sh脚本,添加内容。使用vi命令打开文件
 vi hive-env.sh
  • 文本中,添加内容如下。第一行是指定hadoop的安装路径,第二行是指定Hive安装目录下的conf目录的路径。
    在这里插入图片描述
export HADOOP_HOME=/opt/apps/hadoop-3.2.1/

export HIVE_CONF_DIR=/opt/apps/hive-3.1.2/conf/
  1. 创建一个配置文件(在conf目录下)
    在这里插入图片描述
  • 执行如下shell命令
vi  hive-site.xml
  • 将以下内容拷贝到这个新创建的xml文件中,注意替换javax.jdo.option.ConnectionURL值的mysql所在主机域名,注意替换mysql的账号和用户名。
<configuration>
<!-- 记录HIve中的元数据信息  记录在mysql中 -->
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://doit01:3306/hive?createDatabaseIfNotExist=true&amp;useSSL=false</value>
</property>

<!-- jdbc mysql驱动 -->
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
hive3.1.2安装 1 #打开配置文件 2 [root@master Hive]# vi /etc/profile 3 #在后面追加以下内容 4 export HIVE_HOME=/opt/SoftWare/Hive/hive‐2.3.2 5 export PATH=$PATH:$HIVE_HOME/bin 6 #使设置生效 7 [root@master Hive]# source /etc/profile该文件不存在,需要复制hive-default.xml.template来创建#进入到hive‐2.3.2目录[root@ 阅读详情

相关推荐

Linux 上安装 Hive 的完整指南:从环境准备到元数据库配置

大数据分析中,Hive 作为基于 Hadoop 的数据仓库工具,通过 SQL 简化海量数据处理。其核心原理是将 SQL 转换为分布式计算任务,依赖 HDFS 存储和 YARN 调度,元数据通常存于 MySQL。技术价值在于降低分析门槛,应用场景包括日志分析和业务查询。在 Linux 上安装 Hive 需配置 Hadoop、Java 和 MySQL 元数据库,涉及环境准备、配置文件调整和常见问题排查。

weixin_29061997的博客 239

【Hive】Hive2.x.x超详细安装教程(Hadoop平台上的数据仓库)

Hive2.x.x超详细安装教程(hadoop平台上的数据库)零、开始一、下载Hive二、配置Hive三、启动Hive     环境:Centos7Hadoop-2.10.0MySQL-8.0.20 安装:Hive-2.3.7 零、开始   Hive简而言之就是Hadoop平台上的数据库,将传统关系型数据库迁移到Hadoop平台上。   并使用HQL(类SQL语句)作为查询接口,使用HDFS作为底层存储, 使用MapReduce作为执行层,即将HQL语句转译成M/R Job然后在Hadoop执行。   本

weixin_42159233的博客 3542

hive3.1.2安装 hadoop-3.2.3单机版安装

前置安装:jdk1.8和hadoop3.x.x 一、hadoop-3.2.3单机版安装 1.下载安装包 wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.2.3/hadoop-3.2.3.tar.gz 2.解压缩 tar -zxvf hadoop-3.2.3.tar.gz 3.进入hadoop-3.2.3/目录下,创建文件夹input,并将配置文件复制到该文件夹下 mkdir input cp.

flyfelu的博客 2015

基于centos7搭建haoop与hive

centos7搭建hadoop

congge_study的博客 7915

ic后端学习笔记-floorplan

floorplan是布图规划,规划包括定义芯片的大小,定义芯片内各种模块、hard macros(硬核。比如RAM,ROM及其他IP模块等)、IO等的大小和位置,有时候还需要提前定义一些placement blockages,groups/regions等等,是后端设计的第一步,也是后续所有P&R工作的基础。floorplan与placement的区别是。

tfrofc的博客 5830

微带线,带状线和接地共面波导的区别

微带线,带状线和接地共面波导的区别

sky_ying的博客 3万+

告别Overleaf!本地LaTeX环境配置:VSCode+TeXLive完全指南(Windows/Mac双平台)

本文详细介绍了如何在Windows和Mac平台上配置本地LaTeX环境,使用VSCode和TeXLive打造高效的专业写作工作流。从TeXLive安装到VSCode插件配置,再到高级技巧与性能优化,帮助用户摆脱Overleaf限制,实现更快速、更私密的学术写作体验。

3c4x5z6v7b的博客 952

QMT实盘交易入门:5分钟搞定ETF全球配置策略(附完整代码)

本文详细介绍了如何使用QMT平台实现ETF全球配置策略,从环境准备到策略编写、实盘部署全流程仅需5分钟。通过xtquant库对接交易所接口,提供完整的动量轮动策略代码,帮助投资者快速掌握自动交易技术,优化全球资产配置。

weixin_30675247的博客 334

手把手教你解决uniapp中esbuild版本冲突问题(Mac版专属指南)

本文是针对Mac平台uniapp开发者的专属指南,详细解析了运行项目时常见的`Cannot start service`错误,即esbuild的Host版本与binary版本不匹配问题。文章从错误根源入手,提供了从快速应急处理到彻底根治的完整解决方案,包括手动替换二进制文件、锁定依赖版本、清理缓存及优化工具链配置,旨在帮助开发者高效解决版本冲突,恢复并稳定开发环境。

i0j1k2l3m的博客 458

使用Docker搭建SearXNG搜索引擎

【代码】使用Docker搭建SearXNG搜索引擎。

janthinasnail的博客 1165

基于稀疏表示字典学习的图像超分辨率-杨建超论文解析

文章:《Image Super-Resolution via Sparse Representation》 作者:杨建超 信号稀疏的定义: 令字典D的原子个数M,信号维度为N,则有以下三种关系: M = N时,D为完备的; M > N时,D为冗余的; M>>N时, D为过完备的。 图解如下: 借鉴了压缩感知的思想,通过对大量低分辨率图像和高分辨...

ycc18829026593的博客 7637

手把手教你学Simulink--基础微电网场景实例:基于Simulink的混合交直流微电网架构仿真

本文基于Simulink构建混合交直流微电网仿真模型,通过交流子网(风电+交流负荷)和直流子网(光伏+储能+直流负荷)的协同控制,实现系统效率提升8.5%。重点介绍了混合架构原理、下垂控制策略及Simulink建模方法,包括核心模块实现、协调控制器代码和仿真参数设置。通过三种工况测试验证了系统性能:功率转移响应时间<0.5s,电压波动<5%,显著优于传统独立子网架构。文章还提供了进阶优化方向和完整代码清单,为微电网仿真研究提供实用参考。

MHD0815的博客 129

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

上一篇: MapReduce 程序在Yarn上执行流程图
下一篇: 大数据业务模型和技术架构简图
闻香识代码
博客等级 码龄12年 314粉丝 223原创
评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值