hive学习 (3)Hive功能介绍 (4)hive 比hadoop 优势 (5)hive软件版本的问题

Hive4.0.1集群安装部署(Hadoop版本为3.3.6)(详细教程) hive本身没有直接关停服务的命令,可以通过端口进程的方式进行关闭。两个RunJar分别为metastore、hiveserver2的进程,可以通过“kill -9 进程号”进行关停。配置完metastore-site.xml,需要先初始化hive元数据库,选择在一台节点初始化即可。在hadoop安装目录下的core-site.xml中,需要开启hadoop代理用户配置。进入Hive的配置目录: cd /opt/apps/hive/conf/hive4.0已经弃用默认的Hive Cli。 阅读详情

hive是Apache的顶级项目,

http://hive.apache.org/

3.1 hive是干什么

将SQL语句转换成MapReduce程序,并且提交到Yarn上运行,读取HDFS上的数据进行处理。

SQL语句:和MySQL数据库中SQL语句非常非常类似。

 

3.2概念:SQL on Hadoop

       建立在Hadoop之上提供SQL方式分析的框架

       - 最早的框架就是 Hive

              facebook开源

- impala

- presto

- sparkSQL/shark

-kylin

3.3要学好hive,需要什么  

Hadoop基础:HDFS、MapReduce、Yarn

       MySQL数据库

              DML(数据操作语言)、DDL(数据定义语言)

4回顾一下Wordcount程序

Hadoop的处理过程

Hadoop spark hive spark hive spark scala

分割、

(hadoop,1),(spark,1),(hive,1)…

合并,然后在相加得到结果

假设:我们将数据已经放到MySQL中:

需求:统计各个单词出现的频率

同样的结果,用SQL语句几行就O了,就是比MapReduce简单

      

5、hive软件版本的问题

其实使用的3大版本:

       0.13.1:经典稳定的版本(2104)

       1.2.1 :较新的一个版本

       2.X:2017发布,

              底层推荐使用Spark或者TeZ框架分析数据,而不是MapReduce

 

下载地址:http://apache.org/dist/hive

 

 

hadoop hbase hive spark对应版本 hbase和hive之间版本对应关系 图片来源参考官网: http://hbase.apache.org/book.html#hadoop hive和hadoop、hive和spark之间版本对应关系 版本信息来自于hive源码包的pom.xml: hive-3.1.2 <hadoop.version>3.1.0</hadoop.version> <hbase.ve... 阅读详情

相关推荐

hadoop3.1.3+hive3.1.2+spark2.4.5组成hive on spark

hadoop 配置就不记录了,百度都有 hive就是用开源的3.1.2版本,官方默认是支持spark2.4.5的 这里的spark用的是自己编译的版本,依赖于hadoop3.1.2,并排除了hive依赖 spark-default 如下 spark.master yarnspark.eventLog.enabled truespark.eventLog.dir hdfs://hadoop01:8020/spark-historyspark.executor.memory 1gspark.driver

qq_35585375的博客 2924

Apache顶级项目介绍5 - Kylin

Apache顶级项目介绍5,我们迎来的中国自己的开源,来自本土eBay的顶级项目Kylin。神马?没听过? 别急,放心,Apache的顶级项目各个都身负绝技。 有人问,为什么突然介绍Kylin,呃,有小伙伴热情的提及的Kylin,希望来一篇介绍,本人之前有关注了解过,但没有深入研究过,所以我们先学现卖,符合入门介绍篇。 Kylin(麒麟),由eBay研发并贡献并

ErixHao的专栏 5818

hive安装(hive3.1.2与hadoop3.2.1版本冲突解决办法)

首先:正常启动HDFS、YARN和ZooKeeper 1.安装mysql(安装教程在以前的博客中) 2 查看mysql是否运行 3、启动mysql服务,登录mysql systemctl start mysqld mysql -uroot -p 4、可以配置mysql的开机自启服务 (1)下面这两个设置以后 密码很简单不会报错 mysql> set global validate_password_policy=0; mysql> set global validate_password_

weixin_45484707的博客 5447

hive 3.x 特性更改

Apache Hive 3.x 架构介绍     hive 的更新操作一直是大数据仓库头痛的问题,在3.x之前也支持update,但是速度太慢,还需要进行分桶,现在hive 支持全新ACID,并且底层采用TEZ 和内存进行查询,性能是hive2的50倍。生产建议升级到hive3.1.1版本。     了解Apache Hive 3主要的设计更改,例如默认的ACID事务处理和仅支持瘦配置客户端,可以...

SunWuKong_Hadoop的博客 7855

Hadoop 3.3.6 + Tez 0.10.3 + Hive 4.0.0 安装指南

根据 Hive 官方发布说明,Hive 4.0.0 兼容 Hadoop 3.3.6 和 Tez 0.10.3,尝试搭建了一套单节点的环境用于学习。

雪霁清寒 2662

hadoop Hive-2.3.4 安装配置

1、root用户登录,安装mysql apt-get install mysql-server 2、下载apache-hive-2.3.4-bin。tar.gz,mysql-connector-java-5.1.47.tar.gz hive资源:http://archive.apache.org/dist/hive/hive-2.3.4/ 3、hadoop用户登录,将以上两个gz文件解压(我的直接解压在/home/hadoop/下面),将mysql-connector-java-5.1.47文件夹下的m

科大人的博客 3440

Hadoop、Hive、Spark的简单认识和总结

前言 在大数据相关的工作和开发中,最常见的就是Hadoop、Hive、Spark这三个框架了,关乎大批量的数据处理,这三个是不二之选。刚开始的时候一直没搞清楚这三者之间的关系,后来随着在工作中的了解和学习,才逐渐弄清楚这三个之间的联系和区别。 Hadoop 首先是Hadoop。Hadoop可以说是大数据处理的基石,其他框架大多数都是以Hadoop为基础,从各个方面的不同角度进行优化和改进而演变而来...

哈哈哈哈哈哈哈 6365

RV1126 ISP开发实战:从Tuner调试到IQ文件解析

本文详细介绍了RV1126 ISP开发的完整流程,从Tuner调试到IQ文件解析,涵盖了环境搭建、工具使用、参数配置及性能优化等关键环节。通过实战案例和避坑指南,帮助开发者快速掌握Rockchip芯片的ISP开发技巧,提升图像处理质量。

weixin_29195615的博客 570

hive3.0新特性

1,Hive 3.0新特性一: 不再支持Mr,取而用Tez 查询引擎,且支持两种查询模式:Container 和 LLAP 2,Hive 3.0新特性二: Hive CLI不再支持(被beeline取代) 3,Hive 3.0新特性三: SQL Standard Authorization 不再支持,且默认建的表就已经是ACID表。 4,Hive 3.0新特性四: 支持 “批查询” ...

leelongzaitianya的博客 7721

Allegro PCB设计小技巧:如何用Shift键快速平移复制走线和过孔?

本文深入解析了Allegro PCB设计中利用Shift键进行平移复制的核心技巧。通过对比传统复制粘贴流程,详细演示了如何高效、精准地批量复制走线和过孔,尤其适用于创建等间距电源总线、过孔阵列等场景,能显著提升PCB设计效率与准确性。

pz89012345的博客 554

OFDM调制matlab仿真详细代码

MATLAB仿真代码 % ================================================== % 作者: 肆拾伍 % 时间:11/30 2019 % 版本:V3 % =================OFDM仿真参数说明:================ % % 子载波数 carrier_count ---200 % 总符号数 symbol_count ...

肆拾伍的博客 3万+

hive和Hadoop的版本关系

hbase和hive之间版本对应关系 在这里插入图片描述 图片来源参考官网:http://hbase.apache.org/book.html#hadoop hive和hadoop、hive和spark之间版本对应关系 版本信息来自于hive源码包的pom.xml: hive-3.1.2 <hadoop.version>3.1.0</hadoop.version> <hbase.version>2.0.0-alpha4</hbase.version> &lt

lucklydog123的博客 1万+

最近爆火的 Ontology 本体是什么?一文看懂基础概念 + 落地实操

1993 Tom Gruber原版定义:本体是对领域概念化模型的显式形式化规范。1998 Studer完善通用定义:本体是共享、明确、形式化的领域概念模型规范。大白话翻译:本体就是机器能看懂的行业词典+业务规则手册。数据库只管存数据,本体只管定规则,知识图谱是规则+数据结合体。区别于普通开源本体工具,这款国产商用本体平台核心优势:业务沙盘推演、可控业务数据写回、全链路字段级数据血缘审计,适配企业生产级业务落地。

驽马不舍 365

hive3.1.4源码编译兼容spark3.0.0 hive on spark hadoop3.x修改源码依赖 步骤详细

hive编译 自从CDH宣布收费之后,公司决定使用开源的组件,对现有的大数据集群进行替换。 使用hive3.1.2和spark3.0.0配置hive on spark的时候,发现官方下载的hive3.1.2和spark3.0.0不兼容,hive3.1.2对应的版本是spark2.3.0,而spark3.0.0对应的hadoop版本是hadoop2.6或hadoop2.7。 所以,如果想要使用高版本的hive和hadoop,我们要重新编译hive,兼容spark3.0.0。 目前,有关hive3.1.2编译的

weixin_52918377的博客 7932

通过电源模块降低电源噪声的3种方法

电源噪声是一种常见且不受欢迎的电气现象。如果不降低噪声,其会对敏感的医疗、测试测量、航空航天和国防系统的应用性能产生不利影响。当今的高精度模拟信号链系统需要直流/直流开关稳压器产生稳压电源轨,为低噪声应用中的模数转换器(ADC)、数模转换器(DAC)、现场可编程门阵列(FPGA)及其子系统供电。尽管直流/直流开关稳压器具有高工作效率,它们的开关操作会导致较大的不连续电流,从而产生较高的输入和输出电压纹波、频率尖峰和宽带噪声。

qq_43416206的博客 1424

Feature ‘alsa‘ was enabled, but the pre-condition ‘config.unix && !config.qnx && libs.alsa‘ failed解决

这个问题主要是Qt多媒体插件中缺少了ALSA音频库,所以我们需要自行先编译ALSA 在执行./configure的时候,配置项中ALSA为no Qt Multimedia: ALSA ................................... no GStreamer 1.0 .......................... no GStreamer 0.10 ......................... no Video for Linux .............

有问题或资源连接有缺失的可以私信公众号新潮看世界获取 2587

3、Hadoop+HBase+Hive+Zookeeper版本兼容问题

hadoop稳定版本选择 hadoop决定用比较稳定版本hadoop2.7.1 hadoop2.7.1中与hbase1.2.x兼容。 hbase1.x与hive2.x是兼容的,与hive1.x需要编译。因此这里决定 hbase使用1.x,hive使用2.x hbase稳定版本选择 hbase中目前版本有hbase0.98,1.1.4,1.2.1, 这里面稳定版是h...

lixiang987654321的专栏 5198

STM32实战开发(128):智能位移检测 - 使用STM32实现位移检测

STM32作为一款功能强大的微控制器,由于其出色的处理能力、丰富的外设接口和低功耗特点,成为实现智能位移检测系统的理想选择。未来,可以通过结合更多传感器、多种数据处理算法以及云平台技术,进一步提升系统的智能化水平,优化位移测量的精度和稳定性。本篇博客将介绍如何使用STM32微控制器实现智能位移检测系统,涉及硬件设计、传感器选择、软件开发等多个方面,提供详细的设计步骤,并给出完整的代码示例,帮助开发者快速搭建智能位移检测系统。蜂鸣器连接到STM32的GPIO端口,当位移超过设定的阈值时,蜂鸣器发出警报。

2201_76125393的博客 900

HIVE3.X版本讲解与部署

将MySQL的JDBC驱动拷贝到Hive的lib目录下:(/opt/software)(可能在其它地方,例如在(sqoop))初始化Hive元数据库(修改为采用MySQL存储元数据):(/opt/module/hive)初始化Hive元数据库(修改为采用MySQL存储元数据):(/opt/module/hive)初始化Hive元数据库(修改为采用MySQL存储元数据):(/opt/module/hive)初始化Hive元数据库(修改为采用MySQL存储元数据):(/opt/module/hive)

2403_88719012的博客 3432

YOLOv8改进策略【损失函数篇】| 2024 引进Focaler-IoU损失函数 加强边界框回归 (Focaler-DIoU、Focaler-GIoU、Focaler-CIoU)

本文记录的是改进YOLOv8的损失函数,将其替换成。现有研究通过利用边界框之间的几何关系来提高回归性能,但忽略了困难样本和简单样本分布对边界框回归的影响。不同检测任务中困难样本和简单样本的分布不同,对于简单样本占主导的检测任务,关注简单样本的边界框回归有助于提高检测性能;对于困难样本比例较高的检测任务,需要关注困难样本的边界框回归。,提高检测器在不同检测任务中的性能。实现的。

Limiiiing的博客 1221

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Ubuntu 20.04.1 LTS安装Hadoop3.3.0和hive3.1.2

大数据学习之路之基于Ubuntu20.04.1 LTS安装 Hadoop3.2.1 大数据学习之路之基于Ubuntu20.04.1 LTS安装 Hadoop3.2.1说明。 环境准备 电脑(虚拟机): Ubuntu20.04.1 LTS, 已安装open-jdk(1.8) Hadoop安装文件: hadoop-3.2.1.tar.gz 下载地址 软件准备 安装ssh-server :~$ sudo apt install openssh-server 检查ssh是否安装成功 :~$ ssh loc

hxtog的博客 3776

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

Hive3详细教程(一)Hive3+Hadoop3环境安装

本次Hive使用Hive3.1.2。 本次规划为三台虚拟机结点,其中在hp301上安装mysql和hive。 主机名 IP地址 hp301 192.168.150.31 mysql/hive hp302 192.168.150.32 hp303 192.168.150.33 使用Hive需要用到的环境是Hadoop,本次使用的是Hadoop3.3.1,其安装、使用过程详见本博客Hadoop3系列:Hadoop3详细教程 使用Hive需要在Linux虚拟机上安装Mysql,安

Java朱老师博客 6097

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

Hadoop、Hbase、Hive和zookeeper版本兼容关系

Hadoop和Hbase Hadoop和Hbase的匹配关系可以查看Hbase官方文档,搜索‘Hadoop version support matrix’: http://hbase.apache.org/book.html#basic.prerequisites Hadoop和Hive Hadoop和Hive的匹配关系查看Hive的下载页面:http://hive.apache.org/dow...

qq_39261894的博客 9777

hadoop 对应hive版本

如何实现 Hadoop 对应 Hive 版本的查询 在大数据领域,Hadoop 和 Hive 是两个非常重要的组成部分。Hadoop 是一个分布式存储和处理框架,而 Hive 则是建立在 Hadoop 之上的数据仓库工具,它为数据分析提供了一种类 SQL 的查询语言。然而,对于刚入行的小白来说,可能会对 Hadoop 和 ...

weixin_42347346的博客 1537

(最新版本)hive4.0.0 + hadoop3.3.4 集群安装(无坑版)-大数据学习系列(一)

网上的找的文档大多残缺不靠谱,所以我整理了一份安装最新版本的hive4..0.0+hadoop3.3.4的学习环境,可以提供大家安装一个完整的hive+hadoop的环境供学习。Hive Metastore是Hive的元数据存储服务,需要确保Metastore服务已经启动,并且在Beeline的配置文件中正确配置了Metastore的地址。HiveServer2是Hive的查询服务,需要确保HiveServer2服务已经启动,并且在Beeline的配置文件中正确配置了HiveServer2的地址。

zhenwudi的专栏 1万+

hive与hadoop的版本对应问题

以hive-3.1.2为例,查看hive-3.1.2对应的Hadoop版本号的方式是: 下载apache-hive-3.1.2-src.tar.gz 链接:https://mirrors.bfsu.edu.cn/apache/hive/hive-3.1.2/ 解压后,查看apache-hive-3.1.2-src/pom.xml文件 部分内容如下(line 150: <hadoop.version>3.1.0</hadoop.version>) 即,hive-3.1.2对应的ha

程序媛 9510
上一篇: Hive学习!(1)安装MySQL (2)准备工作 hadoop5个进程 ,mysql服务器
下一篇: Linux 脚本执行遇到错误时中止,shell 文件内容替换 sed用法
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值